Anthropic AI发现新的密码学弱点
The Decoder··作者 Matthias Bastian
关键信息
Anthropic称，HAWK攻击是在大约60小时内、通过半自主的多智能体系统发现的；而AES研究则使用了一个支架，让模型能够提出假设并测试，最终形成一种名为“Möbius Bridge”的新指纹识别方法。两次运行的API费用都约为10万美元，人类研究者主要负责项目管理并在事后验证结果。
资讯摘要
Anthropic表示，其Claude Mythos Preview模型发现了支撑互联网安全的密码学算法中的数学弱点。公司称，该模型对后量子数字签名方案HAWK提出了改进攻击，并且还找到了针对简化版AES的新攻击。Anthropic强调，这两个结果都不会影响当前正在使用的系统。HAWK仍只是NIST正在进行的标准化流程中的候选方案，而AES方面的结果也只适用于一个经过修改、只使用10轮中的7轮的版本。根据Anthropic的说法，HAWK攻击是在一个半自主的多智能体系统中经过大约60小时发现的，尽管人类专家已经研究该方案两年多。公司称，模型找到了HAWK所依赖的格结构中一个此前未被发现的对称性，而且其中一个智能体一开始还认为这个思路不可行，后来另一个智能体才找到利用方法。
对于AES问题，Anthropic表示，研究人员搭建了一个支架，让Claude能够提出假设并通过实验验证，最终模型形成了一种名为“Möbius Bridge”的新指纹识别方法。Anthropic称，这种方法去掉了攻击者必须做出的一个猜测，并把已知最佳攻击提升了200到800倍。AES任务最初因为模型认为问题太难而停滞，但在研究人员鼓励其寻找“真正新颖的想法”后，它开始采用更有创造性的路径。Anthropic说，这项AES工作在三天内生成了数亿个token，总API费用约为10万美元，随后由并非密码学专家的人类研究者花费数百小时核查结果。公司还表示，已提前向美国政府和行业合作伙伴通报这些发现，并且仍然限制对Mythos的访问。
资讯正文
Anthropic 表示，其 Mythos 模型发现了保护互联网安全的加密算法中的漏洞
要点
- Anthropic 的 AI 模型 Claude Mythos Preview 在加密算法中发现了数学弱点，其中包括 AES 的一个简化版本。AES 是全球使用最广泛的对称加密标准。Anthropic 表示，这些发现对当前正在使用的系统没有立即影响。
- 该模型在一个多智能体系统中基本独立完成工作，开发出了两种攻击方法，每种方法的 API 成本约为 10 万美元。
- 据 Anthropic 称，人类研究人员主要负责项目管理、提供简单提示，并在后期验证结果。
Anthropic 的 AI 模型 Claude Mythos Preview 发现了支撑数字安全的加密算法中的数学弱点。
据 Anthropic 称，该模型针对后量子签名方案 HAWK 开发出了一种改进的攻击方法，并针对高级加密标准（AES）的一个简化版本开发出了一种新的攻击方法。加密保护着人们在网上几乎做的所有事情，而 AES 是全球使用最广泛的对称加密标准，用于数字数据保护。
Anthropic 表示，这两项发现都不会影响今天正在使用的系统。HAWK 只是美国国家标准与技术研究院（NIST）正在推进的标准化流程中的一个候选方案，而针对 AES 的攻击则适用于一个经过修改的版本，该版本只使用了完整方案 10 轮中的 7 轮。不过，这些结果仍显示出，AI 模型可能如何挑战互联网安全背后的核心假设。
Mythos 用 10 万美元在 60 小时内发现了 HAWK 攻击方法
HAWK 是 NIST 额外后量子签名竞赛第三轮中剩余的方案之一。这些方案旨在即使面对未来的量子计算机也能保持安全。Anthropic 表示，人类专家已经审查 HAWK 两年多，但 Mythos Preview 只用了 60 小时就发现了一种改进的攻击方法。
据报告称，这种攻击利用了 HAWK 安全性所依赖的数学格中的一个此前未被发现的对称性。Mythos 在一个多智能体系统中半自主地完成了这一发现。报告称，最初有一个智能体试图将这一想法否定为不可行，但第二个智能体找到了一种完全利用它的方法。
Anthropic 表示，这位人类研究员有理论计算机科学背景，但并非基于格的密码学专家。他的角色主要限于项目管理。API 总成本约为 10 万美元。
Mythos 最初拒绝了 AES 任务，随后找到了新的攻击方法
据 Anthropic 称，该模型几乎完全独立地发现了针对 AES-128 简化版本的攻击。研究人员搭建了一个支架，使 Claude 能够提出假设并通过实验进行检验。随后，Mythos 开发出一种 Anthropic 称为“ Möbius Bridge ”的新指纹识别方法。
这种方法减少了攻击者必须做出的一个猜测，并且相较于此前已知的最佳攻击方法，将性能提升了 200 到 800 倍。
人工提示只起到很小的作用。该模型最初拒绝处理这个问题，因为它认为进一步改进已不可能，并写道：“如果你想要不同的结果，目标就必须改变……AES-128 r5/r6 确实非常难。”在研究人员鼓励它寻找“真正新颖的想法”之后，Mythos 才开始尝试更具创造性的方法。
在三天时间里，该模型随后生成了数亿个 token，而研究人员只又给出了三个实质性提示，主要是为了让它保持在正轨上。其中一个提示只是写道：“再次强调，我们不是在寻找触手可及的成果，我们需要真正的研究来发现真正困难的发现。”
这次运行还花费了大约 10 万美元的 API 费用，处理了约 10 亿个 token。Anthropic 表示，此后并非密码学专家的人类研究人员又花了数百小时来检查结果。
Anthropic 已分享这些发现，并仍限制对 Mythos 的访问
Anthropic 已提前与美国政府和行业合作伙伴分享了这些发现。它还就 HAWK 弱点与该方案的作者协调了披露事宜。Mythos Preview 仍对公众不可用。
Anthropic 还与苏黎世联邦理工学院、特拉维夫大学和海法大学的研究人员合作，开发了一项名为 CryptanalysisBench 的基准测试，使他人能够系统评估语言模型的密码分析能力。
来源与参考