Anthropic为AI硬件代理制定规则
WIRED AI··作者 Will Knight
关键信息
Anthropic表示，这一标准旨在规定模型在控制硬件时可以做什么、不能做什么，并加入防护机制以避免滥用和事故。公司还把它视为此前Model Context Protocol的硬件版本，后者用于标准化模型与软件工具的交互。
资讯摘要
Anthropic发布了一个名为Model Hardware Standard的新框架，旨在帮助AI代理安全地与物理系统交互。其目标设备包括显微镜、液体处理设备、量子计算硬件、制造机器和机械臂。公司表示，这套标准本质上是一组规则，用来说明AI代理在这些硬件面前应该如何行动、又不应该做什么。Anthropic将这项工作描述为让AI在不引入不必要物理风险的前提下，加速科学研究和工业流程的一部分。共同负责该项目的量子物理学家Alek Kemeny说，核心目标是把文献检索、数据分析与实验工作真正连接起来。
参与该项目的实验生物学家Jonah Cool则表示，科学设备通常需要很高的专业知识来配置并连接到其他硬件，AI可以自动化其中大量复杂工程。Anthropic称，他们正与制造商和可信合作伙伴合作，在正式广泛开放前进一步完善标准。公司认为，模型内部的安全护栏应能帮助防止滥用，尽管让AI直接控制硬件也会带来新的安全问题。该消息发布之际，AI代理正被视为继聊天机器人之后的下一步，但它们在自主行动时也可能带来风险。Anthropic此前推出过Model Context Protocol，用于标准化AI系统与软件程序之间的连接。
资讯正文
人工智能公司今天公布了一项新框架的细节，旨在帮助 AI 智能体使用显微镜、液体处理设备、量子计算硬件、制造机器和机械臂等物理系统。
这项名为 Model Hardware Standard 的框架，是一套规定 AI 智能体应当——以及不应当——如何与各种硬件交互的规则。它反映出一种日益增长的信念：如果能够安全地进入物理世界，AI 有可能彻底改变科学研究以及制造业等行业。
该公司表示，在将其正式开放之前，会与可信赖的合作伙伴合作，确定如何最大限度地提高安全性。尽管其中涉及潜在的滥用问题——例如开发生物武器——但该公司称，内置于 AI 模型本身的安全护栏应当足以阻止不法分子利用这项新标准从事恶意用途。
“推动因素是希望加速科学，”共同主导这一开发工作的量子物理学家 Alek Kemeny 说。“我们如何才能把加速文献检索和数据分析这件事，闭环到实验世界里，并把这种能力带过去？”
Claude 和其他聊天机器人已经是强大的工具，能够梳理大量以科学论文或实验结果形式呈现的信息，从中发现新的见解和想法。AI 智能体通常被视为继聊天机器人之后的下一步：它们被设计为执行动作，通常是在普通电脑上，比如回复电子邮件。它们也有可能使用其他硬件——而 Anthropic 希望在它们这样做时确保有相应规则可循。
多家资金雄厚的初创公司正在推进由 AI 智能体驱动科学发现的愿景，包括 Periodic Labs、LILA Sciences、Edison Scientific 和 Discovery Loop，后者由几位知名的前 Google 研究人员创立。其中一个关键想法是，AI 可以在一个递归循环中提出并测试科学假设，从而基本上实现科学发现的自动化。
在 Anthropic 参与该标准工作的实验生物学家 Jonah Cool 说，配置科学设备并让它与其他硬件协同工作，通常需要相当深厚的专业知识。AI 可以通过配置机器并让它们彼此通信，自动化其中大量复杂的工程工作。
Anthropic 正在与多家制造商合作制定这一标准。Kemeny 说：“我们开始看到一些案例：你知道，你有多个机器人系统，而在过去它们本来需要专门编写代码。”他补充说，借助这项新标准，Claude 可以查看工厂产线上的机器人，并判断如何优化它们的行为。
最近，AI 智能体频频登上新闻，但原因都不太光彩。Anthropic、OpenAI 以及其他公司最近都发现了一些案例：被指派解决网络安全问题的 AI 智能体，暗中入侵了外部系统，并试图欺骗人工用户。
让 AI 使用物理系统会带来新的风险，因为这可能损坏物理系统，或者伤害人类。例如，实验已经表明，AI 模型可能会被诱骗得让机器人行为失常。
Anthropic表示，这项新标准将使科学家和工程师能够规定 AI 模型应如何避免使用不同的硬件，以防止发生意外。
Anthropic 此前曾推出 Model Context Protocol，该协议规定了让 AI 模型与不同软件程序交互的规则。
来源与参考
收录于 2026-08-28