微软提出AI代理控制开放标准

关键信息

微软表示，ACS 会在多个“拦截点”检查策略：在代理接收输入前、调用工具前、工具返回后，以及最终回复用户前。它可以允许、阻止、脱敏或要求人工批准；微软还将其作为 SDK 发布，并提供针对 LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCP 工具等的插件。

资讯摘要

微软正在提出一项名为 Agent Control Specification，简称 ACS 的开源标准，帮助企业在 AI 代理越来越多地嵌入产品和工作流时，更可靠地控制它们的行为。微软表示，这一方案的目标是为开发者、合规团队和安全团队提供一种更一致、更细粒度的代理策略系统。根据 ACS，策略文件可以定义代理允许做什么、禁止做什么、哪些动作必须经过人工批准，以及为了后续审查必须记录哪些证据。微软称，这些策略不是只在任务开始或结束时检查一次，而是在代理执行过程中多个“拦截点”持续生效。

具体来说，这些检查会发生在代理接收输入之前、调用工具之前、工具返回结果之后，以及最终回复发送给用户之前。根据策略不同，系统可以允许某个动作、阻止某个动作、对信息进行脱敏，或者把操作交给人工审批。微软还表示，开发者可以使用分类器和基于 LLM 的“裁判”来对数据分类、预测结果，并判断策略是否被遵守。该公司将把 ACS 作为一个 SDK 发布，并为 LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI 和 MCP 工具等提供插件支持。

资讯正文

随着 AI 智能体变得越来越强大，争相将其投入到应用、工作流和产品中的企业面临着一个新挑战：当一个智能体部署在不同环境中时，如何确保它能按预期执行任务。

微软正试图通过一项名为 Agent Control Specification（ACS）的新开源标准来解决这个问题，该标准旨在为开发者提供一种更一致、更细粒度的方式，来控制 AI 智能体被允许做什么。

这项规范本质上让开发、合规和安全团队能够为智能体定义自己的策略，规定智能体应遵循哪些规则。这些规则可以定义智能体可以做什么、绝不能做什么、何时应由人工批准某项操作，以及应记录哪些证据供后续审查。这些策略文件会在智能体执行任务时的若干“拦截点”进行检查，以确保其始终处于设定的护栏之内。

这项规范出现之际，开发者们正在自行摸索如何控制 AI 能看到什么、会做什么，尤其是在围绕 AI 工作流因工具误用或意外操作而出错、并引发连锁故障的讨论不断增加之时。

如今，开发者可能会在系统提示词中写入指令，在应用代码里加入自定义检查，或者使用分类器来捕捉有问题的输入和输出。这些方法确实可行，但往往会让企业留下碎片化的控制机制，这些机制不仅难以审计，也更难在不同框架、界面和系统之间复用。

ACS 旨在把这些控制整合进一个通用治理层。微软表示，该规范可用于在智能体工作流的多个节点检查其是否遵守护栏——包括在接收输入之前、在调用工具之前、在工具返回结果之后，以及在最终响应发送给用户之前。某项策略可以允许某个操作、阻止它、对敏感信息进行脱敏，甚至要求人工批准。

开发者还可以插入用于输入和输出的分类器，以对信息进行分类、预测结果，或判断智能体应如何回应；添加带提示词的 LLM 作为策略的“裁判”；以及用于检查工具调用、工具选择、输入准确性、输出使用情况和响应的逻辑。

而且，由于这些策略可以写成单个文件，它们还能与智能体一起打包，从而让安全策略能够随着智能体跨越不同框架和环境。

ACS 将以 SDK 形式发布，并提供面向 LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCP tools 等的插件。

来源与参考

1. 原始链接
2. Microsoft offers devs a better way to control AI agent behavior | TechCrunch
3. Microsoft’s Project Solara is an OS for AI agent gadgets