AI 代理激增推动代理管理平台兴起

ZDNET AI··作者 Joe McKendrick

关键信息

文章指出,未纳入管理框架的代理很像影子 IT:它们可能短期内能运行,但一旦出问题,就可能没有审计记录、版本控制或治理机制可供追溯。文中还提到,当前市场上的相关产品包括 Google Vertex AI Agent Builder、Amazon Bedrock Agents、Microsoft 365 Copilot、Decagon AI 和 Sierra AI,它们的能力从编排到多代理自动化不等,但仍可能受身份管理层限制。

资讯摘要

ZDNET 认为,AI 代理的快速增长正在制造一个新的企业问题:代理泛滥。随着目前已有数百万个代理上线,未来几年还会继续大幅增加,企业开始寻找能够管理这些系统的工具,而不是把每个代理都当作独立项目来处理。文章把代理管理平台描述为一种新兴技术类别,目的是协调 AI 代理网络。Shelly Palmer 将未受管理的代理比作影子 IT,并警告说,一旦发生故障,企业可能没有审计记录、版本控制或治理机制可追溯。CrowdStrike 的 Diptamay Sanyal 认为,企业应把代理视为基础设施而不是功能,因为否则就会出现大量缺乏共享上下文、可复用模式和一致监督的代理。

他指出,一个合适的平台应提供可组合原语、多租户隔离、跨 LLM 提供商的模型路由,以及对代理行为的可观测性。文章还强调,许多代理都需要访问同一批数据,这会带来治理问题,GitLab 的 CIO Manu Narayan 将其称为 AI 治理挑战。其他专家提醒说,如果内部团队或供应商各自独立部署代理,就会产生重复建设、行为不一致、隐性成本和安全暴露。Info-Tech Research Group 的 Brian Jackson 进一步指出,面向消费者的自动化工具可能让企业更难追踪已部署的代理,尤其是在发现能力受身份管理层限制时。

AI 代理激增推动代理管理平台兴起

资讯正文

ZDNET 的要点

代理数量持续增长,增加了“蔓延失控”的风险。

专业人士必须考虑使用代理管理系统。

这些系统可以帮助管理代理蔓延,但也要警惕其中的挑战。

据 Statista 称,全球企业目前拥有 2860 万个活跃代理,预计到 2030 年这一数字将超过 22 亿。代理管理者需要为这个不断扩大的领域带来管理思维。那么,AI 代理的蔓延能被遏制吗?一些供应商正在尝试,这催生了一个新的技术类别——代理管理系统,其任务是管理 AI 代理网络。

构建平台

代理管理平台本质上相当于 AI 代理的数字人力资源部门,专家认为现在正是推出此类产品的合适时机。

在管理框架之外运行的代理,本质上就相当于 AI 版的影子 IT。

锡拉丘兹大学教授、The Palmer Group 首席执行官 Shelly Palmer 指出:“它在失效之前都能运行,而当它停止工作时,你没有审计追踪,没有版本控制,也没有可依赖的治理机制。”

市场上的代理管理解决方案包括 Google Vertex AI Agent Builder、Amazon Bedrock Agents、Microsoft 365 Copilot、Decagon AI 和 Sierra AI,它们用途各异,从系统编排到多代理自动化不等。

这些平台对 agentic automation 的未来至关重要。CrowdStrike 首席工程师 Diptamay Sanyal 表示,成功的关键在于“把代理视为基础设施,而不是功能”。

代理并不是一次性搭建就结束的东西。Sanyal 说:“问题在于,你最终会得到几十个代理,却没有共享上下文模型,没有一致的治理,也没有可复用的模式。一个合适的管理平台会为你提供可组合的基础原语、多租户隔离、跨 LLM 提供商的模型路由,以及对代理实际行为的可观测性。”

应对蔓延

随着代理数量以百万计增长,并承担从销售到软件开发的各种任务,最大的难题在于,它们都想访问同一份数据。

GitLab 首席信息官 Manu Narayan 表示:“这会带来 AI 治理挑战。如果你没有有意地构建 AI 技术栈,最终可能会有几十家供应商,以及它们所有的代理,都握着通往核心系统的钥匙。”

德州农工大学软件工程师 Yash Vijay Patil 表示,这种情况会导致代理蔓延,也就是“一个由松散管理的代理组成的碎片化生态系统,它们行为不一致、功能重复、所有权不明确。”Patil 说:“如果没有强有力的治理,这种蔓延会导致运营效率低下,并增加风险暴露。”

AT&T 首席数据与 AI 工程师 Monika Malik 表示,许多供应商和内部团队正在为特定用例构建代理解决方案,但它们往往缺乏共享的身份模型、生命周期政策或风险框架。

“这种做法会造成重复、行为不一致、隐藏成本以及安全暴露。问题不会是代理太少,而是未受管理的代理太多。”

Info-Tech Research Group 首席研究总监 Brian Jackson 表示,随着 OpenClaw 这类消费级选项的流行,代理网络的复杂性也在加剧。“可以安全地假设,一些员工会尝试用这些工具来自动化他们的工作任务。这就会带来一个问题:如何追踪你在企业环境中部署的所有代理。虽然不同的管理平台声称它们可以发现系统中部署的代理,但事实是,它们受限于身份管理层。”

Jackson 说,代理管理平台提供的好处之一是可观察性,因此你能知道自己在使用哪些代理,以及它们在做什么。除此之外:借助这 3 个最佳实践,让你的“人类级代理”有一个更好的起跑开局。

此外,这些平台还能通过“使用集中式策略为代理能做什么、不能做什么设置护栏,并确保它们与企业目标保持一致”来实现治理。最终,这类系统还能实现价值兑现,因为它们“会随着时间推移监控性能,确保代理的成本和产出符合预期,并为工作增加价值”,他补充道。

AT&T 的 Malik 表示,这类管理平台的作用是“为组织如何部署、监控、保护并持续增强其代理提供一个控制层”。“这些平台的主要优势不仅在于编排,更在于运营纪律:让你看清代理在做什么、它们从哪里获取数据、它们如何做出决策,以及何时需要人工监督。”

了解市场趋势

不过,Jackson 指出,供应商之间争夺 agentic 管理领域主导权的竞争非常激烈。“这将成为一个战略性位置,企业会在这里构建工作流,并与某个生态系统建立更深层次的联系,”他说。

此外:在 AI 时代,你的企业不能犯错的 5 项安全战术——以及它们为何至关重要。

因此,Jackson 继续说,许多代理实施方案将与不同业务线中熟悉的系统记录绑定在一起。“你最终会看到一种情况:市场部门在管理那些原本属于 CRM 平台的代理,而 IT 部门则从资产管理和可观察性平台来管理代理。”

Texas A&M 的 Patil 表示,随着代理变得越来越自主,“定义清晰边界、监控行为并维护信任将至关重要。”“简而言之,代理管理平台提供了强大的杠杆,但前提是要配合严格的治理和深思熟虑的采用策略。”

Narayan 说,在代理同时跨越多个相互连接的系统运行时,“消除复杂性是一项挑战。”他说:“通过代理管理平台实现整合有助于解决这一点。它们建立了上下文、权限模型、安全控制和数据边界,从而简化了大规模代理编排。”

将这类平台与 hub-and-spoke 模式结合起来,可以帮助你在不减缓采用速度的前提下,更有意识地管理整个 AI 技术栈。

“实施技术”

Agent management platforms 的另一个挑战是,“它们比大多数云选择更难改变,因为它们会塑造工作流、集成、权限和运营模式,”Malik 说。正因如此,采用 agents 需要成为一项企业级决策。从工程、安全、法务、数据治理到业务负责人等所有相关部门都需要参与 agent management platform 的决策。“主要障碍在于避免碎片化采用。组织应将 agent platforms 视为长期运营基础设施,而不仅仅是又一次 AI 工具采购,”Malik 说。

Patil 说,agent platform 的决策很难逆转,因为它们深深嵌入了工作流、数据管道和业务逻辑之中。“应根据互操作性、可扩展性、供应商锁定风险以及对开放标准的支持来评估平台。至关重要的是,决策不应仅仅交给工程团队——包括安全、数据和业务领导在内的跨职能利益相关方必须参与其中。”

另请参阅:为什么企业 AI agents 可能会成为终极内部威胁

此外,专业人士还应记住,要把“数据和工作流从遗留软件平台中迁移出来”已经很困难,Jackson 说。“在此之上再加一层 AI,意味着集成会更深入地进入平台。试图迁移一个 agent management system,就像试图做一次脑移植一样。”

因此,企业在转向 agent management platform 时应优先考虑灵活性。Jackson 说:“要评估你愿意把赌注押在哪些平台上,以及是否尝试在自托管平台上搭建。”“鉴于 agentic workloads 的消耗成本不可预测,构建一个利用内部基础设施、避免将业务流程绑定到按量计费或基于消耗定价的系统,可能是明智之举。”

Sanyal 说,专业人士还应把 agent management platform 的开发和实施“看作数据库选型,而不是 SaaS 工具评估”。“从第一天起就让平台工程、安全和法务参与,而不是等试点成功之后再说。另外,决策也不应由单一业务负责人独自决定。平台工程、安全,以及负责身份和访问模型的人都需要坐在同一张桌子前。”

来源与参考

  1. 原始链接
  2. The rise and risks of agent management platforms

收录于 2026-05-05