77%的IT经理表示AI代理已失控
ZDNET AI··作者 Joe McKendrick
关键信息
调查显示，81%的AI代理需要的人工监督超过它们带来的效率节省，且几乎所有的受访者都缺乏回滚意外操作的能力；只有23%的人表示拥有完全控制权。
资讯摘要
Rubrik ZeroLabs的新调查表明，77%的IT经理认为他们的AI代理已失控，仅有23%的人拥有完全的可见性和管理权限。许多代理带来的手动工作量远超其提升的生产力，且因未经授权部署而严重削弱了安全性。报告警告称，代理泛滥类似于早期云计算的问题——工具碎片化、策略不一致且无集中库存清单。
受访者还缺乏必要的可观测性功能，如可追溯性、审计日志和回滚能力。专家强调，代理管理必须成为企业IT中的‘首要职责’。
资讯正文
77%的IT经理表示，他们的AI代理已失控——5种方法帮你重新掌控
根据Rubrik ZeroLabs最新发布的调查报告，只有23%的IT经理表示他们对组织内的AI代理拥有‘完全’控制权。更令人担忧的是，这些代理并未如预期那样提升生产力：81%的受访者表示，他们所管理的代理需要比其通过流程优化节省的时间还要多的手动审计和监控时间。安全方面也表现不佳。
报告作者指出，创建AI代理非常容易，但问题在于用户常常会关闭VPN或绕过其他安全控制措施来部署代理作为助手。这导致了大量未经批准的AI应用在内部和供应商端同时出现。
代理泛滥的情况类似于早期云计算的采用阶段。微软高级产品经理Kriti Faujdar表示：“我们已经看到与早期云采用相似的模式，即各团队独立使用不同的框架和供应商创建代理，从而引发碎片化、治理不一致以及隐藏的安全漏洞。”
ZeroLabs调查还发现，IT经理们对代理控制的感知与其实际操作情况之间存在明显脱节。几乎所有的IT经理（86%）预计，未来一年内代理的扩散将超过安全防护措施；超过一半（52%）认为这种情况将在未来六个月内发生。此外，几乎所有受访者都表示缺乏必要的‘撤销’功能，无法回滚意外的代理行为。
行业观察人士担心，随着代理在企业系统中的普及，这种泛滥现象变得越来越难以管理和控制。安全AI联盟首席工程师Nik Kale表示：“任何拥有API访问权限的团队都可以在半天内部署一个代理。在一个大型企业中，如果每个团队都这么做，就会产生数百个权限重叠、身份模型不统一、且无人能提供完整清单的代理。”
代理的可观测性往往极具挑战性，ZeroLabs作者强调，迫切需要建立遥测机制来追踪代理行动链，并设置安全执行点以进行干预。
部署后需回答的5个关键问题
根据ZeroLabs研究作者的建议，要跟踪代理的有效性，必须在部署后回答以下问题：
代理做了什么？
被称为‘可追溯性’，这是指能够重放或至少重建发生了什么的能力。它为什么会这么做？代理认为是什么导致它采取某些步骤？它接触了什么？审计日志应包含代理所交互过的任何数据或工具的完整列表。它是否安全地成功了，成本如何？组织如何衡量任务成功率、引用输出、政策违规或人工升级情况，以准确理解投资回报率？它在哪里失败了？我们能否重现这种失败以便解决？报告指出，这些问题目前尚未得到回答。因此，许多管理员及其组织无法‘定义可接受的代理行为；审计代理可以访问的资源和工具；制定触发人工介入的政策；或回滚代理操作’。
Faujdar表示，随着代理自主行动，它们比传统软件带来更大的风险。在当今环境中，存在速度与治理之间的权衡。‘组织希望快速推进，但如果没有明确的规范，他们可能会创建难以信任、审计或扩展的系统。赢家将是那些将代理管理视为首要任务，而非事后补充的人。’
保持代理的最新状态也是一个棘手的挑战——因为它们的基础模型往往会发生漂移。Liberty91创始人兼CEO Renze Jongman表示：‘你在第一季度认证的代理，在第三季度时行为已经不同了，这并非平台的问题。你的治理模型必须假设环境是不断变化的。’
此外：我询问了5位数据负责人，他们如何利用AI实现自动化，并终结集成噩梦。
Kale指出，目前‘有太多代理在没有任何治理边界内运行，包括团队自己构建的代理’。他建议将代理堆栈中的编排层与模型层和治理层分开。‘如果三者都存在于一个供应商的平台上，你就相当于在一份合同中交出了代理的大脑、权限及其责任链条。’
Kale补充道，代理监督应涉及安全、架构以及负责结果的业务部门，而不仅仅是希望最快交付的团队。
来源与参考
收录于 2026-04-29