普华永道发现企业仍无法明确人工智能风险责任

ZDNET AI··作者 Charlie Osborne

关键信息

在首席执行官以及安全或风险负责人中,29%认为责任应由首席信息官、首席技术官或类似技术岗位承担,17%选择首席信息安全官或网络安全团队,26%选择专门的人工智能负责人或部门,另有11%表示责任仍不明确。调查还发现,47%的董事会将网络安全列为固定议题,约三分之一的组织已经设立专门的人工智能岗位。

资讯摘要

人工智能正在广泛进入企业应用、大语言模型、聊天机器人以及日益自主的智能体系统。此类系统能够改善运营并减少人工工作,但也带来了未经授权的行为、安全事件以及进入企业网络的新入口等风险。普华永道《数字信任洞察2027》报告调查了来自71个国家和地区的约4000名商业和技术领导者。调查发现,尽管许多组织已经认识到问责的必要性,但目前没有任何一个高管岗位明确负责智能体人工智能及其安全影响。

29%的受访者将责任归于首席信息官、首席技术官或类似技术负责人,17%归于首席信息安全官或网络安全团队,26%则支持由专门的人工智能负责人或部门承担责任。另有11%的受访者表示,责任不清晰,或由多个岗位共同承担。普华永道还发现,47%的董事会将网络安全列为固定议题,十分之九的商业领导者表示更广泛的风险管理和问责机制已经建立,约三分之一的组织设立了专门的人工智能岗位。文章认为,企业未来可能设立首席人工智能安全官等职位,同时把成熟的身份和访问控制应用于人工智能智能体,因为每个智能体都拥有凭证、权限,并能够代表人类用户执行操作。

普华永道发现企业仍无法明确人工智能风险责任

资讯正文

ZDNET 要点

- PwC 的调查显示,企业领导者无法就应由谁对 AI 负责达成一致。

- AI 智能体可能缺乏目前用于管理员工的身份控制机制。

- 设立专门的 AI 高管或负责人是否就是答案?

人工智能(AI)的采用率持续飙升,从企业应用程序,到帮助用户完成外卖配送等事务的聊天机器人,智能体 AI 和大型语言模型(LLM)如今已被整合到各种场景之中。

AI 的优势显而易见:它可以简化业务运营、减少人工工作量、充当研究和分析助手,并为员工提供工具,让日常工作不再那么繁重和耗时。

但我们现在也开始面对相应的代价:失控的 AI 模型、“友好型 AI”入侵无辜公司、可能多达数千起正在调查的 AI 相关安全事件,以及成为企业网络新入口的 AI 智能体。

当问题发生时,究竟应该由谁负责并承担 AI 的管理责任?根据 PwC 的一项最新研究,企业对此无法达成一致。

网络安全与董事会中的 AI 议题

周五,PwC 发布了《Digital Trust Insights 2027》报告。该报告调查了来自 71 个国家的约 4,000 名商业和技术领导者。

调查显示,目前没有任何一个职位明确负责管理智能体 AI 或保障其安全,不过,在大约一半的企业中,董事会层面已经认识到 AI 的优势和弊端。

总体而言,47% 的受访者表示,网络安全是董事会的固定议题,这一比例远远不够。不过,相关基础已经具备:十分之九的商业领导者表示,董事会监督、高管问责和企业风险整合等实践如今已经落实。

在 AI 方面,约三分之一的组织(33%)已经意识到建立问责机制的必要性,并为此聘用了专门的 AI 职位,包括首席 AI 官和 AI 董事会成员。

CEO、CIO、CISO,还是 AI 负责人?

PwC 的研究揭示了企业领域存在的一个问题:这些 AI 职位是否也应承担总体问责责任,或负责 AI 相关的安全与治理。

总体而言,29% 的 CEO 以及安全和风险负责人表示,问责责任应由 CIO、CTO 或类似的技术职位承担。17% 的受访者认为,这项责任属于 CISO 或网络安全团队;另有 26% 的人认为,责任应由“专门的 AI 负责人或 AI 职能部门”承担。

此外,11% 的受访者表示,问责关系并不明确,相关责任由多个职位或职能部门共同承担。

研究表明,尽管企业已经认识到,需要有人对智能体 AI,以及围绕其部署、监控和安全保障产生的安全问题承担责任,但目前尚未明确界定责任链条。

直到 1994 年,Citigroup 才聘请了首位正式的 CISO Steve Katz,负责处理俄罗斯网络攻击造成的后果。如今,一家中型或大型企业没有 CISO,几乎已经令人难以想象。

CIO 和 CISO 通常已经要处理大量事务,因此,如果再让他们承担与 AI 相关的新安全管理和控制职责,负担可能会过重。果真如此,我们或许即将迎来一轮新的招聘热潮,企业将招募与 CISO 对应的 AI 专家——CAISO,即首席 AI 安全官。

技术能否弥合这一差距?

在企业普遍尝试界定 AI 问责机制、并在不同职位之间划分责任之际,如今技术也能帮助企业维持对其 AI 智能体的控制。

RSA 首席产品与战略官 Jim Taylor 告诉 ZDNET,数十年来用于保护人类用户的身份控制机制,同样需要用来管理智能体式 AI。

人们很容易忽略,每个 AI 模型或智能体式 AI 部署都有自己的身份。它们与一组凭证相关联,对资源和信息拥有不同级别的访问权限,并且能够执行任务或代表人类员工采取行动。

正如我们使用密码、零信任原则、多因素身份验证(MFA)以及其他访问控制手段来验证身份一样,Taylor 建议,每个智能体式 AI 系统都应具备“数十年来一直用于保护人类用户的同等身份控制机制”。

这并不意味着不再需要由管理层级的人类负责人进行监督,但通过智能体式 AI 治理控制来加强安全,组织可以更充分地应对与 AI 相关的持续风险。

例如,企业可以通过一个集中式平台登记获准在公司网络中运行的 AI 智能体,并将每个智能体与一名人类负责人绑定,由后者亲自授权高风险操作。Taylor 还建议,部署 AI 的组织应确保落实与行业框架相对应的治理控制措施,定期评估 AI 智能体,并在不再需要它们时将其停用。

Taylor 评论道:“企业将继续投资 AI,但它们引入的是一批看不见、也无法控制的‘员工’。这些智能体不会因违反合规要求而被追责,但组织会。如果企业确实部署了智能体,就需要具备保障其安全的手段。”

来源与参考

  1. 原始链接
  2. Who owns AI risk at work? Business and tech leaders can’t agree, PwC survey finds - ZDNET

收录于 2026-10-02