Google Cloud称AI安全应进入董事会

关键信息

de Souza 表示，攻击面如今不仅包括传统基础设施，还包括模型、训练数据管道、提示词和代理。他提到，从初始入侵到下一阶段攻击的时间已从 8 小时缩短到 22 秒，并主张采用基于代理的防御，由人类监督自主防御系统。

资讯摘要

Google Cloud 首席运营官 Francis de Souza 在洛杉矶的一场活动上表示，AI 安全必须像商业战略一样被提前规划，不能被当成事后补上的技术问题。他强调，没有数据战略，就不可能有真正的 AI 战略；没有安全战略，也同样不成立。de Souza 的讲话反映出企业内部日益增长的担忧：员工可能已经在没有监督的情况下使用 AI 工具，也就是所谓的“影子 AI”。他还警告说，AI 系统可能会挖掘出组织内部被遗忘的资源，例如埋藏在公司内部的旧 SharePoint 服务器。根据他的说法，攻击面已经远远超出了传统网络边界。

除了常规基础设施之外，企业现在还要保护模型、用于训练模型的数据管道、提示词以及 AI 代理。de Souza 还提到，攻击速度明显加快，从最初入侵到下一阶段攻击的时间已经从 8 小时缩短到 22 秒。为应对这一变化，他主张采用基于代理的防御方式，即由人类监督一个完全自动化的防御系统，而不是手动处理每一步。他同时强调，安全不能等到以后再加，也不能只靠员工各自处理。最后，他认为企业需要跨云和跨模型的统一安全策略，因为即使公司自认为只用了一个云服务商，SaaS 应用和业务合作伙伴通常也会把多个云引入体系中。

资讯正文

Google Cloud 首席运营官称，AI 安全应进入董事会层面，而不只是机房层面

Google Cloud 首席运营官 Francis de Souza 敦促企业从一开始就把安全性纳入其 AI 战略。他在洛杉矶的一场活动上表示：“没有数据战略和安全战略，就不存在 AI 战略。”据 TechCrunch 报道，他还警告了“影子 AI”——即员工在没有公司监管的情况下使用 AI 工具——以及那些会挖掘被遗忘数据源的 AI 智能体，比如组织内部埋藏已久的旧 SharePoint 服务器。

攻击面已经远远超出了传统网络边界。“除了你们通常的资产之外，现在还有模型。还有用于训练模型的数据管道。还有智能体，还有提示词。所有这些都需要受到保护。”从首次入侵到攻击下一阶段之间的时间，已经从 8 小时缩短到 22 秒。de Souza 正在推动基于智能体的防御：“与其采用由人主导的防御，甚至让人处于环路中，你现在可以让人类监督一个完全由智能体驱动的防御。”他认为，AI 安全是一个董事会层面的问题，而不只是 IT 部门的问题。

“安全不是你可以以后再补上的东西，也不是你可以放任员工自己去做的事情，”de Souza 说。按照他的说法，即便企业认为自己只在使用一家提供商，也需要在所有云和所有模型之间建立统一的安全战略。SaaS 应用和业务合作伙伴几乎总会把多个云引入其中。

来源与参考

1. 原始链接
2. Google Cloud COO says AI security belongs in the boardroom, not just the server room