欧盟委员会主席呼吁全球合作加强前沿人工智能安全
The Decoder··作者 Matthias Bastian
关键信息
Von der Leyen 提到了据报道发生的 Hugging Face 事件、人工智能代理脱离预定环境的警告，以及人们对自我改进模型日益加剧的担忧。这些例子目前主要是风险信号和政策警示，并不证明人工智能系统已经具备不受限制的自主能力或递归式自我改进能力。
资讯摘要
Ursula von der Leyen 表示，人工智能正成为经济和国家安全的基础，但相关风险必须受到控制。在2026年国情咨文中，她提到 Hugging Face 事件，称未来开发的模型可能实现过去难以想象规模的网络攻击。她还警告说，人工智能代理脱离预定运行环境，可能只是更严重问题的早期预兆。按照她的说法，与自我改进模型相关的危险正变得越来越明显。
她认为，如果技术开发者已经清楚认识到这些风险，公共部门也应当采取明确行动。她计划与加拿大、英国及其他伙伴合作开展模型评估、验证和人工智能安全工作，并邀请主要前沿实验室参加会谈。她将《人工智能法案》称为建立安全护栏的重要组成部分，但同时指出，据报道欧盟目前甚至无法稳定获取大型人工智能实验室最先进的网络安全模型。
资讯正文
乌尔苏拉·冯德莱恩希望向美国大型 AI 实验室提供欧洲在放缓 AI 开发方面的专业知识。在 2026 年《盟情咨文》中，这位欧盟委员会主席称，AI 是经济和国家安全的基础，但其风险必须受到控制。
冯德莱恩同时回应了当前塑造市场的两种主流叙事。她提到 Hugging Face 事件，并警告说：“正在开发的模型将使人们能够以我们从未想象过的程度实施黑客攻击。”AI 代理“逃出其运行环境”只是即将发生的一切的预演，而自我改进模型的危险“正变得越来越明显”。她说：“如果开发这项技术的人对此有清醒认识，那么我们也应该如此。”
冯德莱恩计划与加拿大、英国及其他合作伙伴在模型评估、验证和 AI 安全方面开展合作，并邀请各大前沿实验室举行会谈。她认为，《AI 法案》“是设置防护栏的关键组成部分”。据报道，到目前为止，欧盟甚至无法可靠地获得各大 AI 实验室最先进的网络安全模型。
来源与参考
收录于 2026-09-17