哈萨比斯呼吁现在就建立AI护栏
The Decoder··作者 Matthias Bastian
关键信息
哈萨比斯表示，这个机构将先从自愿评测开始，采用定期更新的基准，并由行业而非政府出资。他还表示，初创公司或学术实验室的非前沿模型将被豁免，这旨在缓解“监管俘获”的担忧。
资讯摘要
Google DeepMind 首席执行官德米斯·哈萨比斯发布了一份关于先进AI治理的详细提案，核心背景是这项技术正快速逼近 AGI。哈萨比斯认为，AGI 可能会在未来几年内到来，他也再次强调，其影响可能比工业革命大十倍、但到来速度快十倍。与此同时，他指出技术进展已经快于社会对它的理解，因此当前更需要提前准备，而不是恐慌。该提案的核心，是建立一个新的美国标准机构，模式部分借鉴金融监管机构 FINRA。这个机构将为前沿AI模型制定评测协议，先以自愿方式运行，随后在必要时转为强制。哈萨比斯建议该机构由行业出资，并依赖会随着技术变化而定期更新的基准测试。
他还认为，国际社会需要在最关键的标准上达成一致，因为AI的发展是全球性的。与此同时，这个机构还可以在必要时协调放缓开发，但初创公司和学术研究者的非前沿模型将被排除在外，以减少“监管俘获”的质疑。文章还把这一提案放在更广泛的AI社会经济争论中来看，包括对大规模失业风险的担忧。哈萨比斯的表述并不煽动，而是强调“没人知道接下来会发生什么”，但在高度不确定且后果重大的情况下，采取“谨慎乐观”才是正确策略。文章最后提到，这一观点也与AI领袖之间持续的分歧有关，尤其是围绕语言模型是否会通向通用智能的争论。
资讯正文
Deepmind CEO Hassabis表示“世界上没有人知道接下来会发生什么”，因此“谨慎乐观”意味着现在就要建立护栏。
Google Deepmind 首席执行官 Demis Hassabis 发布了一份关于治理先进 AI 的详细框架提案。
根据 Hassabis 的说法，通用人工智能（AGI）可能只剩几年时间。他刚刚重复了自己在 4 月提出的一项说法：其影响可能比工业革命大十倍，且到来速度快十倍。与此同时，技术进步正超过我们对它的理解。早在 5 月，Deepmind 负责人就认为人类已经“站在奇点的山脚下”，这一说法引发了广泛争议。
现在，Hassabis 提议仿照金融监管机构 FINRA 设立一个新的美国标准机构。它将为前沿模型制定评估协议，先从自愿参与开始，之后再变成强制要求。该机构将由行业资助，并使用定期更新的基准。随后，国际社会也需要效仿，并在最关键的问题上达成共识。
如有必要，该机构还可以协调放缓开发，类似 Anthropic 最近曾考虑过的做法。Hassabis 强调，来自初创公司或学术研究的非前沿模型将被豁免。这也就避开了“监管俘获”的指控——即既有公司试图利用监管来压制规模较小的竞争对手。
“世界上没有人能确定从这里往后会发生什么”
Hassabis 提出这一建议的时机很可能并非巧合。就在此前不久，一封由一批知名 AI 研究人员和经济学家签署的公开信警告称，大规模 AI 驱动的失业可能带来深远后果。尽管他关于潜在后果的论点听起来相似，Hassabis 并未签署那封信。不过，他的提案在不显得危言耸听的前提下，对应对措施给出了更具体的说明。
Hassabis 写道：“世界上没有人能确定从这里往后会发生什么，甚至专家们也存在分歧。当不确定性很大，而利害关系又如此重大时，带着谨慎的乐观继续前进，才是明智且正确的策略。”
去年 12 月，专家之间的分歧在一场公开争论中表现得淋漓尽致，而 Hassabis 本人也卷入其中。Yann LeCun 称基于语言模型的通用智能概念是“彻头彻尾的胡扯”和“完全妄想”。Hassabis 随即公开反驳，称 LeCun“完全错了”。
Gemini 联合负责人 Oriol Vinyals 提供了一个折中观点：如今的模型在某些方面很强，但真正创新的能力仍然缺失。深度学习先驱 Richard Sutton 也持类似看法，并刚刚宣布成立自己的初创公司 Oak Labs 来解决这一问题。Deepmind 联合创始人 Shane Legg 则认为，“最低限度的 AGI”最早可能在 2028 年出现。
来源与参考
收录于 2026-07-15