Google称人工智能自我改进仍相距甚远
The Decoder··作者 Matthias Bastian
关键信息
约88%的代码变更仍需要人工监督，而且每次变更在提交前都要经过人工审核。在包含74项真实机器学习工程任务的DeepMind RE-Bench基准上，Argon代理的解决率约为一半，高于Gemini 3.7 Flash的27%；但任务越复杂，成功率下降越明显。
资讯摘要
尽管软件开发已经出现大量自动化，Google DeepMind工程师Haydn Belfield表示，能够自我改进的人工智能仍然离现实很远。如今人工智能在Google编写了超过75%的生产代码，但约88%的代码变更仍需要人工监督或审核，而且每次变更在提交前都必须由人检查。完全交由人工智能处理的代码变更比例从7.5%上升到了11.9%。在1398次内部Argon代理运行中，任务越复杂，代理在没有人工输入时的成功率下降越明显。
Belfield表示，创意研究、新颖实验设计、诊断细微的训练不稳定问题以及长期规划仍然需要人类参与。对12名DeepMind资深研究人员的调查显示，人工智能在定义清晰且可验证的任务上自动化程度最高，在开放式科学构思上的自动化程度最低。在包含74项真实机器学习工程任务的RE-Bench上，Argon大约能解决一半任务，而Gemini 3.7 Flash的比例为27%。DeepMind覆盖123个模型和92个基准测试的通用能力指数显示，Gemini能力以每月约0.1点的稳定速度增长，增长速度没有显著提升，因此团队目前将人工智能驱动研究自动化的风险评估为较低。
资讯正文
谷歌称，自我改进型 AI 还远未实现
谷歌工程师 Haydn Belfield 表示，尽管大规模自动化已经开始普及，自我改进型 AI 仍然相距甚远。
据 Belfield 介绍，Google DeepMind 尚未发现由 AI 自身驱动的 AI 研究出现可测量的加速。这并不意味着大规模自动化尚未发生：如今，AI 编写的代码已占生产代码的 75% 以上。但 Belfield 表示，约 88% 的代码变更仍需要人工监督或审查，而且每项变更在提交前都要经过人工审核。完全交由 AI 处理的代码变更比例则从 7.5% 上升至 11.9%。
任务越复杂、耗时越长，AI 越不可能独立完成。对 1,389 次内部 Argon 智能体运行的统计显示，随着复杂度增加，在没有人工介入的情况下，成功率大幅下降。Belfield 表示，在创意研究、设计新颖的实验、诊断细微的训练不稳定性以及长期规划方面，人类仍不可或缺。对 12 名 DeepMind 资深研究人员进行的调查也证实了这一规律：对于定义明确且可验证的任务，自动化程度最高；对于开放式科学构思，自动化程度最低。
在 DeepMind 的内部基准测试 RE-Bench 上，该测试包含 74 项真实的机器学习工程任务，Argon 能解决其中约一半。这一成绩较 Gemini 3.7 Flash 的 27% 有了大幅提升，但距离全面自动化所需的近乎完美表现仍相去甚远。
谷歌自有能力指数显示，AI 研究并未加速
为系统追踪进展，研究团队建立了通用能力指数（General Capability Index，GCI），涵盖 123 个模型和 92 项基准测试。Gemini 模型的能力正以每月约 0.1 个 GCI 点的稳定速度增长，增速没有显著变化。该团队认为，Gemini 4 Argon 略高于趋势线，主要是因为投入了更多算力和组织资源，而不是 AI 驱动的加速。
目前，该团队将 AI 驱动研究自动化带来的风险评估为较低，但正在建设测量基础设施，以便今后追踪加速迹象。
Belfield 的研究结果与近期研究相符，但业内并非所有人都认同这一判断。包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 的 Jakub Pachocki 在内的 20 多名 AI 研究人员最近在一篇研究论文中警告，可能出现“智能爆炸”。他们认为，AI 系统可能在未来几年内实现 AI 研究与开发的全面自动化，将通常需要数年的进展压缩到短短几个月内。
来源与参考
收录于 2026-10-15