人工智能领袖呼吁放缓前沿模型开发

关键信息

Amodei 在一篇近 4000 字的文章中主张放缓人工智能能力提升，以降低商业竞争可能加剧的灾难性风险。文章摘录没有说明执行机制、共同时间表或技术阈值，因此这些领袖的表态目前仍是协调呼吁，而不是已经确认的协议。

资讯摘要

多年来，主要前沿人工智能实验室一直表现得像是在进行一场赢家通吃的竞赛，终点是机器超级智能，或至少是能够改变市场的通用人工智能。文章称，在所报道的那个周末，行业领袖的态度迅速开始转变，他们呼吁协调行动，并放缓那些可能很快变得过于危险、难以理解或难以控制的系统的开发。Anthropic 首席执行官 Dario Amodei 是这一语气转变中最早、也最突出的人物。在一篇近 4000 字的文章中，他写道，行业必须放慢提升人工智能模型能力的速度，并警告商业激励可能制造一场“逐底竞争”，使灾难性风险更加严重。

OpenAI 联合创始人兼首席执行官 Sam Altman 在社交媒体上表示赞同，并称 OpenAI 内部也一直在讨论控制开发节奏。Google DeepMind 联合创始人兼主席 Demis Hassabis 认为这篇文章指向正确方向，同时再次呼吁建立行业范围的标准机构。Microsoft 首席执行官 Satya Nadella 也表示，Microsoft 欢迎为了把对齐作为设计目标而进行的研究、聚焦和审慎推进，并提到公司即将发布一份较长的“人本人工智能”模型行为准则。

资讯正文

AI 领袖在多年鲁莽追求速度后希望踩下刹车

多年来，各大前沿 AI 实验室一直表现得仿佛正在展开一场全力以赴、赢家通吃的竞赛，而终点线则是掌控能够改变世界的机器超级智能（或者至少是能够改变市场的通用人工智能）。本周末，整个行业迅速开始摆脱这种姿态，呼吁协调起来，放缓前沿 AI 的开发速度。他们表示，这类 AI 可能很快就会危险到难以控制，也无法被人真正了解。

Anthropic 首席执行官 Dario Amodei 成为这场语气转变的领军人物。本周末，他发表了一篇近 4000 字的文章，主张“我们必须放慢提升 AI 模型能力的速度”，以避免“商业激励所助推的一场竞相逐底的竞赛，使（灾难性）风险变得更加严重”。

数小时内，其他 AI 领域领袖也纷纷表达了同样的呼吁。OpenAI 联合创始人兼首席执行官 Sam Altman 在社交媒体上发文表示赞同，并称 OpenAI 内部也一直在进行类似的节奏讨论。Alphabet 首席科学家、Google DeepMind 联合创始人兼董事长 Demis Hassabis 表示，Amodei 的文章“指出了未来正确的发展方向”，并再次提出了自己近期关于成立一个全行业标准机构的呼吁。微软首席执行官 Satya Nadella 也表示，公司“欢迎为确保正确实现对齐这一设计目标所需的研究、关注和审慎推进”，微软即将发布一份针对其模型的、篇幅较长的“人本主义 AI”行为准则。

来源与参考

1. 原始链接
2. AI leaders want to hit the brakes after years of reckless speed