OpenAI首席未来学家将离职

WIRED AI··作者 Maxwell Zeff

关键信息

Achiam曾领导OpenAI于2024年成立的“使命对齐团队”,该团队后来在2月被解散,他随后转任首席未来学家。文章还提到,OpenAI的研究和政策负责人近年来合作更加紧密,而前白宫人工智能顾问Dean Ball已加入公司担任战略未来负责人,并将与Achiam短暂重叠任职。

资讯摘要

据 WIRED 获取的一份发给员工的备忘录显示,OpenAI首席未来学家Joshua Achiam正在离开公司。Achiam在备忘录中表示,如今看来,离开前沿实验室后依然可以继续推动公司的使命,他也会继续为一个更加和平、繁荣和充满科学可能性的未来努力。OpenAI尚未宣布是否会填补这一职位,而该岗位原本处在公司人工智能安全团队与政策团队之间,主要研究人工智能快速发展可能带来的风险与收益。Achiam还曾与包括全球事务主管Chris Lehane在内的高管合作,推动与OpenAI使命一致的政府监管,也就是确保AGI惠及全人类。自ChatGPT在2022年发布后,OpenAI的安全、产品和研究团队经历了多次重组,公司也从一家小型研究实验室迅速成长为大型科技公司。

2024年,OpenAI设立了由Achiam领导的“使命对齐团队”,但该团队在2月被解散,随后Achiam转任首席未来学家。与此同时,OpenAI一直在推动研究团队与政策团队更紧密协作,部分研究员也开始更多参与政策工作。前白宫人工智能顾问Dean Ball本周加入OpenAI,担任战略未来负责人,并将与Achiam短暂重叠任职。Achiam是近期又一位离开OpenAI的安全导向领导者,此前离职的还包括Jan Leike、Miles Brundage、Steven Adler和Andrea Vallone。文章还提到,Achiam于2017年以实习生身份加入OpenAI,后来成为专注于人工智能安全的研究科学家,在内部以坚定捍卫公司安全使命而闻名。

OpenAI首席未来学家将离职

资讯正文

“现在,全世界都知道这个秘密了,而在前沿实验室的围墙之外投身这项使命,似乎也成为了可能,”Achiam在一份被WIRED获取的致员工备忘录中写道。“我相信,我们能够抵达一个和平、前所未有的繁荣以及不可想象的机遇得以实现的世界,无论是在社会层面还是科学层面。无论我接下来做什么,我都会继续与你们一起,把这一愿景变为现实。”

OpenAI尚未宣布是否有人会接替Achiam的职位。该职位处于公司AI安全与政策团队的交叉地带,负责研究人工智能崛起可能带来的潜在危害与益处。Achiam曾与公司高层合作,包括全球事务负责人Chris Lehane,推动与OpenAI使命一致的政府监管:确保AGI造福全人类。

自ChatGPT于2022年推出以来,OpenAI已经多次重组其安全、产品和研究团队;此后,公司从一家规模很小的研究实验室迅速成长为一家庞大的科技公司。2024年,OpenAI宣布成立由Achiam领导的“使命对齐团队”,任务是维护公司的使命。OpenAI于2月解散了该团队,并宣布Achiam将出任新的首席未来学家。

在过去一年里,OpenAI一直在努力弥合其AI研究团队与政策团队之间的鸿沟,作为制定规则和标准的一部分,以便预判其技术的发展方向。随着这两个部门开始更紧密地协作,包括Boaz Barak、Noam Brown和Adrien Ecoffet在内的多位OpenAI研究人员表示,他们已更加积极地参与政策工作。

前白宫AI顾问Dean Ball本周已加入OpenAI,担任公司战略未来负责人;他将与Achiam短暂重叠任职。预计Ball在这一职位上也将与研究人员和政策负责人合作。

Achiam是最新一位离开OpenAI的安全领域领导者。随着公司准备上市,离职名单也在不断增加。曾共同领导OpenAI Superalignment团队、研究如何让先进AI模型始终处于人类控制之下的Jan Leike,于2024年离开并加入Anthropic。

同年,政策研究负责人Miles Brundage以及负责AI模型危险能力研究的Steven Adler也相继离开OpenAI,创办了倡导AI实验室遵守严格安全与安保标准的非营利组织。Andrea Vallone曾领导OpenAI关于ChatGPT应如何回应正在经历精神或情绪困扰用户的研究,她在2025年底离开,加入了Leike在Anthropic的团队。

Achiam于2017年以实习生身份加入OpenAI,之后成长为一名专注于AI安全的研究科学家。他在公司内部以坚定捍卫OpenAI安全导向使命而闻名,但他偶尔对更广泛的AI安全社区提出批评,也使他颇具争议。

今年早些时候,他在联邦法院作证称,2018年埃隆·马斯克离开 OpenAI 时,他打断了马斯克的告别发言,并表示这位当时的亿万富翁在特斯拉推进 AGI 的计划可能会以安全为代价。马斯克据称回应说,叫 Achiam “jackass(蠢货)”,而这一时刻后来被 Dario Amodei(如今是 Anthropic 的首席执行官)和 David Luan(后来成为亚马逊 AGI 实验室负责人)铭记下来——他们送给 Achiam 一尊金色驴臀的雕像,上面刻着这样一句话:“永远不要停止为了安全而做个 jackass(蠢货)。”

来源与参考

  1. 原始链接
  2. OpenAI’s Chief Futurist Is Leaving the Company

收录于 2026-07-08