教皇利奥十四世警告AI威胁人权

关键信息

这份通谕承认AI有积极用途，但指出它会影响权利、机会、地位和自由，同时强调AI缺乏人类所拥有的情感、关系与精神视角。技术界一个主要批评是，它没有提到AGI或超级智能，尽管一些公司把这些视为迫在眉睫。

资讯摘要

周一，教皇利奥十四世发布了一份讨论人工智能社会影响的通谕。该文件题为《Magnifica Humanitas》，主张当AI进入会影响人们生活的决策时，它就不再只是技术问题，因为它会影响权利、机会、地位和自由。梵蒂冈此次还出现了Anthropic联合创始人兼可解释性团队负责人Christopher Olah，显示天主教会与一家主要AI公司之间存在一种少见的合作关系。文章指出，这份通谕发布之际，社会对AI权力的反弹正在加剧，包括公众对失去控制的担忧、针对数据中心建设的抗议，甚至对AI高管的袭击。

来自技术圈的反应分歧明显：有人认为教皇批评得还不够，也有人称赞这是一种负责任且有人文关怀的介入。Daniel Kokotajlo等批评者认为，通谕没有认真讨论AGI或超级智能；另一些人则认为这种缺席是合适的，因为这份文件的重点是保护人的尊严，而不是讨论更具推测性的AI未来。文章还指出，Anthropic可能会从与梵蒂冈的联系中获得战略收益，因为该公司一直在塑造自己比竞争对手更安全、更值得信任的形象。

资讯正文

周一，教皇利奥十四世公布了一封阐述人工智能社会影响的通谕。该文件题为《Magnifica Humanitas》，其中警告称，“AI的使用绝不是纯粹的技术问题：当它进入影响人们生活的过程时，它会触及权利、机会、地位和自由。”陪同他出席的还有 Anthropic 联合创始人、可解释性团队负责人 Christopher Olah，代表着天主教会与 AI 领域最大玩家之一之间的一项合作。

这封通谕在科技行业内外引发了广泛反响。几乎所有人都认为这份文件会产生影响力。一些批评者质疑它是否批得还不够，而另一些人则认为它本该讨论通用人工智能（AGI）——许多公司坚持认为 AGI 近在眼前。也有人认为，教皇说得非常到位。

“这相当明显是在影射那些大型科技公司的 CEO 们：他们一边公然宣称要裁员，用 AI 取代‘价值较低的人力资本’，一边又花钱挤进发生这些事情的政治场合，好让自己写出有利于自己的规则，”Tech Oversight Project 执行主任 Sacha Haworth 说。

这份教皇通谕出现在公众对 AI 日益增强的权力日益反弹之际。美国十分之六的成年人觉得自己对 AI 在日常生活中的使用方式“几乎没有或完全没有控制权”，反对建设数据中心的抗议活动越来越常见，甚至有人试图直接袭击 AI 公司 CEO 本人。

正如 Olah 的出席所暗示的那样，教皇的这篇文告将 AI 描述为一种可以有积极应用的技术，而其语气也收获了褒贬不一的反应。非营利组织 AI Futures Project 背后的人、前 OpenAI 员工、AI 研究员 Daniel Kokotajlo 告诉 The Verge：“我很高兴它对 AI 公司持批评态度，不过我认为还应该更批判一些。”相反，软件公司 Optro 的 AI 治理总经理 Dr. Guru Sethupathy 则对文中传达的信号感到鼓舞，即“利奥教皇和梵蒂冈并不是反对 AI，而是反对应该如何走上一条对人类最有利、且负责任的道路。”

与梵蒂冈合作的决定，是 Anthropic 的一项战略举措。这家公司一直依靠精心打造的声誉来建立业务，把自己塑造成比竞争对手更值得信赖的替代选择。Anthropic 在过去几个月里因其在军用 AI 使用限制问题上与五角大楼陷入拉锯战而广为人知，而与另一个强大机构建立联系，或许有助于巩固它的地位——也让它有机会帮助塑造梵蒂冈未来的相关建议。

在许多科技圈人士看来，这份文件最具争议的一点在于，它完全没有提到 AGI 或超级智能；文件承认，AI 系统“在速度和计算能力方面往往会超过人类智能”，但也表示，它们“缺乏那种使人类得以成长为有智慧之人的情感、关系和精神视角”。美国创新基金会高级研究员 Dean W. Ball 在 X 上写道，这份通谕“如果能少一些对传统学术界/公民社会关于 AI 的陈词滥调的偏爱……多一些对 AI 未来走向的关注，就会好得多。但它并没有这么做，而是在最深层意义上进行了回避，否认 AI‘真的会思考’或‘真的会学习’。” Kokotajlo 也表示，他希望这封信能“更认真地”看待 AGI 和超级智能的可能性。

不过，多位科技界和天主教界人士告诉 The Verge，这份文件本来就不是要面面俱到。

圣约瑟夫和平修女会助理会长 Susan Francois 修女说：“这是一份重要的天主教社会训导文件。它不是关于 AI 的，而是关于在 AI 时代保护人的尊严。” Future of Life Institute 的美国信仰联络人、诺特丹神学院天主教社会训导讲师 Brian Boyd 称这份文件“与其说是一套具体行动指南，不如说更像是一声战斗号召”。教宗在整篇通谕中呼吁“建立足够的监管工具，以维护正义并遏制技术权力的扭曲效应”，但并未支持任何具体提案。

Tech Oversight Project 的 Haworth 说，她把这份通谕看作“为世界，至少是西方世界，设定道德方向的罗盘……你不必是天主教徒，也能在这份文件中看到自己的关切、愿望和恐惧。”她表示，她希望民选领导人能够针对 AGI 的具体问题采取行动，并承担起让强大的科技公司负责的职责，而不是指望教宗的文件“面面俱到，为所有人提供所有答案”。她还称这是一记“给领导人、给政客的警告，因为这份文件谈到的是一个下层阶级的诞生”。

对一些人来说，这份通谕没有过多关注 AGI 并不是问题，因为他们将其理解为教宗在关注 AI 当下已经存在时对脆弱群体的现实影响，而不是把重心放在如果以及当实验室达到那个（在很大程度上并未明确说明的）AGI 里程碑时，AI 可能给整个人类带来的某些潜在风险。

Opaque Systems 的首席执行官 Aaron Fulkerson 说，Opaque Systems 是一家帮助客户整理加密数据的初创公司，他认为教宗“实际上是在审视这个系统，并指出了我们科技界很多人都会认同的一种对人类的系统性风险。而我说的甚至不是 AGI。我说的是我们的全球经济。”

即便在当前这波 AI 浪潮之前，科技行业的集中化也可能带来危险。网络安全公司 CrowdStrike 出现故障，导致全球各地的银行、医院和航空公司业务受阻；而 Amazon Web Services 发生宕机，更让从 Reddit 到 Venmo 在内的大量互联网服务陷入停摆。对 Fulkerson 来说，随着权力集中到少数几家 AI 实验室手中，对全球经济的风险只会越来越大。

“我在新闻里看到的，是围绕教皇与科技兄弟之间权力动态的这种说法，但我觉得大家都忽略了更大的故事，也就是他看到的是一个本质上就充满风险的系统，”Fulkerson 说。“我们正在梦游般地走进这样一个世界：一两个实验室成了地球上每个行业的认知基础设施——这意味着人类的韧性大大降低，而不是更有能力。”

在这篇通谕中，教皇将 AI 与巴别塔相提并论，他把巴别塔描述为“一种由消除了多样性的同质化所支撑、选择以同一化而非共融为路径的结构。” 他写道，世界必须“避免‘巴别症候群’”：即“牺牲弱者的利润偶像崇拜、抹平差异的同质化，以及假装一种语言——哪怕是数字语言——就能把一切都翻译出来，包括把人的奥秘也转化为数据和绩效。” 在他的判断中，AI 不仅成了一项新技术，也成了一场《圣经》式的斗争。“去人性化的风险，”他写道，“是一种古老而又常新的诱惑，如今披上了技术的外衣。” 这些论断的分量，而不是技术细节，可能才是它最持久的影响。

来源与参考

1. 原始链接
2. The Pope isn’t AGI-pilled