教宗利奥警告AI须以人为本

关键信息

利奥将问题定义为维护人的优先地位，并主张在采用AI时保持“审慎、严格评估，甚至在某些时候放慢节奏”。他具体提出要为工人提供保护和再培训、由人类决定致命武力的使用、算法招聘和服务准入保持透明、帮助师生更负责任地使用技术，以及发展更具环境可持续性的AI。

资讯摘要

教宗利奥十四世在周一发布了他关于AI的首份重要教宗文件，警告人工智能和失控的技术权力带来严重风险。该通谕名为《Magnifica Humanitas》，被描述为一份旨在“在人工智能时代守护人的尊严”的宣言。文件讨论了AI驱动的战争、AI对劳动的影响，以及为技术治理建立新的法律与伦理框架的必要性。利奥认为，AI的快速普及已经造成经济和社会冲击，但针对个人的保护措施仍然不足，这正在威胁人的尊严。

他把当下局势比作巴别塔，并警告要避免“巴别综合征”，其含义包括利润崇拜、抹平差异，以及认为数字系统可以把人的奥秘简化为数据和绩效。整份文件超过4.2万字，呼吁进行“道德和社会辨识”，让人类智能、良知与自由继续主导技术创新。文件提出的具体方向包括为工人制定自动化标准并提供再培训、由人类决定是否使用致命武力、在课堂中负责任地使用AI、让算法决策保持透明，以及推动更可持续的AI发展。利奥同时明确表示，他并非反对AI，而是希望对其进行“解除武装”，防止AI支配人类或成为垄断权力的工具。

资讯正文

教宗良十四世在周一发布的首份重要教宗文献中，警告了人工智能以及不受约束的技术权力所带来的风险。《Magnifica Humanitas》是教宗关于“在人工智能时代守护人的尊严”的宣言，其中他谈到了由人工智能驱动的战争风险、人工智能对劳动的影响，以及制定新的法律和伦理框架来规范技术的必要性。

在他的教宗通谕——即天主教会的一种公开信——中，良十四世强调，快速采用人工智能正在引发经济和社会动荡，而对个人的保护不足正威胁着人的尊严。他将当下的人工智能时代比作巴别塔，并说社会必须“避免‘巴别综合征’”，他将其定义为“牺牲弱者的利润偶像崇拜、抹杀差异的同质化，以及声称一种语言——即便是数字语言——就能把一切都翻译出来的假象，包括把人的神秘性翻译成数据和绩效”。

良十四世的这封信涉及人工智能已深度嵌入的现代生活多个重要领域：失业和劳动总体问题、人工智能驱动的战争，以及儿童接触人工智能工具和内容，等等。通谕最重要的主张是，人的尊严必须成为决策和治理的核心部分。良写道，这封信呼吁进行“道德与社会上的辨识，以维护人的首要地位，从而确保始终是具有良知和自由的人类智能来引导技术创新，并负责任地决定其用途与边界”。

这封超过42,000字的文献将“谨慎、严格评估，以及在某些时候放慢采用人工智能的步伐”界定为“对人类家庭负责任关怀的一种实践”。其中一些建议包括：

* 在引入自动化和人工智能时，应有社会性标准，同时为工人提供保护和再培训计划

* 何时使用致命武力，应由人类而非不透明的技术系统做出决定

* 帮助教师和学生以负责任、批判和创造性的方式接触新技术

* 当算法被用于在招聘或获取服务与机会等方面做决定时，应确保透明度和问责性

* 开发更符合环境可持续性的人工智能技术

人工智能对人类的影响一直是良十四世的核心关切：他选择自己的教宗名号，是为了呼应工业革命时期；在那一时期，他的前任良十三世曾在技术进步背景下发表过一份关于保护工人的通谕。良十四世也一直在与人工智能产业接触——周一教宗展示其通谕时，Anthropic 联合创始人 Christopher Olah 也在现场。据 Politico 报道，在周一这份通谕发布之前，来自 Amazon、Meta 和 Google 的代表已与梵蒂冈官员会面，科技行业正试图影响教会的立场。（此外，还有一部分人试图向教宗“灌输 AGI 观念”；《Magnifica Humanitas》并未明确提及通用人工智能。）

这份通谕并不是对 AI 的全面反对。相反，教皇利奥呼吁对这项技术进行“解除武装”——既包括军事意义上的，也包括经济和社会意义上的。他说，AI 不应被用来展开一场积聚权力或垄断社会的竞赛。

“解除武装意味着让这样一种假设失去信誉：技术力量会自动赋予统治的权利。解除武装并不意味着拒绝技术，而是防止技术支配人类。”

来源与参考

1. 原始链接
2. Pope Leo calls for being ‘profoundly human’ in the age of AI