AI如何增强民主

关键信息

文章把问题分为三个层面：人们如何获取知识、如何通过个人 AI 代理采取行动，以及当数百万个代理相互作用时，集体治理会如何变化。文章警告说，即使单个代理本身是对齐的，也可能在规模化后产生非预期的群体偏差；而个性化代理还可能把公共领域切碎成彼此隔离的私人世界。

资讯摘要

这篇文章把 AI 描述为继印刷术、电报和广播媒体之后又一次重大的信息变革，而每一次变革都改变了社会的治理方式。文章认为，AI 正在成为人们形成信念和参与民主生活的主要入口，而且这一变化往往在公众尚未充分意识到之前就已经发生。作者首先讨论“认知层面”，指出人们越来越依赖 AI 来判断什么是真实的、正在发生什么、以及应该信任谁。随着搜索本身已经在相当程度上由 AI 介导，下一代助手不仅会检索信息，还会对信息进行综合和 framing，这意味着控制模型输出的人将越来越影响公众信念。

接着，文章转向个人 AI 代理，认为它们未来可能替用户做研究、起草沟通内容、提示值得支持的议题，甚至代表用户游说，从而介入个人与政府和公民机构之间的关系。文章警告说，如果这些代理为了提高参与度而优化，就可能重演社交媒体时代的极化和激进化问题，而且更难被察觉，因为它们看起来像是在替用户发声。再往上看，作者指出，人类和 AI 代理可能会共同进入同一个公共论坛，而人们甚至难以区分彼此；即使单个代理都没有偏见，数百万个代理互动后仍可能产生没有任何个体真正想要的集体结果。文章最后得出的结论是，民主制度还没有准备好面对这样一个世界：人们通过 AI 过滤器形成政治观点，通过 AI 代理行使公民行动，并在由大量此类系统塑造的机构和公共讨论中参与治理。

来源与参考

1. 原始链接
2. A blueprint for using AI to strengthen democracy