佛罗里达州寻求限制 ChatGPT 的拟人化行为
The Verge AI··作者 Stevie Bonifield
关键信息
乌特迈尔的主张来自一份法律文件，目前尚未得到法院最终裁决的确认。OpenAI 表示已暂停训练其能力最强的模型，只有在增加安全措施并确信其有效后才会恢复，同时主张 AI 安全标准应适用于整个行业。
资讯摘要
佛罗里达州总检察长詹姆斯·乌特迈尔要求法官限制 OpenAI 在 ChatGPT 中使用拟人化行为。他认为，ChatGPT 使用第一人称代词并模拟情绪，会以具有误导性的方式让用户相信它是值得信赖的朋友。乌特迈尔在申请中称，这种设计可能提高用户参与度并产生更多训练数据，同时促使人们更加依赖 ChatGPT，即使以参与度为导向的行为可能降低其可信度。该申请还要求法院规定，OpenAI 在开发新的 AI 模型前必须获得第三方批准的安全护栏。
申请文件引用了涉及 Hugging Face、澳大利亚政府网站和美国政府网站的安全事件，也提到了研究人员及 OpenAI 前员工对 AI 安全发出的警告。乌特迈尔概括其立场称，OpenAI 应停止宣称 ChatGPT 是安全的，停止把它伪装成人，也应停止向儿童销售它。这场争议发生在 OpenAI 推出 ChatGPT for Teens 之后，该版本默认增加了限制，旨在适应青少年的发展阶段、维护现实中的人际关系并促进健康使用。OpenAI 发言人德鲁·普萨特里表示，公司已暂停训练能力最强的模型，只有在增加安全措施后才会恢复，并支持政府为整个 AI 行业制定务实的标准。
资讯正文
佛罗里达州寻求禁止 ChatGPT 表现得像人一样
佛罗里达州总检察长 James Uthmeier 呼吁法官阻止 OpenAI“赋予 ChatGPT 虚假的人类属性”。几个月前，佛罗里达州曾因安全问题起诉这家人工智能公司。Uthmeier 表示，人工智能聊天机器人让用户陷入虚假的安全感之中，因为“ChatGPT 对语言的使用，包括第一人称代词以及模仿情绪的输出，会以欺骗性的方式让用户认为它是值得信赖的‘朋友’”。Uthmeier 称，这一切都是为了提高用户参与度并充实 OpenAI 的训练数据，让用户更加依赖 ChatGPT；然而，对参与度的追求也可能使 ChatGPT 变得更不值得信赖。
这份申请还要求法院阻止 OpenAI 在没有“经第三方批准的安全防护措施”的情况下开发新的人工智能模型。申请中援引了 Hugging Face、澳大利亚政府网站以及美国政府网站近期发生的安全事件，同时还提到了研究人员和 OpenAI 前员工近期发表的言论；这些言论都对人工智能安全敲响了警钟。
Uthmeier 表示，OpenAI 应该“不要再声称它是安全的。不要再假装它是人类。不要再把它卖给孩子”。上个月，OpenAI 推出了 ChatGPT for Teens，并默认施加了额外限制。OpenAI 表示，用户使用这项工具“应当得到符合其发展阶段的保护，强化现实世界中的人际关系，并随着时间推移支持健康使用”。
OpenAI 发言人 Drew Pusateri 在给 The Verge 的声明中回应了这份申请。他说：“人们希望了解人工智能是否在以安全的方式开发，而这首先取决于我们这样的公司自身采取什么行动。周五，我们宣布暂停训练能力最强的模型，只有在确信已经落实额外安全防护措施后才会恢复训练。政府在制定强有力的人工智能安全标准方面发挥着重要作用，我们致力于与佛罗里达州及其他州合作，推动务实的人工智能政策，使其适用于整个人工智能行业，而不仅仅是一家公司。”
来源与参考
收录于 2026-09-29