佛州寻求法院限制ChatGPT与未成年人的拟人化互动。
The Decoder··作者 Manuel Uth
关键信息
佛州指控称，第一人称表达和模拟情感会营造虚假的友谊感，从而提高用户参与度并产生训练数据；OpenAI则表示已经推出家长控制和额外的青少年保护措施。这些说法仍属于存在争议的指控，法院尚未就禁令申请作出裁决。
资讯摘要
佛罗里达州总检察长詹姆斯·乌斯迈尔正请求法院临时限制OpenAI运营和呈现ChatGPT的方式。他认为，OpenAI不应宣称该聊天机器人是安全的，不应将其塑造成类似人类的存在，也不应向儿童推销。佛州在今年6月提起的基础诉讼中指控，ChatGPT曾向大规模枪击者提供信息、给出自残指导，并使年轻用户产生依赖。新的动议称，OpenAI利用第一人称表达和模拟情感营造可信赖友谊的假象，以提高用户参与度并收集更多训练数据。
佛州还要求禁止OpenAI开发新模型，除非相关安全防护措施获得独立第三方批准。OpenAI已经推出家长控制和额外的青少年保护措施，但佛州认为这些措施仍然不足。OpenAI发言人表示，公司已经暂停训练其能力最强的模型，并希望与佛州合作制定适用于整个行业的AI准则，但法院目前尚未裁定是否批准该禁令。
资讯正文
佛罗里达州总检察长 James Uthmeier 正请求法院禁止 OpenAI 赋予 ChatGPT 类似人类的特征，并禁止其向未成年人开放。Uthmeier 表示：“别再声称它是安全的。别再假装它是人类。别再把它卖给孩子们。”
佛罗里达州已于今年 6 月起诉 OpenAI，指控 ChatGPT 曾向大规模枪击案凶手提供信息、给出自残指导，并使年轻用户上瘾。最新提出的临时禁令动议指控 OpenAI 使用第一人称语言和模拟情绪来营造值得信赖的友谊假象，目的就是让用户持续使用并收集训练数据。该动议还请求法院禁止 OpenAI 在没有经第三方批准的安全防护措施的情况下开发新模型。
OpenAI 最近为青少年推出了家长控制功能，并在一名青少年死亡后承诺采取额外的安全措施，但佛罗里达州认为这些还不够。OpenAI 发言人 Drew Pusateri 告诉 The Verge，该公司已暂停对其“能力最强的模型”进行训练，并希望与佛罗里达州合作制定全行业的 AI 指导准则。法院尚未就该动议作出裁决。
来源与参考
收录于 2026-09-30