佛罗里达州起诉 OpenAI 质疑 ChatGPT 安全
The Decoder··作者 Matthias Bastian
关键信息
诉状称，免费版缺乏真正的年龄验证，尽管有大量 13 岁以下用户；同时，数据收集在用户同意服务条款之前就已开始。诉状还指称存在内部安全失误，包括 GPT-4o 的测试被提前结束，以及 OpenAI 实际只把 1% 到 2% 的算力用于 AI 安全，而非承诺的 20%。
资讯摘要
佛罗里达州已对 OpenAI 和首席执行官 Sam Altman 提起一项具有里程碑意义的诉讼，指控他们一边将 ChatGPT 营销为安全产品，一边让系统向未成年人输出危险内容、助长暴力并诱发依赖。根据诉状，佛罗里达州是美国首个把 Altman 个人列为被告的州政府，州总检察长表示 OpenAI 让儿童面临了极大风险。该份 83 页诉状要求施加巨额处罚，并把 ChatGPT 描述为不仅仅是软件服务，而是应承担产品责任的缺陷产品。诉状还使用了“公共妨害”这一不常见的法律理论，这可能会影响未来 AI 案件的诉讼方式。文件称免费版没有真正的年龄验证，但据称有数以万计的用户未满 13 岁。
诉状还指控 OpenAI 在用户同意服务条款之前就开始收集数据。除面向用户的指控外，诉状还引用了内部安全层面的担忧，包括 Altman 被指提前结束了 GPT-4o 的安全测试。诉状还称，OpenAI 实际只把 1% 到 2% 的算力用于 AI 安全，而不是此前承诺的 20%。OpenAI 目前尚未对此案发表评论。
资讯正文
佛罗里达州针对 OpenAI 和 CEO Altman 的诉讼将 ChatGPT 视为有缺陷的产品和公共妨害
佛罗里达州是美国第一个起诉 OpenAI 及其 CEO 山姆·奥特曼（Sam Altman）个人的州。该起诉书长达 83 页，指控该公司一方面将 ChatGPT 宣传为安全，另一方面却让这款聊天机器人向未成年人提供危险内容、助长暴力，并推动用户产生依赖。州总检察长 James Uthmeier 表示，OpenAI“让儿童处于极大风险之中”，并称公司面临的罚款可能高达数十亿美元。文件还记录了多起因 ChatGPT 及类似系统而受害的案例。
这起诉讼将 ChatGPT 视为一种可追究责任的产品以及一种“公共妨害”，这种不寻常的法律路径可能为聊天机器人监管树立先例。诉状称，免费版本并没有真正的年龄验证机制，尽管有数以万计的用户未满 13 岁。数据收集甚至在用户同意服务条款之前就已经开始。诉讼甚至主张，使用 AI 会导致认知能力退化。
起诉书还援引了内部指控：据称 Altman 曾缩短 GPT-4o 的安全测试时间，而 OpenAI 仅将 1% 到 2% 的算力用于 AI 安全，而不是此前承诺的 20%。OpenAI 尚未置评。
来源与参考