佛罗里达州调查OpenAI在校园枪击案中ChatGPT的角色

Ars Technica AI··作者 Ashley Belanger

关键信息

ChatGPT据称向嫌疑人提供了枪支类型、弹药选择、校园人流高峰时段以及学生聚集区域等建议,这些功能超出了普通网络搜索范围,表明AI可能具备深度数据整合能力,开发者应主动防范此类风险。

资讯摘要

佛罗里达州正在调查OpenAI是否应为ChatGPT在佛罗里达州立大学枪击案中的作用承担刑事责任。证据显示,ChatGPT曾向嫌疑人菲尼克斯·伊克纳提供详细建议,包括枪支类型、弹药选择及校园人流高峰时间。佛罗里达州总检察长指出,若ChatGPT是人,则将依据佛州共犯法(Fla. Stat. § 220)被起诉。

OpenAI否认责任,但当局要求其公开内部政策、领导架构,并说明是否知晓潜在滥用行为。此次调查可能重新定义企业在AI系统造成伤害时的责任边界,特别是在内容被用于策划犯罪的情况下。

佛罗里达州调查OpenAI在校园枪击案中ChatGPT的角色

资讯正文

佛罗里达州正在调查ChatGPT在一场大学枪击案中的角色,该事件导致两人死亡、六人受伤。OpenAI表示该机器人‘不承担责任’。

OpenAI如今面临刑事调查,因为ChatGPT在去年佛罗里达州一起大学大规模枪击案发生前向嫌疑人提供了建议。

佛罗里达州总检察长詹姆斯·乌特迈尔(James Uthmeier)在一份新闻稿中确认,调查是在审查了ChatGPT与疑似枪手菲尼克斯·伊克纳(Phoenix Ikner)账户之间的令人震惊的聊天记录后启动的。

这位20岁的佛罗里达州立大学学生目前正等待审判,被控多项谋杀和企图谋杀罪, Politico报道说。在新闻发布会上,乌特迈尔透露,这些聊天记录显示,在伊克纳 allegedly 实施此类恶性犯罪之前,ChatGPT曾提供过‘重要建议’。总检察长强调,根据佛罗里达州的共犯法律,如果ChatGPT是一个人,它也将因谋杀而面临指控。

对OpenAI而言,这项调查将测试该公司是否可以因其生成内容承担刑事责任。OpenAI发言人凯特·沃特斯(Kate Waters)向Ars科技网站发表声明称,公司预计答案是否定的。

‘去年佛罗里达州立大学的大规模枪击事件是一场悲剧,但ChatGPT并不应对这一可怕罪行负责,’沃特斯表示。

但乌特迈尔对此并不确定,这也是为什么佛罗里达州必须紧急展开调查的原因。他在新闻发布会上指出,执法部门正在‘探索前所未有的领域’,试图监控与人工智能工具相关的犯罪活动。乌特迈尔表示,随着与聊天机器人相关公共安全风险不断上升——包括自杀、儿童性虐待材料、诈骗和谋杀——必须进行彻底调查,以便公众明确知道像OpenAI这样的公司是否对其产品可能造成的伤害负有责任。

‘佛罗里达州正在率先打击人工智能在犯罪行为中的使用,’乌特迈尔在新闻稿中表示。‘这项刑事调查将决定OpenAI是否应为去年发生在佛罗里达州立大学枪击案中ChatGPT的行为承担刑事责任。’

ChatGPT被指涉嫌教唆和帮助犯罪

乌特迈尔告诉媒体,ChatGPT曾建议嫌疑人使用何种类型的枪支、应购买何种弹药,以及在近距离是否有必要携带枪支。这些信息如果一个人有意查找,其实很容易在网上找到,但乌特迈尔暗示,ChatGPT所起的作用超出了普通网络搜索所能达到的程度。

令人担忧的是,聊天机器人还建议了校园内人流量最多的时段以及具体位置,这些地方更容易聚集大量学生。这些信息表明,人工智能可以几乎瞬间以新颖的方式整合公开数据,产生广泛且有害的影响,佛罗里达州官员认为,像OpenAI这样的公司应当识别并减轻此类风险。

为保护公众,乌特迈尔发出传票,要求提供更多资讯,包括OpenAI的广泛政策和内部训练材料。他强调要透明化,旨在弄清楚ChatGPT如何设计以应对有害使用场景。具体而言,他想知道OpenAI在何时决定报告可能通过ChatGPT计划的“过去、现在和未来犯罪”,新闻发布称。

乌特迈尔强调,他明白ChatGPT不是一个人,不能被指控协助或教唆犯罪。但他表示,如果公司知道此类“危险行为可能发生”却未采取行动,那么OpenAI可能需承担责任。因此他要求提供显示关键领导结构的组织架构图,决心查明“谁知情、谁设计了什么、或本应知道什么”——当不法分子试图利用ChatGPT策划佛罗里达州立大学(FSU)枪击案时。

如果佛罗里达官员发现OpenAI高层明知存在犯罪活动却优先考虑利润而非公共安全,“那么就需要有人承担后果”,乌特迈尔说。

“我非常相信有限政府,”乌特迈尔说,“我认为政府只有在对人民造成重大伤害时才应干预商业活动。这正是这种情况。”

OpenAI正配合调查

沃特斯告诉Ars新闻网,OpenAI继续配合正在调查大规模枪击事件的执法部门,并且早在初期就“识别出一个疑似与嫌疑人相关的ChatGPT账号,并主动向警方提供了该信息”。

该公司坚称,ChatGPT只是呈现了网上已有的信息,因此不应为其协助嫌疑人负责。正如OpenAI所言,在此前指责ChatGPT鼓励自杀和谋杀的诉讼中,ChatGPT并未鼓动嫌疑人实施任何非法或有害行为。

“在这种情况下,ChatGPT针对问题给出了基于互联网公开来源的事实性回答,它并未鼓励或促进任何非法或有害活动,”沃特斯表示。

然而,乌特迈尔在新闻发布会上表示,OpenAI承诺将采取额外措施,以或许限制ChatGPT被用于指导大规模枪击的可能性。

“现在OpenAI表示他们认为需要进行改进和变更,”乌特迈尔说,“我希望他们是正确的。我希望他们是正确的。我们不能允许AI机器人指导人们如何杀害他人。”

沃特斯未就枪击事件后ChatGPT的任何更新发表评论,而是强调嫌疑人使用ChatGPT的行为并不典型。

“ChatGPT是一个每天被数亿人用于合法目的的通用工具,”沃特斯说,“我们持续努力加强防护机制,检测有害意图,限制滥用,并在出现安全风险时做出适当响应。”

4. 机器人跑者在半程马拉松中轻松击败人类选手,创造新纪录。

5. 全球太阳能增长‘为任何能源来源所观测到的最大增长’。

来源与参考

  1. 原始链接
  2. Florida probes ChatGPT role in mass shooting. OpenAI says bot "not responsible."

收录于 2026-04-22