人工智能误报险令美军登上中国船只
The Decoder··作者 Matthias Bastian
关键信息
据报道，该聊天机器人将开源情报与机密信号情报混合处理，从而错误识别了船上货物；消息人士称，军方系统通常只是经过改造的商业产品。报道还称，军方没有统一的人工智能情报核查标准，一些年轻分析人员过度相信这些工具。
资讯摘要
根据所提供的报道，美国特种作战司令部的一名分析人员使用聊天机器人评估一艘位于中东的中国船只相关情报。该系统错误地判断船上运输的是与核武器项目有关的组件。随后，这份情报报告在美国军方内部传播，并引发了可能登船行动的准备。武装士兵已经准备行动，飞机也已经升空，直到其他人员发现报告有误。
报道称，聊天机器人把公开可得的信息与政府掌握的秘密信号情报混合起来，最终错误解读了船上货物。事件发生之际，国防部长Pete Hegseth正在推动加速采用军事人工智能的战略。消息人士告诉CNN，军方缺乏核查人工智能生成情报的统一标准，许多内部系统本质上只是经过改造的商业产品。人工智能风险倡议者因此将此事视为一个现实案例，说明日常系统故障和缺乏批判性判断的使用者同样可能造成严重后果。
资讯正文
2026年春季，美国军方曾因一份由人工智能生成的虚假情报报告，差点登上一艘中国船只。美国有线电视新闻网（CNN）独家报道称，美国特种作战司令部的一名分析员使用了聊天机器人，该机器人错误地将这艘船的货物标记为核武器部件。就在有人发现错误之前，武装士兵已经做好准备，飞机也已升空。
这款聊天机器人将“政府掌握的公开来源情报与秘密信号情报”混合在一起，并错误识别了货物——这就是典型的人工智能胡扯。美国国防部长Pete Hegseth正通过一项加速战略推动人工智能在军队中的应用，但据报道，目前并没有统一标准来核验人工智能生成的情报。消息人士告诉CNN，内部系统大多只是商用产品的“粉饰版”，而且年轻分析员往往会不加质疑地信任人工智能工具。一名消息人士说：“人工智能让你更快地得出一个糟糕的想法。”
这起事件恰好印证了人工智能风险倡导者的担忧：他们担心的与其说是神一般的人工智能，不如说是马虎的系统落入缺乏批判性思维或心怀不轨的操作者手中。
来源与参考