人工智能幻觉险些引发美国对中国船只的军事行动
TechCrunch AI··作者 Aditya Mehta
关键信息
据报道，聊天机器人将公开来源情报与机密信号情报结合后错误识别了船只货物，分析员随后再次使用该工具，把错误结论整理成类似正式文件的摘要。所提供的材料未能独立核实这一事件，并称军方可能尚未建立统一的人工智能生成情报核验流程。
资讯摘要
报道称，2026年春季，美国军方正准备针对一艘中国船只采取行动时，相关军事飞机已经升空。支撑这次行动的情报声称，该船载有与核武器项目有关的部件。据报道，这一结论源于一名特种作战司令部分析员的操作：他要求人工智能聊天机器人把公开来源信息与机密信号情报综合起来。聊天机器人错误识别了船只货物，生成了虚假的分析结果，而不是可靠的情报判断。
随后，这名分析员第二次使用聊天机器人，将错误判断整理成类似正式文件的摘要，并通过指挥渠道传播。官员最终发现错误并终止行动，从而险些避免与中国发生潜在冲突。这一事件加剧了人们的担忧，即人工智能生成的错误可能比人类提出质疑的速度更快地沿军事组织层级向上传播。GovAI研究员、前美国陆军军官杰克·斯特克勒表示，针对目标选择、情报分析和行动规划等事项，系统尤其需要更强的安全措施；但他认为，这起事件应推动受控使用人工智能，而不是彻底放弃这些工具。
资讯正文
今年春天，美国官员发现一件令人 alarm 的事情时，军用飞机已经升空：一场针对一艘中国船只的武装行动，其依据的情报竟是由 AI 聊天机器人“幻觉”生成的。据 CNN 周五报道，这场行动在最后一刻被取消，险些避免了与中国发生潜在冲突。
这一事件凸显了军方官员和外部专家日益担忧的问题：随着决策者越来越依赖 AI，这些系统产生的错误可能在受到质疑之前，就已经沿着指挥链层层上报。
这份在与伊朗交战期间流传的情报报告称，该船只正在运载核武器项目所需的部件。
这则虚假情报源自一名特种作战司令部分析员。该分析员向一款 AI 聊天机器人发出查询，要求其将开源数据与机密信号情报合并分析。聊天机器人错误识别了该船的货物舱单。随后，这名分析员第二次使用该工具，将错误的分析结果整理成一份外观正式的摘要，并通过各级指挥渠道传阅。
此次险情发生之际，美国军方正争分夺秒地将 AI 整合进军事体系，以加快决策速度并保持对中国的优势。五角大楼曾表示，AI 能够显著加快其“杀伤链”，从而让指挥官及时作出反应。但正是这种令 AI 颇具吸引力的速度，也可能让幻觉在缺乏充分人工监督的情况下传播开来。
GovAI 研究学者、美国陆军退役军官 Jake Steckler 在书面回复 TechCrunch 时表示：“让军人理解 LLM 固有的不确定性非常重要。但对于任何可能导致使用武力的决定——例如目标选定、情报分析或行动规划——这一点尤其关键。这些决定关乎生死。”
不过，Steckler 表示，这起事件应当成为为 AI 增加更多安全措施的契机，而不是弃用 AI 的理由。他说：“在适当的场景下，并配备适当的安全措施，这些工具可以发挥作用。但如果把采用速度置于一切之上，很可能会导致更多事件，而这些事件只会让军人失去对这类系统的信任，最终反而会拖慢其普及。”
来源与参考
收录于 2026-09-20