AI 幻觉差点导致美军登船检查中国船只运送核部件

在与伊朗的 2026 年冲突期间，美国情报简报警告称一艘中国货轮涉嫌将与核武器计划相关的部件运入战区。该警报立即引发军事响应，包括武装部队待命登船以及已有飞机在空中巡航。

CNN 后来援引的四位消息来源证实，这份简报来源于美国特种作战司令部的一名分析员，他依赖聊天机器人起草报告。该 AI 工具将公开来源材料与机密信号情报混合，但完全误判了货物内容。

AI 驱动报告的生成过程

分析员向聊天机器人提供了卫星图像、电子拦截数据以及公开的船舶舱单。系统随后生成了一个叙述，称货物是“核武器研发计划的关键部件”，并将其格式化为该司令部常用的情报报告模板。

由于输出符合熟悉的结构，高层官员几乎未进行深入审查就接受了报告。AI 的快速生成和文档的精致外观掩盖了核心主张仅是未经验证的假设这一事实。

错误被发现前的作战响应

两位未透露姓名的军方消息人士称，特种作战部队已被动员，武器装载完毕，两架战斗机正前往该船最后已知坐标，随后高级官员下令对情报进行第二次审查。

由另一情报小组进行的审查指出卫星数据与所谓货物描述之间存在不一致。该小组的分析员未能在船上发现任何核相关材料的证据，遂立即叫停登船计划。

导致错误传播的关键因素

• 仅依赖单一 AI 生成草稿而缺乏独立核实
• 将机密信号与公开数据混合，AI 无法调和
• 输出格式模仿官方情报产品，提升可信度
• 未强制要求人工分析员在发布前进行交叉检查

五角大楼和特种作战司令部在 CNN 询问时均未作出评论，使该事件在官方渠道基本未得到回应。

此事凸显了一个更广泛的趋势：美军正加速使用人工智能进行情报分析、目标定位、后勤和报告生成，但验证治理框架仍然支离破碎。

专家指出，即使决策环中有人参与，也不能保证安全；AI 系统的加速生产、隐藏论据来源以及将暂时性推测转化为看似官方的文件，仍然存在风险。

在当前的情报工作流程中，AI 生成的文本往往被视为初步草案而非最终结论，这种定位本身就埋下了审查薄弱的隐患。因为系统能够在几秒钟内把海量原始数据拼接成符合官僚格式的报告，分析员容易产生认知惰性，认为机器已经完成了最繁重的筛选工作，从而降低了对关键假设的质疑力度。若不在此基础上加入明确的人工核查节点，任何由 AI 推断出的关键情报都将直接进入指挥链，导致上层决策者在缺乏充分证据的情况下做出高风险行动的指令。

对报告的验证环节若仅依赖同一套技术手段，则容易形成闭环错误。卫星图像、信号拦截和公开舱单本是多源情报的典型组合，但在 AI 处理过程中，这些来源的原始不确定性并未得到充分保留，系统倾向于输出统一的结论而忽略内部矛盾。若没有独立的人工或其他技术手段重新审视原始数据，尤其是对关键属性如放射性标记或特殊装载方式进行专门检测，错误的假设就会被误认为是已验证的情报，从而在后续的作战准备中被放大。

在实际操作层面，AI 幻觉带来的风险不仅体现在情报误判，还会对资源配置产生连锁反应。登船行动需要调动特种部队、舰载武器以及空中支援，这些资产的调度本身就消耗大量后勤支持和指挥注意力。若因误报而启动这些流程，即使随后被叫停，也会留下资源错配、人员疲劳以及指挥系统的信任危机。更重要的是，这种误导性行动的公开曝光会对国际关系产生负面效应，使对手对美军的情报可靠性产生怀疑，进而影响未来的外交和军事沟通渠道。

从治理角度看，当前缺乏对 AI 生成情报的强制性审计机制是导致错误蔓延的根本原因。制度上应当规定每一份含有关键判断的报告必须经过至少两名独立分析员的交叉验证，并要求对 AI 输出的每一条推论提供可追溯的原始证据链。只有在人工签署确认后，报告才能进入指挥链的下一层级。此类多层次的核查不仅可以捕捉到技术性错误，还能通过不同专业背景的分析员提出多角度的质疑，降低单点失误的概率。

对使用中文的作战单位而言，语言特有的表达习惯和术语翻译也可能在 AI 处理过程中被误解或简化，进一步放大信息失真。为此，必须在系统设计时加入语言校对模块，并在关键术语上设定强制人工确认的阈值。这样既能利用 AI 的高速处理优势，又能确保在语言层面的细微差别不会导致情报误判。实践中，可通过建立专门的语言审查小组，对所有 AI 生成的中文情报报告进行逐句核对，确保术语使用的一致性和准确性。

总体来看，AI 幻觉的潜在危害在于它能够在短时间内制造出看似可信的情报假象，进而触发高风险的军事决策。只有通过制度化的多层次验证、明确的责任划分以及针对语言和技术特性的专门审查，才能在保持情报生产效率的同时，有效遏制因算法错误导致的误判风险。否则，类似的近乎冲突事件将可能频繁出现，进一步削弱军事指挥体系的可靠性与国际安全的稳定性。

对于中文使用的组织而言，此次事件是一次警示。它强调必须对 AI 生成的情报进行严格的多层次验证，明确来源材料的归属，并制定明确政策，防止 AI 草稿在未获得人工签署前被视为最终文件。没有这些防护措施，算法幻觉导致的近乎冲突或实际冲突风险将持续上升。