The DecoderMatthias Bastian
AI 虚构核武情报,美军险些拦截搜查中国货船
原标题:U.S. military nearly boarded a Chinese ship over a hallucinated AI intelligence report
行业86
2026年春,由于一款AI聊天机器人错误地将其货物标记为核武器部件,美军险些登上一艘中国船只,当时距离行动仅差数分钟。全副武装的士兵已准备就绪,战机也已升空。就在行动展开前最后一刻,该错误被及时发现。这起事件恰好印证了AI风险倡导者的担忧——相比能力过强的AI,他们更担心粗制滥造的系统被缺乏辨别力或心怀叵测的操作人员所使用。文章《美军因AI虚构情报报告险些登上一艘中国船只》首发于 The Decoder。
为什么值得读
它以极度逼近军事摩擦的真实案例,展现了生成式大模型在防务情报闭环中产生幻觉时的破坏性后果。
标签
AI SafetyHallucinationDefense TechGeopoliticsMilitary AIRisk Evaluation