有外媒引述 4 名知情人士報道，今年春季伊朗戰爭期間，一份由人工智能生成的錯誤情報，幾乎導致美軍向一艘中國船隻採取軍事行動，消息人士形容 AI 情報「完全失實」但幾乎觸發一場戰爭，任何針對中國船隻的軍事行動，都有可能演變成中美兩國武裝衝突。
分析員查船隻艙單 AI 誤判藏核武部件
事件源於美國太平洋特種作戰司令部一名分析員，向 AI 聊天機械人查詢一艘中國船隻的情報資料，涉及船隻艙單，系統結合公開來源情報與機密訊號情報，錯誤判斷船上載有核武器計劃相關部件。分析員其後再用 AI 將分析結果整理成標準情報報告格式，令這份錯誤情報看似一般可信的情報產品，並在軍方內部廣泛發佈。
報告發出後，武裝美軍人員一度準備登船，軍機亦已升空待命，高級官員在行動展開前深入審視報告來源，才發現內容由 AI 生成且分析員使用的聊天機械人錯誤識別船隻載運物資。CNN 未能查證船隻實際載運貨物，亦無法確認分析員使用商用抑或政府專用 AI 工具，美國太平洋特種作戰司令部及五角大樓均未回應 CNN 查詢。
一名前資深美國官員形容，軍方內部 AI 工具「大多只是商用產品換個包裝」，消息人士亦指出，這類 AI「幻覺」並非情報體系內的單一事件，而年輕分析員特別容易不加批判地信任 AI 結果，其中一人形容：「AI 讓你更快得出錯誤結論。」
五角大樓 AI 分散應用 缺統一查證標準
美國國防部長 Pete Hegseth 今年 1 月公布「人工智能加速戰略」，推動國防部轉型為「AI 優先」作戰部隊，目標讓 300 萬名軍民人員可直接使用美國頂尖 AI 模型，戰略亦涵蓋 AI 輔助戰場管理及決策支援，由作戰計劃制定延伸至「殺傷鏈執行」層面。
不過報道指，AI 於軍方及情報體系的應用高度分散，不同部門採用不同系統及安全標準，並無統一機制查證 AI 產生的資訊，五角大樓雖然訂立要求軍用 AI 系統「可追溯、可靠、可管控」的負責任原則，但實際執行仍存在明顯落差。
值得留意的是，海事媒體 gCaptain 上周亦報道，Anthropic 早前偵測到一個與伊朗有關連的黑客組織，利用其 Claude 模型建立以 Python 編寫的情報系統，追蹤美國海軍船艦位置，並研究船上衛星通訊終端及工業控制系統的保安漏洞，兩宗事件合看，反映 AI 正加快軍事情報蒐集及分析速度，但同時為敵對雙方帶來新型風險。
美軍近月大舉引入商業 AI，SpaceXAI 今年 2 月與軍方達成協議提供 Grok，Nvidia、Microsoft 及 Amazon 亦於 5 月加入合作；9 月初五角大樓進一步擴展 GenAI.mil 平台，向 300 萬名軍民人員提供 ChatGPT 及 Grok 特製版本，OpenAI 及 SpaceXAI 各自獲最高 2 億美元（約港幣 15.6 億元）國防合約，這類政府合約利潤豐厚，惟今次事件顯示，將 AI 大規模應用於國防敏感領域，存在一般企業軟件所沒有的風險。
來源：CNN
