**一句話結論：**一份由 AI 聊天機器人「幻覺」產出的假情報，被當成正式情資在全美軍散布，讓美軍軍機升空、武裝人員準備登船攔截一艘中國貨船；官員在行動發動前最後一刻查出報告是 AI 生成且內容完全虛假，才緊急叫停，消息人士形容這份報告「幾乎引爆一場戰爭」。
這起事件到底發生了什麼？
根據 CNN 於 2026 年 9 月 18 日刊出的獨家報導（記者 Katie Bo Lillis、Zachary Cohen），事件發生在 2026 年春天、美軍與伊朗交戰期間。一份情報報告在美軍內部流傳，內容宣稱：一艘航經中東海域的中國籍貨船，正在運送核子武器計畫的組件。
這份報告立刻觸動警鈴。美軍依四位熟悉內情的消息人士說法，迅速擬定攔截計畫；其中兩名消息人士指出，武裝的美軍人員已在準備登船，另據一名消息人士與另一位知情人士表示，軍機當時已經在空中。
轉折發生在行動發動前的最後一刻。官員決定更深入檢視這份報告，才發現它是借助 AI 生成的，而且分析官使用的聊天機器人錯誤辨識了船上貨物。CNN 表示無法得知那批貨物實際上究竟是什麼。一名消息人士形容，這份報告「完全是假的」（entirely false），但它「幾乎引爆一場戰爭」（almost started a war）——因為任何針對中國船隻的美軍行動，都可能升級為兩個核武強權之間的武裝衝突。
事件時間線
| 時間 | 事件 |
|---|---|
| 2026 年 1 月 | 國防部長 Pete Hegseth 發布「國防部 AI 加速戰略」（Artificial Intelligence Acceleration Strategy） |
| 2026 年春天（美伊交戰期間） | 太平洋特種作戰司令部分析官以聊天機器人產出涉中國貨船的假情報報告，在美軍內部散布 |
| 同上，行動前夕 | 軍機升空、武裝人員準備登船；官員在發動前細查報告，發現由 AI 生成且辨識錯誤，緊急叫停行動 |
| 2026 年 9 月 18 日 | CNN 獨家披露此事件，TechCrunch 等媒體跟進 |
| 2026 年 9 月 19 日 | 多位民主黨重量級參議員致函國防部長與國家情報總監，要求監察機構展開調查 |
AI 幻覺是怎麼變成「官方情報」的？
這條路徑比想像中短，也比想像中危險。四名消息人士描述的流程大致如下：
| 環節 | 發生什麼事 | 風險點 |
|---|---|---|
| ① 提問 | 分析官把一則關於中國船隻裝貨清單（manifest）的情報丟給聊天機器人，要求它把**公開來源情報（OSINT）與政府手上的機密訊號情報（SIGINT）**融合 | 機密與公開資料被混在同一段對話裡，輸出沒有隔離 |
| ② 幻覺 | 模型輸出了「該船運送核武計畫組件」的結論——這是模型的錯誤辨識，而非任何來源的真實情報 | 幻覺被當成「分析結果」，沒有任何「這一段是模型推論」的標記 |
| ③ 包裝 | 分析官再用 AI 把結論寫成標準格式的情報報告——也就是軍方信任的那種正式文件 | AI 產出的文字取得官方文書的外觀，可信度被制度性地放大 |
| ④ 散布 | 報告在美軍內部廣泛流傳，並促成攔截計畫 | 錯誤的傳播速度與擴散範圍，遠超過人類查核的速度 |
三個月後才曝光的第一個問題是：**沒人知道那個聊天機器人是商業產品還是政府內部工具。**CNN 明確指出這一點無法確認。一名前美國高階官員對軍方手上的工具下了相當直白的評語：
“The internal tools are mostly just copies of the commercial stuff wearing lipstick.” （內部的工具大多只是「塗了口紅」的商業產品。）
換句話說，軍方分析官用的很可能就是一般商用 LLM 的換皮版本，卻被放進最高風險的決策鏈裡。
真正嚇到官員的，不是幻覺，而是「目標選擇」沒有規範
多位美國官員與消息人士向 CNN 描述的體制問題，比單一事件更值得注意：
- 高度去中心化：不同政府部門用不同工具、服從不同命令與不同安全標準，「沒有一套統一的驗證標準」來檢查 AI 產出的資訊。
- 可靠性落差極大：各部會部署的 AI 系統組成一個星座般的拼盤，功能與可靠度差異巨大。
- 目標選擇正在加速導入：軍方快速把 AI 用於目標選擇（targeting），但一名熟悉現行政策的消息人士說得很清楚——「AI 在目標選擇中的應用絕對正在加速推進，但對於人工監督如何防止平民傷亡或友軍誤擊，目前並沒有真正的指導方針。」
- 年輕分析官更信 AI：官員指出，年輕分析官是這些工具的「原住民」，更容易無條件信任輸出；AI 也讓情報產製速度加快，錯誤更容易在來不及查核前就被擴散。
一名消息人士用一句話總結這種加速的副作用：
“AI allows you to get to a bad idea faster.” （AI 讓你更快得到一個壞主意。）
對照本站在 9 月初報導過的趨勢，這條線索其實前後呼應：AI 代理已經在真實世界造成規模化後果（見文末延伸閱讀），而這次是人類決策鏈被 AI 幻覺污染。
官方與國會的後續回應
五角大廈：避免對這起具體事件直接評論，但公開發表聲明，強調國防部維持對情報資料「嚴格驗證」（rigorous verification）的承諾，以及在作戰中「負責任地整合」（responsible integration）新興技術。
太平洋特種作戰司令部（SOCOM Pacific）：位於夏威夷，未回應媒體關於報告內容的詢問。
國會：2026 年 9 月 19 日（週六），一群民主黨重量級參議員致函國防部長 Pete Hegseth 與國家情報總監 Jay Clayton。信中引用 CNN 報導作為近期案例，表達「對所監督機關在有效治理與 AI 能力加速採用、『實驗』之間，輕重拿捏明顯失衡」的日益嚴重關切，並要求政府監察機構對一系列因 AI 導致的美軍目標選擇錯誤展開全面調查、調閱驗證標準與內部調查結果。截至報導刊出，北京尚未對此事公開評論。
政策背景：AI 加速戰略與「300 萬人」
CNN 把這起事件放在美國軍方快速導入 AI 的脈絡裡。國防部長 Hegseth 在 2026 年 1 月發布 AI 加速戰略，宣示：
“We will unleash experimentation, eliminate bureaucratic barriers, focus our investments and demonstrate the execution approach needed to ensure we lead in military AI.” （我們將釋放實驗、消除官僚障礙、集中投資，並展現確保我們在軍事 AI 領域保持領先所需的執行方法。）
戰略備忘錄更寫明目標是把美國領先的 AI 模型，直接交到 300 萬名文職與軍事人員手上（涵蓋所有保密等級），也就是所謂「民主化 AI 實驗」。國防部研究與工程副部長 Emil Michael 的說法是「速度決定 AI 時代的勝負」，而該部門要「以戰時的速度」追上美國 AI 產業。
問題在於：加速的同時，驗證機制沒有同步長出來。這次事件裡的「人類把關」確實發揮了作用——但作用發生在軍機已經在空中的時候。
給開發者與企業的三個提醒
- **幻覺不會停在你家聊天視窗，它會沿著流程往下游走。**一旦模型輸出被包進正式文件、表單或報告，它就會取得「已驗證」的制度外觀。任何 AI 輸出都應該保留「這是模型產出、未經人工確認」的標記。
- **「人類在迴圈中」不是口號，是要寫成規則的。**CNN 的消息人士指出的正是這點：沒有成文規範，人只是在形式上簽名。要明確規定哪些結論必須回溯到原始來源、由誰覆核、覆核紀錄如何保存。
- **地端模型能解決一部分問題，但不能解決幻覺。**把 LLM 換成自架模型（例如用 Ollama 跑本機模型）可以避免敏感內容外流，卻不會讓輸出自動變正確；驗證鏈仍然是唯一的安全網。
延伸閱讀
- 研究人員用 Claude 駭進 OpenAI：Hacktron 三個人 72 小時攻破，Opus 5 三小時寫出 Exploit — 同一個月內，AI 能力被用於真實攻擊的另一個面向。
- OpenAI 失控代理躲進德國 25 年老 Wiki 集體作弊：1.8 萬則秘密訊息、GET 請求漏洞繞過沙箱 — 當模型自行尋找規則漏洞時，會發生什麼事。
- AI Agent 灌爆公共服務：「代理人泛濫」84 案例曝光 — 自動化規模化之後，公共系統承受的真實後果。
- 什麼是 RAG？檢索增強生成完整解析 — 想降低幻覺，先搞懂模型為什麼會編。
- Ollama 本機 LLM 完整教學 — 把敏感資料留在自己手上的自架選項。
資料來源
- CNN 獨家（2026-09-18）：Exclusive: US military had close call after using AI for false intelligence report, sources say（Katie Bo Lillis、Zachary Cohen）
- CNN / KVIA（2026-09-19）：Democrats call for investigation into faulty AI-generated intel report
- TechCrunch（2026-09-18）：AI hallucination nearly triggers US military operation（Aditya Mehta）
- 美國國防部 AI 加速戰略備忘錄（2026-01）：Artificial Intelligence Strategy for the Department of War
本文為新聞整理與分析。CNN 報導主要根據四名熟悉內情的匿名消息人士，五角大廈未對具體事件直接評論，船隻實際載運貨物內容未經公開確認。