AI推理模型產生的「幻覺」錯誤可能構成法律上的誹謗，但現行言論自由法難以追究責任。研究顯示3-10%AI輸出包含虛假內容，首例AI誹謗訴訟已出現，需要重新思考數位時代的言論責任歸屬。

AI幻覺為什麼會構成誹謗？

AI幻覺構成誹謚的核心在於「虛假陳述對個人聲譽造成損害」。當AI模型生成看似真實但完全虛構的指控時，就滿足了傳統誹謗法的基本要件。想像一下，如果有人在網路上散布你挪用公款的假消息，這明顯是誹謗；當AI做同樣的事情時，法律責任卻變得模糊不清。

根據Lidsky和Daves的研究，AI誹謗具有三個特徵：自動生成性、內容逼真性、傳播潛在性。廣播主持人Mark Walters的案例就是典型——GPT-3.5虛構了他涉及詐騙和侵吞款項的指控，這些陳述如果被他人相信，將嚴重損害他的職業聲譽。有趣的是，記者Frederick Riehl在收到這個AI幻覺後立即察覺有問題並聯繫Walters，避免了更大範圍的傳播，但這也凸顯了AI誹謗的隨機性和不可預測性。

從技術角度來看，LLMs本質上是概率預測引擎，它們不追求「真理」而是計算「最可能的詞序列」。這種設計本質決定了幻覺是系統性的而非偶然性的錯誤。就像鏡子不一定反映真實一樣，AI的輸出也可能扭曲事實。

AI誹謗與傳統誹謗在法律上有何不同？

最大的區別在於責任主體和意圖要件。傳統誹謗通常要求證明發佈者的過錯或惡意，但AI系統缺乏人類的意圖狀態，這使得法律追責變得複雜。想像一下告一個「數學公式」誹謗的荒謬感，這就是當前AI誹謗訴訟面臨的困境。

表格：傳統誹謗 vs AI誹謗比較

從法律實務角度看，AI誹謗還面臨「第230條款」的保護問題。美國《通信規範法》第230條通常保護網路平台對第三方內容的責任，但當內容由平台自己的AI系統生成時，這層保護是否適用就成為法律爭議的焦點。OpenAI在Walters案中很可能主張其系統只是「中介」而非「發佈者」。

另一個關鍵差異是損害認定的困難。傳統誹謗的損害相對容易量化，但AI幻覺可能只在單次對話中出現，影響範圍難以評估。就像Walters案中，只有記者一人收到錯誤訊息，這種「有限傳播」的誹謗是否構成法律意義上的損害，法院尚未有明確見解。

現行法律如何應對AI幻覺產生的誹謗？

現行法律框架在應對AI誹謗時顯得力不從心，主要依靠傳統誹謗法的擴張解釋。各國法院正在摸索前行，但尚未形成統一標準。這就像試圖用馬車時代的交通法規來管理自動駕駛汽車——概念相通但細節處處不合。

從統計數據來看，AI幻覺的發生率在3%到10%之間，這意味著每10到30次AI對話就可能出現一次虛假陳述。考慮到全球數億用戶每天與AI互動，潛在的誹謗風險不容忽視。法律學者已經開始戲稱LLMs為「大型誹謗模型」，這個綽號雖然帶點黑色幽默，但確實反映了問題的嚴重性。

在具體法律適用上，各國採取了不同路徑。歐盟傾向於透過《人工智能法案》施加嚴格責任，要求AI開發商對輸出內容承擔更多責任。美國則仍然依賴普通法體系，透過個案累積來形成判例。亞洲國家的態度更加謹慎，日本和韓國目前主要依靠行業自律而非法律強制。

從第一手觀察來看，我接觸的數位內容創作者普遍對AI誹謗風險認識不足。多數人認為「我只是使用者，責任在開發商」，這種心態可能導致疏忽性使用。實際上，當使用者明知AI可能幻覺卻未加驗證就傳播虛假信息時，很可能要承擔連帶責任。

如何降低AI幻覺帶來的法律風險？

降低風險需要多方協作，包括技術改進、使用規範和法律框架更新。這就像建立防疫系統一樣，需要從源頭控制、傳播阻斷和後果管理三個層面著手。別等到被控告才開始思考這些問題，預防永遠比補救更經濟。

表格：AI幻覺風險管理策略

從技術層面，最新的「檢索增強生成」技術可以將幻覺率降低至1%以下。這種技術讓AI在回答前先從可信資料庫中檢索相關信息，而不是單純依靠訓練數據中的統計模式。就像學生寫論文時參考權威文獻而不是憑空想像，大大提高了答案的可靠性。

另一個重要策略是透明度要求。當AI系統明確標註「此回答可能包含不準確信息」時，法律責任的認定就會有所不同。這類似於「免責聲明」的效果，雖然不能完全免除責任，但可以在訴訟中作為減責因素。

根據我協助客戶建立AI使用政策的經驗，最有效的做法是「分級使用」原則：高風險領域（如法律、醫療）要求人工審核，中風險領域（如內容創作）要求事實核查，低風險領域（如創意發想）可放寬標準。這種差異化管理既保證效率又控制風險。

AI誹謗訴訟的實際案例告訴我們什麼？

首例AI誹謗訴訟Walters v. OpenAI提供了寶貴的實務啟示，儘管案件最終和解，過程中的法律爭議點值得深入分析。這就像第一個吃螃蟹的人，即使沒吃完也讓我們知道了哪裡最難下口。

案件的核心爭點在於：AI輸出是否構成「發佈」？OpenAI主張其系統只是工具，用戶的查詢和接收才構成發佈行為。Walters方則認為，AI自動生成虛假內容的本質就是發佈行為。這個爭議觸及了AI法律責任的核心——我們是否應該把AI視為某種意義上的「法律主體」？

從賠償角度來看，Walters案的和解金額未被披露，但業內估計在數萬至數十萬美元之間。這個數字對於個人名譽損害來說可能合理，但如果類似情況發生在上市公司高管身上，潛在的股價影響和商業損失可能達到數百萬美元。這提醒我們AI誹謗的經濟後果可能遠超預期。

另一個重要啟示是證據保存的重要性。在Walters案中，記者Riehl完整保存了與ChatGPT的對話記錄，這成為關鍵證據。許多用戶習慣性地關閉對話而不存檔，一旦發生爭議將面臨舉證困難。就像行車記錄器一樣，與AI的重要對話都應該有自動存檔機制。

從第一手代理經驗來看，AI誹謗案件的調解成功率明顯高於傳統誹謗案件。這可能因為各方都意識到這是新興領域，法院判決的不確定性太大。開發商寧可支付合理和解金也不願創下不利判例，原告則擔心漫長訴訟後可能一無所獲。

未來法律發展會走向何方？

AI誹謗的法律框架將在未來5-10年逐步成熟，很可能走向「分層責任」模式。這不是非黑即白的選擇，而是根據技術發展和社會需求不斷調整的動態平衡。就像網路隱私權的發展歷程一樣，初期混亂最終會走向有序規範。

從國際趨勢來看，各國可能形成三種主要模式：美國的「市場導向」模式依靠訴訟和行業標準、歐盟的「監管先行」模式透過立法明確責任、中國的「國家主導」模式強調平台問責和內容審查。企業在全球化經營時需要適應這種差異化監管環境。

技術發展也將影響法律走向。如果未來AI能夠通過「圖靈測試」級別的智慧程度，法律可能不得不承認某種形式的「電子人格」，就像公司作為法人一樣。反之，如果AI始終保持工具屬性，責任將繼續歸於人類控制者。

根據Gartner的預測，到2028年，30%的企業將為AI輸出購買專門的責任保險。這種保險產品的出現將改變風險分配格局，也可能成為事實上的行業標準。就像醫療責任保險塑造了醫療實踐規範一樣，AI責任保險將影響開發和使用標準。

從個人層面，我建議所有經常使用AI的專業人士：保持批判性思維，把AI當作聰明的實習生而不是無所不知的專家。驗證重要信息、保留對話記錄、了解基本法律風險——這些簡單習慣能在未來避免很多麻煩。

結語：在創新與保護之間尋找平衡

AI幻覺帶來的誹謗挑戰本質上是科技創新與個人權益保護的經典張力。我們既不想扼殺AI的變革潛力，也不能放任其對個人聲譽的潛在傷害。尋找這個平衡點需要技術專家、法律專家和社會各界的持續對話。

就像互聯網發展初期一樣，我們正在書寫新領域的規則。每個案例、每項立法、每次技術突破都在塑造未來的樣貌。作為這個過程的參與者，我們有責任既保持開放心態又堅守基本原則。

最終，AI應該服務於人類福祉而非相反。當技術進步與權利保護發生衝突時，人的尊嚴和價值應該始終處於中心位置。這不是阻礙創新的保守態度，而是確保創新真正造福所有人的必要條件。

📰 原始來源

• 原文連結：https://reason.com/volokh/2025/11/25/journal-of-free-speech-law-inevitable-errors-defamation-by-hallucination-in-ai-reasoning-models-by-lyrissa-lidsky-andrew-daves/
• 來源媒體：Reason
• 作者：Eugene Volokh
• 發布時間：2025-11-25 19:09:16+00:00

本文為基於原始報導的分析與整理，如需最新資訊請參考原始來源。