AI 幻覺是什麼？3 大成因＋6 個方法，避免 AI 一本正經亂編答案

我每天都用 Claude Code 這類 AI 工具協助管理數千個網站，做批次檢查、掃描、修復。AI 幫我省下大量時間，但我也很清楚它有一個脾氣：它不知道的時候，常常不會說不知道，而是很有自信地編一個答案給你。

最麻煩的是，這些錯誤看起來跟正確答案一模一樣。排版整齊、條理分明，還會附上「出處」。你如果沒有回頭查，很容易就把它放進簡報、貼到客戶信裡，或拿去做決定。

這篇我整理 AI 幻覺的成因、最常見的幾種類型，以及我自己和我們團隊實際在用的降低方法。不管你是拿 AI 寫文案、查資料，還是想在網站上放 AI 客服，都應該先懂這件事。

AI 為什麼會一本正經地亂編？3 個主要成因

根本原因是：語言模型的工作是「預測下一個字」，不是「查資料庫」。它從大量文字裡學到哪些字常常接在一起，然後產生最像正確答案的句子。像，不等於對。想了解背後怎麼運作，可以先看大型語言模型 LLM 是什麼。

成因 1：它在預測文字，不是在確認事實

你問「某某法規第幾條怎麼規定」，模型會產生一段「長得像法條」的文字。如果它在訓練時看過正確內容，答對機率高；如果沒看過，它還是會產生一段通順的答案，因為它的設計目標就是把句子寫完。

成因 2：訓練資料有缺漏、有過期

模型的知識停在某個時間點，冷門領域、在地資訊、最新價格與方案，它常常沒看過或看到舊版。問它台灣某個地方政府的補助辦法、某家服務的最新收費，就是高風險題。

成因 3：問題太模糊，或你逼它一定要回答

提示越模糊，AI 越需要自己「補空白」，補的內容就可能是編的。另一種情況是使用者一直追問「一定有，你再想想」，模型為了配合你，反而更容易生出一個不存在的答案。

AI 幻覺有哪些常見類型？

最危險的不是明顯答錯，而是「看起來很專業的錯」。我把最常遇到的整理成這張表：

真的有人因為 AI 幻覺出事嗎？

有，而且已經上過法院。這裡舉兩個查得到出處的案例。

美國律師引用 ChatGPT 捏造的判例

2023 年美國紐約南區聯邦法院的 Mata v. Avianca 案中，原告律師提交的書狀引用了多個由 ChatGPT 產生、實際上不存在的判例。承審法官 P. Kevin Castel 在 2023 年 6 月的裁定中指出，其中六個案例看起來是假的判決、假的引文，並對兩名律師與所屬事務所處以共 5,000 美元罰款，還要求他們通知被冒名的法官（出處：Reuters、Bloomberg Law 2023 年 6 月報導）。

加拿大航空客服機器人亂講退費規定

2024 年 2 月，加拿大卑詩省民事仲裁庭在 Moffatt v. Air Canada 案中裁定，航空公司官網聊天機器人告訴旅客的喪親票價退費方式與公司實際政策不符，航空公司必須為機器人說的話負責並賠償差額（出處：BC Civil Resolution Tribunal，2024 BCCRT 149）。

這兩件事給小老闆的提醒很直接：AI 說錯話，責任還是在用它的人或公司身上。放在網站上的 AI 客服尤其如此，它講的每一句都代表你的品牌。

怎麼避免 AI 亂編答案？我實際在用的 6 個方法

AI 幻覺目前沒辦法完全消除，比較務實的目標是：降低發生機率，並讓錯誤容易被抓到。

方法 1：給它資料，不要讓它憑記憶回答

最有效的一招。把官方文件、你的產品規格、價目表直接貼給它，或上傳檔案，然後明講「只根據以下資料回答」。模型有東西可以參照，就不需要靠猜。

方法 2：用 RAG 讓 AI 先查再答

RAG（檢索增強生成）就是方法 1 的系統化版本：AI 回答前，先從你的資料庫找出相關段落，再根據那些段落產生答案。企業級的 AI 客服、內部知識庫多半是這樣做。細節可以看RAG 是什麼。

方法 3：要求附出處，而且你要真的點開

在提示裡加一句「每個重點請附上來源網址，查不到來源的請標示」。但要記得：AI 連出處都可能編，所以附了不等於對，一定要點進去看原文是不是真的這樣寫。

方法 4：明確允許它說「不知道」

很多人沒想到這一點。在提示裡寫「資料不足時請直接回答無法確認，不要猜測」，硬掰的情況會明顯變少。你給它台階下，它才不會硬撐。提示怎麼下得更精準，可以參考AI 提示詞怎麼寫。

方法 5：把大任務拆小

一次要它「查資料＋分析＋寫結論＋給建議」，每一步都可能出錯，錯誤還會一路累積。拆成先整理資料、再標出處、最後才下結論，每一步你都看一下，抓錯容易很多。

方法 6：關鍵資訊交叉查證

數字、日期、人名、法規、價格、引述，這幾類一律當作「未經確認」，回到官方網站或原始資料核對。也可以把同一題丟給另一個 AI 工具，兩邊答案差很多，代表至少有一邊錯了。

哪些情況絕對不能直接相信 AI？

判斷原則是：錯了要付出多少代價。代價越高，越需要人工確認。

我自己的習慣是：AI 可以幫我「找方向、做第一版」，但最後那一步「這是不是真的」，一定是人來確認。

網站上的 AI 客服，怎麼避免它對客人亂講？

客服是幻覺代價最高的場景之一，因為它是直接對顧客說話。處理方式就是把前面的方法做成系統：限制它只能根據你提供的資料回答，資料裡沒有的就不要回答，交給真人。

我們自己開發的 AI 客服就是照這個邏輯設計的：它只依你提供的資料回答，不會自己編答案；遇到回答不了的問題，可以由真人接手協作；客人傳圖片它也看得懂。計費採 Token 制，每月有贈送用量。

不過再好的系統，前提都是你給的資料要正確、完整。資料寫錯，AI 就會「正確地」複述錯誤。資料要怎麼準備，我在AI 客服資料準備那篇有詳細整理。

常見問題

AI 幻覺是程式 bug 嗎？

不算是傳統的 bug。它來自語言模型預測文字的本質，模型本來就會產生「最可能」而不是「確定正確」的答案，所以只能降低，很難完全消除。

付費版或新版的 AI 就不會有幻覺嗎？

新模型通常比舊模型好一些，有連網搜尋的版本也比較能查證，但都還是會出錯。不要因為用的是付費版就跳過查證。

我上傳了文件給 AI，它還會亂講嗎？

機率會下降，但還是可能。例如摘要時加入原文沒有的推論，或文件裡找不到答案時自己補。最好要求它標出答案出自文件哪一段。

怎麼快速判斷 AI 的答案可能是編的？

幾個警訊：數字很精確卻沒有來源、給的網址打不開、你追問細節它就改口、語氣異常篤定、跟你已知的事實衝突。出現任何一個，就該回頭查。

寫行銷文案也要擔心 AI 幻覺嗎？

要。最常見的是 AI 幫你加上不存在的認證、誇大的功效或假的統計數字。廣告文案裡的事實宣稱一旦有誤，可能踩到廣告法規，發布前務必逐條確認。

結語：把 AI 當成很快但會唬爛的實習生

我對 AI 的定位一直是這樣：它是一個反應超快、什麼都敢回答的實習生。你交代清楚、給足資料、要求它附出處、准許它說不知道，它的表現會非常好；但你不能把最後的判斷交給它。

下次 AI 給你一個很漂亮的答案時，先問自己一句：「這個我查得到嗎？」查得到，再用。