什麼是 RAG？為什麼 AI 客服可以不亂講（非工程師白話版）

如果你用過 ChatGPT，應該遇過這種狀況：問它一個問題，它回答得頭頭是道、語氣篤定，結果你一查，根本是編的。

這在聊天時頂多讓人翻白眼，但換成你的店在用 AI 客服，就是大問題了。顧客問「這件可以退嗎？」AI 說「可以，30 天內免費退」，可是你的規定其實是 7 天、而且要自付運費。這種錯，最後是你要出面收拾。

我每天用 Claude Code 這類 AI 工具管理幾千個網站，做批次檢查、掃描、修復。用久了我最深的體會是：AI 手上有真實資料的時候非常可靠，手上沒資料的時候，它會很有自信地猜。RAG 要解決的，就是這件事。

這篇我不講向量資料庫、嵌入模型這些工程細節，而是用老闆聽得懂的方式，講清楚 RAG 是什麼、為什麼它能讓 AI 客服不亂講，以及你自己要上 AI 客服之前，資料該怎麼準備、上線前該怎麼考它。

RAG 是什麼？用一句白話解釋

RAG 就是「先查資料、再回答」。英文全名是 Retrieval-Augmented Generation，中文常翻成檢索增強生成：Retrieval 是檢索（找資料），Augmented 是增強，Generation 是生成（寫出回答）。

這個方法最早是 2020 年由 Patrick Lewis 等人在當時的 Facebook AI Research（現在的 Meta）發表的論文中提出，之後成為企業導入 AI 最常見的做法之一。

我喜歡用門市新人來比喻：

• 沒有 RAG 的 AI，像一個很會講話、但第一天上班的新人。顧客問什麼他都答得出來，因為他用的是「一般店家大概都這樣」的常識在推測，而不是你們店的規定。
• 有 RAG 的 AI，像同一個新人，但手邊放著一本你寫好的員工手冊。顧客一問，他先翻到相關那一頁，照著上面寫的回答；手冊沒寫的，他就說「這我幫您問一下主管」。

兩個新人的口才一樣好，差別只在於有沒有那本手冊、以及有沒有被要求照手冊回答。

為什麼一般的 AI 會亂講？

因為大型語言模型本質上是在「預測下一個最可能出現的字」，不是在查資料。它從大量文字中學會了語言和常識，所以講話很通順，但它不知道兩件事：

1. 你們家的資料。你的運費、退換貨規定、商品規格、營業時間，這些從來沒出現在它的訓練資料裡。
2. 最新的資訊。模型的知識停在訓練完成的那一天，你上週改的價格、這個月的活動，它都不會知道。

遇到不知道的事，模型不會自動停下來說「我不知道」，而是會依照常見的說法，拼出一個「聽起來合理」的答案。這種現象叫做「幻覺」（hallucination）。對客服來說，一個聽起來合理但錯的答案，比直接說不知道還糟，因為顧客會相信它。

RAG 怎麼運作？三個步驟就懂

RAG 的流程可以拆成三步，你不需要會寫程式，但知道這三步，會幫助你理解後面「資料該怎麼準備」。

步驟一：把你的資料整理成可以被查的形式

系統會把你提供的文件（常見問題、商品說明、退換貨規定、PDF 型錄等）切成一小段一小段，並建立索引，就像幫員工手冊做好目錄和頁碼。

步驟二：顧客提問時，先找出最相關的段落

顧客問「超商取貨要多久？」，系統不是直接丟給 AI，而是先去索引裡找跟「超商、取貨、天數」意思最接近的幾段內容。這裡找的是「意思相近」，不是逐字比對，所以顧客問「7-11 幾天到」也找得到。

步驟三：把找到的段落交給 AI，請它根據這些內容回答

最後，系統把顧客的問題和找到的段落一起交給 AI，並告訴它：「請根據以下資料回答，資料裡沒有的就不要自己補。」AI 的口才負責把答案講得自然，內容則來自你的資料。

RAG、微調、直接把資料貼給 ChatGPT，差在哪？

對小店家來說，RAG 通常是最實際的選擇。很多人聽過另外兩種做法，我直接比較給你看：

• 直接把資料貼進 ChatGPT：自己問問題可以，但不適合當客服。每次對話都要重貼，資料一多就塞不下，也沒辦法讓顧客直接用。
• 微調（fine-tuning）：用你的資料重新訓練模型，讓它「記住」你的風格或知識。問題是成本高、要工程師，而且每次資料更新都要重來。對「運費改了」這種常變動的資訊，非常不划算。
• RAG：模型本身不動，只是讓它每次回答前去翻你的資料。改了資料就生效，不用重新訓練。這也是三篇我參考的文章（Salesforce、PRO360、penchan.co）共同強調的最大優點。

簡單說：想改變 AI「怎麼講話」，才考慮微調；想讓 AI「講對你家的事」，用 RAG 就對了。

RAG 能讓 AI 客服完全不出錯嗎？

不能，但它把出錯的原因，從「AI 自己亂編」變成「資料本身有問題」，而資料是你可以控制的。這是我覺得最多人誤會的地方。

RAG 的品質，幾乎完全取決於你給它的資料。我看過很多店家上了 AI 客服之後抱怨「AI 還是答錯」，回頭一查，問題通常出在這幾種：

• 資料過期：去年的運費門檻還留在常見問題裡，新的寫在另一份文件，兩份都被 AI 找到，它只能選一個。
• 資料互相矛盾：商品頁寫「7 天鑑賞期」，退貨說明寫「收到 10 天內可退」，AI 不知道哪個才算數。
• 資料寫得太含糊：「依情況處理」「請洽客服」這種句子，AI 找到了也沒辦法給顧客有用的答案。
• 根本沒寫：顧客最常問的問題，其實老闆從沒寫下來，都是靠真人客服記在腦袋裡。

所以與其問「哪個 AI 最聰明」，不如先問「我的資料夠不夠清楚」。

要上 AI 客服，資料該怎麼準備？

把資料寫成「新人看了就能回答顧客」的程度，AI 就能用。以下是我建議的準備順序：

1. 先整理顧客真正會問的問題

不要從你想說的開始，從顧客會問的開始。翻一翻過去的私訊、LINE、Email，把重複出現的問題列出來。一般零售或電商最常見的大概是：運費和到貨時間、付款方式、退換貨、尺寸或規格、訂單查詢、發票、營業時間和門市地址。

2. 一個問題寫一段，答案要具體

每一題用「問題＋明確答案」的格式寫。例如：

問：運費怎麼算？

答：單筆訂單滿 NT$1,500 免運；未滿收 NT$80。離島地區另計，請在結帳頁查看。

這比寫一大段「關於運費，我們有多種方案……」好查得多。前面提到系統會把文件切段，一段只講一件事，切出來的每一段都完整，AI 就不容易拿到半截資訊。

3. 舊資料要刪，不要只是新增

改了規定，就把舊的那一段刪掉或改掉，不要讓新舊並存。我建議每次調整價格、運費、活動時，順手打開知識庫檢查一次。

4. 把「不能說」的事也寫清楚

例如「不提供電話報價」「不保證到貨日期」「醫療相關問題請諮詢專業醫師」。寫下邊界，AI 被問到時才知道該怎麼婉拒。

5. 寫下什麼情況要轉真人

客訴、退款爭議、大量訂購、客製化需求，這些通常不適合讓 AI 做最終決定。先定義好轉真人的條件，後面設定會輕鬆很多。

上線前怎麼測試 AI 客服有沒有亂講？

上線前花一小時「考它」，可以省下上線後很多麻煩。我會用這四種題目：

1. 標準題：直接問知識庫裡寫好的問題，確認答案正確。
2. 換句話說題：用顧客的口語問同一件事，例如把「退換貨規定」改成「買錯尺寸可以換嗎」，看它找不找得到。
3. 陷阱題：故意問資料裡完全沒有的事，例如「你們有在日本開分店嗎」。合格的反應是說不知道或轉真人，而不是編一個答案。這一題最重要。
4. 壓力題：模擬生氣的顧客、要求超出規定的優惠，看它會不會為了討好顧客亂承諾。

答錯的題目，幾乎都能回頭在資料裡找到原因：沒寫、寫得不清楚，或新舊資料打架。改資料、再測一次，通常兩三輪就會穩定很多。

我們自己的 AI 客服怎麼做？

我們自己開發的 AI 客服，設計原則就是 RAG 這個精神：只依你提供的資料回答，你沒給的資料，它不會自己編。對店家來說，這代表你可以放心讓它先接住大部分的重複問題。

幾個我覺得對小店家特別實用的地方：

• 可以和真人協作接手：遇到 AI 不該處理的狀況，真人可以直接接手對話，不用讓顧客重講一遍。
• 看得懂圖片：顧客傳一張商品照片或截圖來問，它也能理解內容再回答。
• Token 計費、每月贈送用量：用多少算多少，每個月有贈送的用量，小店家前期的負擔不大。

如果你對「讓 AI 直接操作網站」也有興趣，可以先看我寫的什麼是 MCP，那是另一個讓 AI 從「會聊天」走到「會做事」的關鍵。

哪些情況適合用 RAG？

只要你的問題是「答案已經寫在某份資料裡，只是要有人去找」，就適合用 RAG。除了對外的客服，常見的還有：

• 內部知識助理：員工問請假規定、報帳流程、產品規格，不用每次都問主管。
• 課程助教：學員問課程內容、作業規定，讓 AI 根據講義回答。
• 文件問答：合約、型錄、操作手冊很長，讓 AI 幫你找出相關條文。

反過來，如果你要的是 AI 幫你想創意、寫文案、做策略發想，就不太需要 RAG，因為那本來就是要它發揮，而不是照本宣科。

常見問題

RAG 和 ChatGPT 是競爭關係嗎？

不是。RAG 是一種用法，不是一個模型。它通常是把 ChatGPT、Claude 這類大型語言模型接上你的資料，讓它們在回答前先查資料，兩者是搭配使用的關係。

用了 RAG，AI 就百分之百不會答錯嗎？

不會。RAG 大幅降低 AI 自己編答案的機率，但如果資料過期、互相矛盾或寫得含糊，AI 還是可能答錯。資料品質決定回答品質，所以要定期檢查知識庫。

做 RAG 一定要會寫程式嗎？

現在不一定。自己從零打造需要工程師，但市面上已有很多做好的 AI 客服或知識庫工具，你只要上傳或貼上資料就能用，你要花心思的是把資料寫清楚。

我的資料放進 AI 客服，會不會外洩？

要看你用的服務怎麼處理資料。建議只放本來就可以公開給顧客知道的內容，例如常見問題、商品說明，不要把內部成本、顧客個資放進對外客服的知識庫。

知識庫要準備多少資料才夠？

不用一次到位。先把顧客最常問的 20 到 30 個問題寫清楚就能上線，之後看 AI 答不出來或答錯的對話，再慢慢補。真實的提問紀錄，就是最好的補充清單。

結語：AI 客服好不好用，關鍵在你的資料

RAG 說穿了就是一個很樸素的想法：別讓 AI 憑記憶回答，讓它先查資料。這個想法讓 AI 客服從「很會講但不可靠」，變成「照你的規定講」。

但工具只能做到一半，另一半在你身上。把顧客常問的問題寫清楚、舊資料記得刪、上線前好好考它一次，你的 AI 客服就能真的幫你省下時間，而不是製造新的麻煩。

如果你想把 AI 用在生意的更多地方，我們整理了一套從入門到實戰的免費課程，客服之外，架網站、做電商、自動化工作流都會教到。