LLM 是什麼？大型語言模型白話解釋，3 階段訓練一次看懂【2026】

我每天都在跟 LLM 一起工作。管理超過 4,000 個網站，很多批次檢查、掃描、修復，我都是交給 Claude Code 這類 AI 工具協助完成。用久了我發現，懂一點 LLM 的原理，比背一堆工具名稱有用得多。因為你一旦知道它是怎麼「想」的，就會知道什麼事可以放心交給它、什麼事一定要自己盯。

網路上解釋 LLM 的文章，很多不是太學術，就是只說一句「它是文字接龍」就結束。這篇我想用白話把整個流程講完：它怎麼預測、怎麼被訓練、參數和上下文長度是什麼、為什麼會講錯，以及它跟 RAG、AI Agent 的關係。至於生成式 AI 能拿來做哪些工作，我寫在另一篇〈生成式 AI 是什麼〉，這篇專心講原理。

LLM 是什麼？它真的「懂」你在說什麼嗎？

LLM 是一個超大型的「下一個字預測器」。它不是在資料庫裡查答案，而是看完你輸入的內容後，計算接下來哪個字最可能出現，寫出一個字，再把這個字加進去，繼續預測下一個，直到整段回答完成。

舉例來說，你輸入「台灣最高的山是」，它根據讀過的大量文字，判斷「玉」的機率最高，接著「山」，然後可能是句號。整段回答就是這樣一個字一個字接出來的。

那它算不算「懂」？我的看法是：它沒有人類那種理解，但為了把下一個字猜準，它在訓練中被迫學會了文法、常識、邏輯，甚至寫程式的規則。所以它的表現常常像是懂了，但遇到它沒學過、或資料裡本來就混亂的東西，它還是會照樣「猜」出一個看起來合理的答案。記住這一點，後面很多現象都說得通。

什麼是 token？為什麼 AI 工具都用 token 計費？

token 是 LLM 處理文字的最小單位，可以想成模型眼中的「字塊」。英文裡常常是一個單字或半個單字，中文則可能一個字就是一到數個 token，各家切法不同。

模型讀進來的是 token，吐出去的也是 token，運算量跟 token 數直接相關，所以 API 和很多 AI 服務都用 token 計價。實務上你只要知道：你貼給它的資料越長、它回答得越長，用掉的 token 就越多，成本也越高。

LLM 是怎麼訓練出來的？

現在主流的聊天型 LLM，大致經過三個階段：預訓練、微調、人類回饋強化學習（RLHF）。我用「培養一個新員工」來比喻。

第一階段：預訓練，先讀完整座圖書館

預訓練就是讓模型讀海量文字：網頁、書籍、論文、程式碼，任務只有一個，就是不斷練習預測下一個字。猜錯就調整內部數值，重複極大量的次數。

這個階段結束後，模型已經「博覽群書」，但它還只是一台很會接話的機器。你問它問題，它可能接著寫出另一個問題，因為它在網路上看過很多問題清單。就像一個讀了很多書、但從沒上過班的新人，知識很多，卻不知道怎麼回應主管。

第二階段：微調，教它怎麼當助理

微調是拿大量「問題與好回答」的範例，教模型用助理的方式回應。看多了之後，它就學會：有人問問題，要給答案；有人要摘要，要整理重點；有人要寫信，要給一封信。

企業也可以拿自己領域的資料再做一次微調，讓模型更熟某個產業的用語。不過這需要資料、技術和成本，多數小團隊用不到這一步。

第三階段：RLHF，讓人類幫它打分數

RLHF 的意思是「用人類回饋做強化學習」。做法是讓模型對同一個問題產出好幾個回答，由人來排出哪個比較好，再用這些排名訓練模型，讓它往人類偏好的方向調整：更有幫助、更誠實、更不容易產出有害內容。

OpenAI 在 2022 年發表的 InstructGPT 論文，就是用這種方法讓模型更會遵循指令，後來的聊天型 AI 大量採用類似做法。各家也發展出不同的變形，但精神都一樣：讓模型不只會說話，還會說「人想聽、也該聽」的話。

參數是什麼？越多就越聰明嗎？

參數是模型內部可以被調整的數值，可以想成大腦裡無數個旋鈕。訓練的過程，就是把這些旋鈕慢慢轉到「最能猜準下一個字」的位置。

LLM 的「大型」，指的就是參數多到以數十億、數千億計。一般來說，參數越多，模型能記住的規律越細，但也越吃運算資源、越貴。參數數量不等於聰明程度，訓練資料的品質、訓練方法也一樣重要，所以同樣大小的模型，表現可以差很多。

現在的趨勢是兩個方向並行：一邊是能力最強的大模型，另一邊是可以在筆電甚至手機上跑的小模型，用在比較單純、注重隱私或成本的任務。

上下文長度是什麼？為什麼對話太長 AI 會忘記？

上下文長度（context window）是模型一次能「看到」的 token 上限，包含你的提問、貼進去的資料、之前的對話，以及它自己的回答。超過這個長度，最前面的內容就會被截掉或壓縮。

可以把它想成模型的「工作桌面」。桌面越大，一次能攤開的資料越多。以 Google 官方的 Gemini API 文件為例（2026 年 11 月查詢），文件寫到許多 Gemini 模型支援 100 萬個 token 以上的上下文，並換算成大約 5 萬行程式碼或 8 本一般長度的英文小說。各家模型的上限不同、更新也很快，使用前以官方文件為準。

要注意的是，LLM 本身沒有長期記憶。你今天聊的內容，關掉對話後模型並不會「學起來」；有些產品的「記憶」功能，其實是系統把重點存起來，下次再偷偷放回桌面上。

常見的 LLM 有哪些？

以下只列查得到的基本事實，不比較誰最好，因為版本和排名變動得太快。資料為 2026 年 11 月整理。

前三者主要透過官方服務或 API 使用，模型本體在原廠伺服器上；Llama 這類開放權重模型，則可以下載到自己的主機上跑，適合重視資料不外流、又有技術能力的團隊。它們的共同祖先，是 Google 研究團隊在 2017 年論文〈Attention Is All You Need〉提出的 Transformer 架構。

LLM 擅長什麼、不擅長什麼？

一句話：擅長處理「語言和模式」，不擅長「精確和最新」。

右欄最後一項最要命。因為 LLM 是在「預測合理的下一個字」，當它不知道答案時，不會自動停下來說不知道，而是產出一段看起來很合理的內容。這就是 AI 幻覺的根源。了解原理後你就知道，問題不在它笨，而在它的設計本來就是「說得通」優先。

我的用法是：讓它做「我看得出對錯」的事。例如它寫的檢查程式，我會先在一兩個網站上試跑，確認結果合理，才放到整批網站上。下指令的技巧也很關鍵，可以參考〈AI 提示詞怎麼寫〉。

LLM 跟 RAG、AI Agent、MCP 是什麼關係？

LLM 是大腦，RAG 是給它參考書，MCP 是給它手和工具的接頭，AI Agent 則是把這些組起來、能自己完成任務的系統。

• RAG（檢索增強生成）：LLM 不知道你公司的資料，RAG 的做法是先從你的文件裡找出相關段落，放到上下文裡，再請 LLM 根據這些內容回答。這能大幅減少亂講，也是很多 AI 客服的做法。詳見〈RAG 是什麼〉。
• MCP（模型上下文協定）：一套讓 LLM 連接外部工具和系統的標準規格，例如讀檔案、查資料庫、操作網站。我們自己開發的 zenbu AI 網站系統就是透過 MCP，讓 AI 直接在網站上建頁面、上架商品、寫文章。詳見〈MCP 是什麼〉。
• AI Agent：讓 LLM 自己決定下一步要用什麼工具、做完再檢查、沒完成就繼續，直到任務結束。我用 Claude Code 管網站，就是這種形態。詳見〈AI Agent 是什麼〉。

理解這層關係很重要：當你覺得「AI 不夠好用」，問題常常不在 LLM 本身，而是它沒有拿到對的資料（缺 RAG），或沒有能動手的工具（缺 MCP 或 Agent 設計）。

常見問題

LLM 和 ChatGPT 是同一個東西嗎？

不是。LLM 是模型，ChatGPT 是用 LLM 做出來的產品。就像引擎和汽車的關係，ChatGPT 是一台車，裡面裝的引擎是 OpenAI 的 GPT 系列模型。

LLM 會一直從我的對話中學習嗎？

模型本身在對話中不會即時更新參數。不過部分服務的條款允許用對話資料改善未來的模型，敏感資料建議先去識別化，或選擇有資料保護條款的企業方案。

為什麼同一個問題問兩次，答案不一樣？

因為 LLM 在挑下一個字時帶有隨機性，不一定每次都挑機率最高的那個。這讓回答更自然多變，但也代表重要內容要多比對、多查證。

小公司需要自己訓練 LLM 嗎？

幾乎不需要。從頭訓練需要龐大的資料和運算成本，多數團隊直接用現成模型，再搭配好的提示詞和 RAG 接上自家資料，就能解決大部分需求。

LLM 的知識為什麼會過時？

因為它的知識停在預訓練資料的截止時間。之後發生的事，它要靠搜尋功能或 RAG 從外部補進來，否則就可能用舊資訊回答你。

結語：把 LLM 當成一個博學但需要被查核的新人

LLM 的本質就是預測下一個字，靠預訓練學會語言與知識，靠微調和 RLHF 學會當助理。它擅長語言和模式，不擅長精確和最新，也不會主動承認自己不知道。

把它想成一個讀遍圖書館、反應很快，但第一天上班的新人：給它清楚的指令、對的參考資料、適當的工具，再由你做最後檢查，它就能幫你省下大量時間。