Transformer 白話版：模型怎樣逐字「接」出答案

中二電腦科示範當日，有學生舉手：「老師，佢係咪諗完先答？」科任停頓兩秒，答：「佢好似……逐個字噴出嚟。」全班笑了，但這句玩笑話其實說中了核心——模型並不是先在內部寫好整篇講稿，而是一步接一步猜「下一個 token 應該是甚麼」。

上一課講「為甚麼教師要懂 LLM」；本課是模組一第二課，拆開「一句話送進去之後發生甚麼事」。沒有公式，只有一個你每週都可能用到的場景：改提示，看輸出怎樣變。

---

校園電台的逐字直播

想像學校電台做直播，主持人要即時讀出聽眾留言，但不能先看完整段才開口——只能看目前已有的字，然後接下一個字；接完之後，整段重新送進系統，再猜再下一個。

Transformer 的輸出端就是這樣運作。輸入「今日小息操場上」，模型可能算出下一個 token「很」0.28、「有」0.19、「下」0.11……抽中一個，變成「今日小息操場上很」，整句再送進去，循環直到停止。

這解釋了三件教師常遇到的事：同一份作文評兩次，分數可能不同（每一步是抽籤，不是固定取最高分）；長文容易愈寫愈離題（每一步只顧「接得順不順」）；錯誤事實也講得很肯定（「我不確定」在訓練文本裡太罕見，機率天然偏低，第 9 課 會細講）。

控制室裡的三排同事

輸入端比輸出端複雜。句子進入模型後，會經過幾十層處理——你可以想像電台控制室裡坐了三排同事，每排收到上一排的「註記版」原文，再加自己的一層理解。

第一排偏「聲韻與配搭」：這個字在這裡常跟甚麼字一起出現。第二排偏「句法與指代」：「他」指的是小明還是小華。第三排偏「意圖與語氣」：這是在抱怨、說明還是諷刺。沒有任何一排單獨「明白整句」，是幾十層註記疊起來，最後才夠資料去猜下一個 token。

每一排在下筆前，都要做同一件事：決定整句裡哪幾個位置最值得看。處理「他」時，注意力會落在「借」和「感激」等線索上——這就是 self-attention（自注意力）。第 5 課 會用「學生在題目下畫底線」講細節；這一課只需記住：每一層、每一個位置，都在重新分配「看哪裡」。

與舊方法的差別

2017 年 Transformer 出現之前，常見做法是像傳紙條一樣由左讀到右，前面的訊息要一路傳到句末，長句容易漏掉開頭的線索。Transformer 改成「整句同時攤在面前」——任何位置都可以直接對望任何其他位置，所以長距離指代（例如「他」指誰）處理得好得多。這也是為甚麼現代模型處理長提示時，條件寫在前面還是後面都仍可能被看到，但越早、越具體的條件，越能在每一步生成時收窄抽籤範圍。

小五閱讀理解的兩次提示

一位小五中文科任要為「香港公共交通」單元出閱讀卷。第一次提示只有一句：「幫我寫一份小五中文閱讀理解工作紙。」

文章尚可，但題目偏深，有兩題要求寫二百字——對小五明顯過重。她第二次改成：

「為小五學生寫一篇 350 字的說明文，題目是香港的公共交通。之後出五條閱讀理解題：兩條找答案、兩條理解、一條開放式。全部用繁體中文，香港用語。不要提供答案。」

第二版幾乎可直接印。用剛才的機制看：第一次提示裡，每一步猜下一個 token 時，線索只有「小五、中文、閱讀、工作紙」；第二次多了字數、文體、題型比例、語言規範。提示裡每一個具體數字，都是在幫控制室裡的每一排同事收窄選擇。

提示不是「禮貌地請求」，而是在每一步生成時都生效的欄栅——寫得越具體，抽籤範圍越小。

這是 提示工程那一課 有效的原因，與「模型聽不聽話」無關，與機制有關。

對課堂實務的三個含義

把條件寫進提示，別指望它推斷。 年級、字數、體裁、禁止事項——模型沒有「常識地知道」小五寫不了二百字分析。少寫一條，就可能在中途被高年級的寫作習慣帶走。

長篇輸出分段要。 一次過叫它寫完整教案，前後段落容易脫節。改成「先寫學習目標，我確認後再寫活動流程」，質素通常明顯提升——因為每一步生成時，前面已確認的部分會重新進入上下文。

架構共通，技巧可帶着走。 無論學校用 OpenAI、Claude 還是校內 Ollama，底層都是 Transformer。你在這一課學到的「逐 token 接龍」與「整句可見」，換供應商仍然成立。

容易走歪的地方

• 走歪：以為模型「先在內部想好答案再打出來」，所以同一條問題應該永遠同一個答案。 自查：同一提示連跑三次，若三次用詞明顯不同，代表你面對的是抽樣生成——評分、核對答案等場合必須保留教師覆核。

• 走歪：把提示寫得很長很客氣，但沒有寫清硬性條件（字數、年級、題型）。客氣話不會自動變成欄栅。 自查：刪掉所有「請」「麻煩」之後，剩餘句子是否仍包含可量化的條件？若只剩「幫我寫一份好的工作紙」，輸出飄是預期結果。

• 走歪：一次過要求「整份試卷 + 答案 + 評分準則 + 家長信」，然後抱怨後半部質素差。 自查：把任務拆成至少兩次對話，第二次是否明確引用第一次已確認的段落？若否，先拆再試。

動手做一次

時間：約 12 分鐘。材料：任何 AI 工具。

做甚麼：貼入以下提示：

請用一句話續寫：「今日小息的時候，操場上」
然後另起一行，列出你在寫第一個續寫 token 時，曾考慮過的另外四個候選，並簡述為甚麼最後沒有選它們。

交出甚麼：截圖或複製完整回覆，用螢光筆標出「續寫句」和「四個候選」兩部分。

怎樣算做對：你能向一位同事用一句話說明——「佢係逐個 token 接，唔係整段諗好先寫」——並指出模型自述的候選清單未必等於內部真實機率，但足夠說明工作單位是「下一個 token」。

下一課：Tokenization——模型其實看不到「字」，只看到被切開的碎片。上一課：為甚麼教師要懂 LLM。