小型語言模型：Phi、Gemma 與 8B 級的校本選擇

教師工作坊茶歇，有位科任舉起咖啡杯問：「既然旗艦模型每月都係幾百蚊，點解仲要研究 8B?直接用最大唔得咩？」IT 協調員反問：「你會為咗運三十個學生去泳館，而租一架五十座旅遊巴嗎？」

這是模組三的收尾：讀得懂 Model Card 與檔案格式之後，最後要回答的是——校本日常究竟需要多大的模型？

---

任務決定用哪種車

學校外出有兩種常見安排：平日返學用校巴，固定路線、座位剛好、司機熟路；偶爾全校遠足才包旅遊巴，座位多、費用高、要提早預約。

大模型與小模型的關係相近。問題從來不是「哪架車比較貴」，而是「這趟行程有幾多人、去邊、要不要過夜」。 把旗艦模型用在每一項校務，就像天天租旅遊巴返學——不是做不到，而是貴、慢，而且敏感資料不必要地離開校園。

精選教材養出的專才

一個常見誤解是以為小模型只是把大模型砍掉幾層。實際上近年小模型變強的主因是訓練材料的質素。

以微軟的 Phi 系列為例，它的設計理念是用大量精心篩選與合成的「教科書式」材料訓練，而不是照抄整個網絡。結果是一個 14B 參數的模型，在數學與推理測試上追近甚至超越體積大幾倍的對手——像用精編教材教出來的學生，而不是「讀得多但雜」的學生。

Google 的 Gemma 系列走另一條路線：把旗艦 Gemini 的研究成果做成可下載的公開權重模型，並且刻意做得能在一般硬件上運行。近期版本已支援文字、影像與語音輸入，並涵蓋一百四十多種語言與長上下文。

至於 Meta、Alibaba Qwen 與 Mistral 的 7B 至 9B 級模型，則是目前學校本地部署最常見的一批，因為中文支援與社群資源都相對成熟。各家現行陣容見 AI 模型資料庫。

要留意：每個模型的 Model Card 都會寫明語言支援。例如 Phi 系列的 Model Card 明確表示主力英文、不以多語言為設計目標，這對中文校本應用就是重要警示。讀法見 看懂 Model Card、GGUF 與 Safetensors。

八成校務不必叫旗艦

按我們在學校實地觀察，以下任務用 8B 級模型幾乎感覺不到差距：

整理與改寫

會議文字稿→議決要點；教師段落→工作紙表格；同一段閱讀材料→小四、小五、小六三個難度版本。

分類與檢查

一百條問卷開放式答案分類；通告有否漏日期、地點、回覆期限；英文文章詞彙表加難度標註。

共通點：答案主要來自你提供的材料，不是模型記憶——資料在校內、提示清楚、格式固定，正是小模型最適合的場景。

仍要旗艦的四種場合

• 需要多步推理的題目，例如中五數學證明、物理應用題的完整解法；
• 需要在一份長文件內找出前後矛盾之處；
• 語氣要求極高的對外文書，例如處理投訴的家長信；
• 需要同時處理影像與文字的複雜判斷。

這類任務的關鍵不是知識量，而是推理深度，詳見 多模態、推論型模型與具身智能。

小模型做「量」，旗艦做「質」——把兩者混在同一條流程，往往既慢又貴，還把敏感原文不必要地送上雲端。

九百份問卷的雙層分工

一所中學生涯規劃組處理問卷：九百名學生、每人三條開放式問題，合共約二千七百段文字；人手分類需整個星期。

校內 8B 做分類

校內 8B 模型把每段歸入「升學」「就業」「情緒支援」「課外活動」「其他」，並抽關鍵字；二千七百段原文一秒未離校網。

旗艦寫管理層報告

去識別化統計摘要才送雲端旗艦，撰寫需細緻語氣與跨項推論的管理層分析。一位老師兩節課完成原一星期的量；硬件成本落在『智』啟學教資助（每校最高 500,000 港元）可申請範圍——重點是買剛好跑得動 8B 量化版的機器，不是買最大。

容易走歪的地方

• 錯法：用價錢或參數量判斷任務難度。 先問「答案在不在我提供的材料裡」。自查：這次任務若關掉模型記憶、只給原文，人類助理做不做得到？
• 錯法：以為微調可以代替知識庫。 校規、時間表、本學年通告應該檢索，不是訓練進參數。自查：見 校本知識庫與 RAG。
• 錯法：敏感資料一律送旗艦「因為較準」。 學生作文、輔導紀錄、SEN 相關資料，能在校內 8B 處理就不應為了「稍好一點」而離校。自查：這份資料若外洩，後果是否可接受？

動手做一次

時間： 約 12 分鐘。材料： 一個 8B 級本地或雲端小模型，以及一個旗艦模型（若只有其一，仍可做前半段）。

做甚麼： 兩個模型各跑一次以下提示，記錄輸出：

以下是五位學生對「你最想學校增加甚麼課外活動」的回答。請把它們分成不多於三類，為每類取一個名稱，並列出屬於該類的答案編號。
只可以根據我提供的答案分類，不要補充你自己的想法，也不要評價學生。
1. 想有攝影學會，因為我喜歡拍照。
2. 希望多些球類比賽。
3. 想學煮飯。
4. 想有羽毛球隊。
5. 想學剪片。

然後把提示換成「請根據香港現行高中課程，分析增加這些活動對其他學習經歷的影響」，再各跑一次。

交出甚麼： 四行筆記：(1) 第一條提示，兩者差距大不大；(2) 第二條提示，差距是否立刻出現；(3) 哪一條你會固定留給校內 8B;(4) 哪一條你會升級旗艦，理由一句。

怎樣算做對： 你能說出「材料內任務 vs 推理任務」的分界，並舉一項你科組下週會改用小模型處理的具體校務。

模組三到這裡結束。下一模組由 一課讀懂 Prompt 工程 開始。想回顧檔案格式，見 看懂 Model Card、GGUF 與 Safetensors；想了解小模型微調成本，見 LoRA 與 QLoRA。