教育局『智』啟學教撥款計劃 · 撥款使用期限 2028 年 8 月 31 日前，把握機會，聯絡我們！English
Edor.ai
Edor.ai 學習中心

LLM 教室：大型語言模型基礎

由 Transformer 架構、Tokenization、參數與 Self-Attention 講起，再走到訓練的三個階段、RAG、量化、校內部署、守門機制與接下來的走向。全部用日常比喻解釋，不需要數學或程式背景。

28 課
約 374 分鐘
適合：全體教師、科主任、IT 主任；無需程式背景
由第一課開始

課程大綱

01

模組一：模型裡面實際在做甚麼

Transformer、Tokenization、參數、Embedding 與 Self-Attention，用白話講一次

  1. 01教師為甚麼要懂 LLM，而不只是會用從科組會議裡一句答不上來的追問出發，說明「會用 AI」與「懂得把關」的分別，並為整個二十八課 LLM 課程畫出閱讀路線。 11 分鐘· 程度: 入門
  2. 02Transformer 白話版：模型怎樣逐字「接」出答案用校園電台直播逐字稿做比喻，說明 Transformer 如何一層層處理輸入、以及為甚麼答案是一個字一個字接出來而非先想好再寫。 13 分鐘· 程度: 入門
  3. 03Tokenization：中文為甚麼比英文「佔位」多用快遞標準包裝箱的比喻說明 token 是甚麼，以及中文為何消耗更多 token、對上下文長度與字數控制的實際影響。 13 分鐘· 程度: 入門
  4. 04參數是甚麼：百億到萬億數字真正代表甚麼用資深教師「改卷手感」的比喻說明參數儲存的是規律而非條目，以及為甚麼不應把參數量當作採購首要指標。 12 分鐘· 程度: 入門
  5. 05Embedding、位置編碼與 Self-Attention：模型讀句子的三個機制用博物館展區、分鏡編號與總譜對位三個新比喻，拆解 Transformer 如何把文字變成可計算的理解，以及這與校本知識庫檢索的關係。 14 分鐘· 程度: 進階
02

模組二：一個模型是怎樣煉出來的

預訓練、微調、對齊三個階段，以及幻覺與偏見在哪一步長出來

  1. 06預訓練：自監督學習與資料清洗用猜歌填詞與校刊編輯審稿兩個比喻，說明模型在第一階段怎樣自學，以及資料質素為何決定一切。 13 分鐘· 程度: 入門
  2. 07微調：SFT 與指令跟隨能力從何而來用電台主持示範接聽的比喻，說明監督式微調怎樣把會接句子的模型變成會應對的助手。 13 分鐘· 程度: 進階
  3. 08對齊：RLHF 與 DPO 怎樣教模型「守規矩」用校際辯論評判與盲測排位的比喻，說明對齊訓練怎樣運作，以及為甚麼學校仍然需要自己的護欄。 14 分鐘· 程度: 進階
  4. 09幻覺與偏見從何而來，以及教師可以怎樣攔截從生成機制拆解幻覺為甚麼必然出現、偏見從哪裡滲入教材，並提供五道校本把關做法，讓 AI 留在「初稿助手」的位置。 15 分鐘· 程度: 入門
  5. 10知識截止日與版本更替：模型記憶停在何時說明模型知識為何在某天停止更新、怎樣在官方文件查證截止日，以及科組如何用簡單的版本標記管理提示模板，避免學年中途被型號更替打亂。 14 分鐘· 程度: 入門
03

模組三：生態與模型從哪裡來

Hugging Face、小型語言模型，以及放在裝置上跑的做法

  1. 11Hugging Face：公開模型倉庫，教師也能查證一個公開存放 AI 模型的網站，教師即使不寫程式，也可以用它查證模型的來源、授權與已知限制。本課用「可查閱的博物館標本櫃」帶你逛一次，並說明學校選模型時真正該看的四件事。 11 分鐘· 程度: 入門
  2. 12讀懂 Model Card 與檔案格式模型頁上那一堆檔案名稱與說明文字，其實有固定結構。本課把 Model Card 比作設備說明書，把 GGUF 比作行李限重等級，讓教師與 IT 主任在五分鐘內判斷一個模型能否放進學校。 12 分鐘· 程度: 入門
  3. 13小型語言模型：Phi、Gemma 與 8B 級的校本選擇學校不一定需要最大的模型。本課用「校巴與包車」的比喻解釋為甚麼幾十億參數的小模型已足以應付大部分校務，以及甚麼場合仍然要動用旗艦模型。 12 分鐘· 程度: 進階
04

模組四：做應用時真正要懂的概念

提示、知識庫與 RAG、Chunking、Context Caching、代理、MCP 與開發框架

  1. 14一課讀懂 Prompt 工程：把 AI 當成接單的印刷車間同一個 AI，有人五分鐘印出可用的工作紙，有人改了一小時還在刪廢話。分別在於有沒有寫清工單上的五欄。本課用印刷下單的比喻，把提示工程講成教師日常做得到的工序。 13 分鐘· 程度: 入門
  2. 15校本知識庫與檢索增強生成（RAG）通用 AI 讀過海量網頁，卻沒讀過你校這學期的功課政策。RAG 的做法是回答前先從校本檔案櫃取出相關段落，像校務處職員翻閱內部通函後才回覆家長。本課解釋原理，以及為甚麼它比「用學校資料訓練模型」務實得多。 14 分鐘· 程度: 入門
  3. 16Chunking、檢索重排與「迷失在中間」把整份長文件一次塞給 AI，它常漏掉中段最關鍵的条文。本課用「改卷指定頁」的比喻解釋這個有研究支撐的現象，並給教師四個立即可用的對策：切段、重疊、重排、關鍵指示置尾。 15 分鐘· 程度: 進階
  4. 17Context Caching 與成本控制：同一套投影不必每次重播同一份課程綱要連續問十條問題，第二條起可以快很多、便宜很多。本課用「課室投影留同一套片、只換討論題」的比喻解釋 Context Caching，並說明它如何決定提示的排列順序。 12 分鐘· 程度: 進階
  5. 18AI Agent 實戰：Tool Calling 怎樣讓模型「動手」、MCP 為甚麼關乎採購模型本身碰不到你的出席簿，但可以填寫工單請系統代查。本課說明 Tool Calling 與 Agent 的分工、權限怎樣設才不會越界，以及 MCP 為何影響學校日後換供應商的成本。 14 分鐘· 程度: 進階
  6. 19LangChain 與 LlamaIndex：供應商文件裡的名字，教師該追問甚麼建議書常寫「採用 LangChain / LlamaIndex」，但教師不必寫程式。本課用舞台前台與後台分工的比喻，說明框架在接甚麼線，並提供四條採購追問。 12 分鐘· 程度: 實作
05

模組五：校內部署與省資源的微調

LoRA / QLoRA、量化，以及用 Ollama 與 LM Studio 在校內跑模型

  1. 20一張顯示卡微調校本語氣：LoRA、QLoRA 與 PEFT 怎樣運作不必重訓整個大模型。本課用「在原譜上加一頁伴奏改編」的比喻說明 LoRA 與 QLoRA，並列出甚麼情況應改知識庫而非微調。 15 分鐘· 程度: 進階
  2. 21模型量化實務：FP16、INT8、INT4 換來甚麼、失去甚麼同一份模型可以「細檔」運行。本課用混音台精度比喻說明量化，並示範如何用校本題目集決定校內模型與雲端模型的分工。 13 分鐘· 程度: 進階
  3. 22校內跑模型：Ollama 與 LM Studio 實作路線從資訊科技室一台現有電腦出發，示範 Ollama 與 LM Studio 在校網內跑模型的實際步驟、硬件預算、並發限制，以及哪些教學任務值得放在校內。 15 分鐘· 程度: 實作
  4. 23端側 AI 與 Apple Intelligence：資料留在哪裏從學生 iPad 上的 AI 功能出發，解釋端側運算為甚麼在私隱上有結構性優勢、能力上限在哪裏，以及學校如何把同一原則放大到校園網絡規模。 13 分鐘· 程度: 入門
06

模組六：安全、評估，與繞不過的限制

守門機制、LLM-as-a-Judge 與排行榜的可信度、幻覺與成本、倫理與版權

  1. 24AI 護欄實戰：Llama Guard、NeMo 與結構化輸出用廣播延遲線的比喻拆解 AI 護欄——輸入怎樣過濾、輸出怎樣審核、格式怎樣鎖定，以及 Edor.ai 四層守門各自守甚麼。 15 分鐘· 程度: 進階
  2. 25越獄與提示注入：攻擊怎樣發生，學校怎樣防用實驗室 SOP 被篡改的比喻解釋提示注入，分辨它與越獄的不同，並列出學校在採購與課堂上實際做得到的五道防線。 14 分鐘· 程度: 進階
  3. 26私隱、偏見與版權：校本 AI 倫理實務把會議上常混在一起的私隱、偏見、版權拆成教師今天就能照做的判斷步驟，附最少必要原則、課室偏見自查與學術誠信分級做法。 14 分鐘· 程度: 入門
  4. 27讀懂 AI 排行榜：MMLU、GPQA 與 Chatbot Arena說明公開評測各自量度甚麼、LLM-as-a-Judge 的偏差從哪裡來，以及為甚麼學校自己那三十至五十條校本題目比任何榜單更能決定採購。 14 分鐘· 程度: 進階
07

模組七：接下來會怎樣走

多模態、推理型模型，以及具身智能

  1. 28多模態、推論型模型與具身智能：成熟度分級把三類常被混談的趨勢按「今天可用」「按任務啟用」「仍是研究」分開，並提供採購與課室試點時不會過時的四條判斷準則。 14 分鐘· 程度: 入門

訂閱教室手記

每月一至兩封：課堂做法、系統更新與撥款資訊。隨時可以退訂。

這個電郵只用來寄通訊，不會給第三方。