Edor AI
Edor.ai 學習中心

LLM 教室:大型語言模型基礎

由 Transformer 架構、Tokenization、參數與 Self-Attention,一路講到訓練三階段、RAG、量化、本地部署、AI 護欄與未來趨勢。全部用生活化比喻解釋,不需要數學或程式背景。

28 課 約 345 分鐘適合對象:全體教師、科主任、IT 主任;無需程式背景
由第一課開始

課程大綱

模組一:模型內部是怎樣運作

Transformer、Tokenization、參數、Embedding 與 Self-Attention 的白話版本

  1. 01為甚麼教師需要理解 LLM(而不只是會用)由教員室的真實疑問開始,說明教師為甚麼需要理解 LLM 的運作,以及本課程七個模組會帶你走過甚麼。 10 分鐘· 程度: 入門
  2. 02Transformer 架構白話版:AI 是怎樣「讀」一句話用一疊在教員室傳閱的工作紙做比喻,說明 Transformer 怎樣逐層處理一句話,以及為甚麼它是逐個字寫出答案的。 12 分鐘· 程度: 入門
  3. 03Tokenization:為甚麼同一句話中文比英文貴用切樂高積木的比喻講解 token 是甚麼,並解釋中文為何耗用更多 token、以及這對成本與字數控制的實際影響。 12 分鐘· 程度: 入門
  4. 04參數的意義:百億到萬億參數究竟代表甚麼用腦細胞數量的比喻說明參數是甚麼、它儲存的是關係而不是條目,以及為甚麼不應把參數量當作採購指標。 11 分鐘· 程度: 入門
  5. 05Embedding、位置編碼與 Self-Attention:三個關鍵零件用座位表、學號與畫底線三個課室比喻,拆解模型內部三個最關鍵的零件,並說明它們與校本知識庫的關係。 13 分鐘· 程度: 進階

模組二:模型是怎樣煉成的

預訓練、微調與對齊三大階段,以及幻覺與偏見從何而來

  1. 06預訓練:自監督學習與資料清洗用完形填空工作紙與圖書館採購兩個比喻,說明模型在第一階段怎樣自學,以及資料質素為何決定一切。 12 分鐘· 程度: 入門
  2. 07微調:SFT 與指令跟隨能力從何而來用實習老師跟師傅學教學的比喻,說明監督式微調怎樣把會接句子的模型變成會應對的助手。 12 分鐘· 程度: 進階
  3. 08對齊:RLHF 與 DPO 怎樣教模型「守規矩」用評分準則批改而不是對照標準答案的比喻,說明對齊訓練怎樣運作,以及為甚麼學校仍然需要自己的護欄。 13 分鐘· 程度: 進階
  4. 09幻覺與偏見從何而來,以及可以怎樣管拆解幻覺的四個結構性成因與偏見的三個來源,並給出教師可以即時使用的五項管理做法,把風險降到可接受水平。 14 分鐘· 程度: 入門
  5. 10知識截止日與版本管理:為甚麼 AI 不知道上星期的事說明知識截止日是甚麼、怎樣在官方文件查證,以及學校應該怎樣管理模型版本與提示模板的更新。 12 分鐘· 程度: 入門

模組三:生態系與模型取得

Hugging Face、小型語言模型與端側部署

  1. 11Hugging Face:AI 界的 GitHub,教師也可以逛一個公開存放 AI 模型的網站,教師即使不寫程式,也可以用它查證一個模型的來源、授權與已知限制。本課用「全球共用的教材櫃」比喻帶你逛一次,並說明學校選模型時真正該看的三件事。 10 分鐘· 程度: 入門
  2. 12看懂 Model Card、GGUF 與 Safetensors模型頁上那一堆檔案名稱與說明文字,其實有固定結構。本課把 Model Card 比作食品包裝上的營養標籤,把 GGUF 比作壓縮影片格式,讓教師與 IT 主任在五分鐘內判斷一個模型能否放進學校。 11 分鐘· 程度: 入門
  3. 13小型語言模型的崛起:Phi、Gemma 與 8B 級模型學校不一定需要最大的模型。本課用「校內全科老師與大學教授」的比喻解釋為甚麼幾十億參數的小模型已足以應付大部分校務工作,以及甚麼場合仍然要動用旗艦模型。 11 分鐘· 程度: 進階

模組四:應用開發核心概念

Prompt、知識庫與 RAG、Chunking、Context Caching、Agent、MCP 與開發框架

  1. 14一課讀懂 Prompt 工程:為甚麼同一個問題答案差這麼遠兩位教師問同一個問題,一個得到可以直接用的工作紙,一個得到一堆廢話。分別不在運氣,而在四樣具體的東西。本課用「交代工作給代課老師」的比喻,把提示工程一次講清楚。 12 分鐘· 程度: 入門
  2. 15校本知識庫與檢索增強生成(RAG)通用 AI 不知道你校小四上學期教到哪一課。RAG 的做法是回答前先翻閱學校自己的文件,像一場只給學生相關幾頁的開卷考試。本課解釋原理與為甚麼它比「訓練 AI 認識我們學校」正確得多。 13 分鐘· 程度: 入門
  3. 16Chunking、檢索重排與「迷失在中間」把整份長文件貼給 AI,它常常漏掉中間那幾段最重要的資料。本課解釋這個真實存在的現象,並給教師四個立即可用的對策:切段方式、段落重疊、檢索重排,以及把最重要的指示放在最後。 14 分鐘· 程度: 進階
  4. 17Context Caching 與成本控制:為甚麼重複問同一份文件會便宜同一份課程綱要問十條問題,第二條開始其實可以便宜很多。本課用「工作紙留在桌上不用重印」的比喻解釋 Context Caching,並說明它為甚麼順帶告訴你提示應該怎樣排列。 11 分鐘· 程度: 進階
  5. 18由 Chatbot 到 AI Agent:Tool Calling 與 MCP與其要求 AI 甚麼都記得,不如給它一個計算機和一部電話。本課解釋 Tool Calling 怎樣讓 AI 動手做事、Agent 與聊天機械人的分別,以及 MCP 為甚麼像一個統一的插座標準。 13 分鐘· 程度: 進階
  6. 19LangChain 與 LlamaIndex:開發框架在做甚麼這兩個名字經常出現在供應商建議書與撥款申請裡。教師不需要寫程式,但值得知道它們解決甚麼問題。本課用「學校的通用表格與流程」比喻框架的角色,並給出四條可以用來審視技術方案的問題。 11 分鐘· 程度: 實作

模組五:本地部署與高效微調

LoRA / QLoRA、量化,以及用 Ollama 與 LM Studio 在校內運行模型

  1. 20參數高效微調:用一張顯示卡也能微調大模型(LoRA 與 QLoRA)由描圖紙的比喻講起,說明 LoRA 與 QLoRA 怎樣讓學校用一張消費級顯示卡就微調出「懂得校本評分準則」的模型,以及甚麼情況其實不應該微調。 14 分鐘· 程度: 進階
  2. 21模型量化:由 FP16 壓到 INT8、INT4 換來甚麼用「相片存成細一點的 JPEG」的比喻解釋量化,說明學校壓縮模型後省下甚麼硬件成本、失去多少準確度,以及 Edor.ai 校內部署怎樣做 INT8 / INT4。 12 分鐘· 程度: 進階
  3. 22本地部署實作:用 Ollama 與 LM Studio 在校內跑模型由資訊科技室一台機開始,示範用 Ollama 與 LM Studio 在校網內跑模型的完整流程、硬件期望、常見陷阱,以及甚麼任務適合放在校內。 14 分鐘· 程度: 實作
  4. 23端側 AI 與 Apple Intelligence:「資料不出設備」的私隱優勢由學生 iPad 上的 AI 功能講起,解釋端側運算為甚麼在私隱上有結構性優勢、它的能力上限在哪裡,以及學校怎樣用同一個原則保護學生資料。 12 分鐘· 程度: 入門

模組六:安全、評估與核心痛點

AI 護欄、LLM-as-a-Judge 與排行榜、幻覺與成本、倫理與版權

  1. 24AI 護欄實戰:Llama Guard、NeMo Guardrails 與強制 JSON 輸出用校門值日老師的比喻拆解 AI 護欄:進來的訊息怎樣檢查、出去的內容怎樣審核、格式怎樣強制,以及 Edor.ai 的四層守門實際上守甚麼。 14 分鐘· 程度: 進階
  2. 25越獄與提示注入:攻擊怎樣發生,學校怎樣防用「功課裡夾了一張紙條叫改卷老師給滿分」的比喻解釋提示注入,分辨它與越獄的不同,並列出學校在採購與課堂上實際做得到的防線。 13 分鐘· 程度: 進階
  3. 26私隱、偏見與版權:學校的 AI 倫理清單把三個最常被籠統討論的倫理議題拆成可執行的校本清單:哪些資料不可以貼、偏見在課堂上長甚麼樣、AI 生成內容的版權與學術誠信怎樣處理。 13 分鐘· 程度: 入門
  4. 27自動化評估與排行榜:MMLU、GPQA 與 Chatbot Arena 怎樣看用公開試排名的比喻解釋 AI 排行榜的價值與盲點,說明 MMLU、GPQA、Chatbot Arena 與 LLM-as-a-Judge 各自量度甚麼,以及學校自己那 30 條題目為甚麼更重要。 13 分鐘· 程度: 進階

模組七:未來趨勢

多模態、推論型模型與具身智能

  1. 28未來趨勢:多模態、推論型模型與具身智能本課程最後一課,清楚分開「今天已經在用」「明年可能成熟」與「仍然是研究題目」三類趨勢,並給教師一份不會過時的判斷準則。 13 分鐘· 程度: 入門
訂閱教育 AI 通訊

每月一封:給香港學校的 AI 教學實戰文章、平台更新與撥款資訊。隨時可取消。

我們只會用此電郵寄送通訊,不會分享給第三方。