教育局『智』啟學教撥款計劃 · 撥款使用期限 2028 年 8 月 31 日前,把握機會,聯絡我們!English
第 15 課模組四:做應用時真正要懂的概念 14 分鐘· 程度: 入門

校本知識庫與檢索增強生成(RAG)

通用 AI 讀過海量網頁,卻沒讀過你校這學期的功課政策。RAG 的做法是回答前先從校本檔案櫃取出相關段落,像校務處職員翻閱內部通函後才回覆家長。本課解釋原理,以及為甚麼它比「用學校資料訓練模型」務實得多。

Read in English

學期初,一位剛調到中學的通識科老師在 WhatsApp 問同事:「長作業遲交扣幾多分?」三個人回了三個版本。她轉而問通用 AI,得到一段條理分明、語氣權威的說明——與本校《評估政策》完全不符。副校長後來說:「不是 AI 笨,是你問錯地方;它從未進過我們的檔案櫃。」

檢索增強生成(RAG)是應用模組的關鍵一課:上一課你學會寫工單式提示,本課處理提示裡放甚麼材料——讓 AI 先翻校本文件再開口,而不是憑訓練記憶硬答。


校務處職員的答法

通用 AI 像一位博學但從未入過你校門的顧問:問校本細節時,它會用「一般學校大概怎樣」補完空白,而且語氣往往很肯定。

RAG 換一種流程:先查檔、後執筆。 英文全名 retrieval-augmented generation,重點在順序——檢索(retrieval)在前,生成(generation)在後。你可以把它想成校務處職員收到家長查詢:她不會憑印象答,而是翻開《家長通函匯編》,找出相關一兩頁,照条文回覆,並告知「詳見通函第幾段」。

三步:入櫃、配對、執筆

入櫃(切段與索引)。 學校上傳文件後,系統把每份切成若干段落,並為每段建立「意思指紋」(embedding,原理見 Embedding、位置編碼與自注意力)。重點直覺:配對靠意思相近,不靠字面相同。 問「病假要交甚麼證明」也能找到寫「醫生紙」的段落。

配對(檢索)。 有人提問時,系統為問題做指紋,在全部段落中找出最接近的數段——通常先取十幾段,再篩到最相關的三四段(重排細節見下一課)。

執筆(生成)。 把選中的段落連同問題交給模型,指令是:只依這些段落回答,並標明每句出自哪一段。文件從未進入模型訓練;它們留在學校資料庫,可增可刪可匯出。

有出處的答案才能覆核;可覆核,才是校本 AI 與通用聊天工具最根本的分野。

為甚麼不該拿去「訓練」

學校常有的直覺是:「既然它不認識我們,就用我們的資料訓練它。」這條路成本高、風險大,而且搞錯了問題類型。

校本知識庫(RAG) 適合處理事實:功課上限、請假流程、評分準則、課程進度。更新政策只需上傳新版本;刪除文件即停止引用;答案可以逐句標來源;一般伺服器即可運作。

微調模型 適合處理「說話方式」:固定回饋語氣、某類表格格式、專門任務的行文習慣。資料一旦融入參數,難以逐份取回;無法為每句答案標「出自第幾段」;需要 GPU 與專業人手。微調的正確用途見 LoRA 與 QLoRA。

一句話:要 AI 知道「事實」,用檢索;要 AI 學會「口吻」,才考慮微調。

德育組組長的選擇

一所小學德育組曾評估兩條路:把三年通告、家長信、請假流程全部拿去微調一個「校本助手」;或建知識庫做 RAG。IT 支援同學算過:微調一次要整理乾淨語料、預留 GPU、且政策改字后要再訓練;RAG 則是上傳 PDF、按標題切段、教師即可在後台看「哪份文件被引用最多」。組長最後選 RAG,理由很務實:「我們要的是可更新、可刪除、可核對的政策問答,不是一個會背誦舊版通告的語氣機器。」

接地提示:只准看這幾段

即使不用完整平台,你也可以手動模擬 RAG。把文件節錄放在三角括號內,並寫硬規則:

以下三角括號內是本校文件節錄。只依節錄回答。
規則:每句結論後用方括號註明段落編號;找不到就答「文件中沒有提及」,不要用你自己的知識補充。
問題:學生因病缺席測驗,補測如何安排?
<<<
[段落 1] ……
[段落 2] ……
>>>

對照實驗:改問一條文件裡沒有的問題(例如「因家庭旅行缺席測驗」)。有「找不到就說沒有提及」的提示會老實拒答;拿掉這句,你會看到編得很好的答案——那就是通用 AI 在閉卷狀態下的本能。更完整寫法見 RAG 的引用式提示。

容易走歪的地方

  • 走歪:在通用聊天工具問「我們學校功課政策是甚麼」,然後抱怨 AI 不可信。 自查:這條問題是否應在有知識庫的平台提出?若沒有檔案櫃,得到的只能是 plausible 的編造。

  • 走歪:上傳幾十份掃描 PDF 後期待立刻完美,卻從不維護版本與標題。 自查:文件是否有清晰章節標題?含糊舊版與新版混在同一資料夾,檢索出來也會含糊。

  • 走歪:有來源標註仍不核對,當作自動背書。 自查:隨機抽三條 AI 答案,能否在三十秒內打開原文對上?若對不上,問題可能在切段或檢索,而非「再換一個更聰明的模型」。

動手做一次

時間:約 15 分鐘。材料:任何 AI 工具;一段真實校本文字(可選《功課政策》一節、家長信範本、或科組評分準則,約 300–500 字,勿含學生個人資料)。

做甚麼:

  1. 把文字切成三段,手動加 [段落 1] [段落 2] [段落 3] 標號。
  2. 貼入上方接地提示,問題選一段文中有答案的(例如遲交扣分)。
  3. 再問一條文中沒有答案的問題,比較 AI 是否老實說「沒有提及」。

交出甚麼:兩組問答,每組注明 AI 是否附上段落編號、你是否能在原文找到對應句。

怎樣算做對:你能向同事說明 RAG 與「訓練模型」的分別,並示範「有出處才可覆核」——以及缺少禁區時 AI 如何自動補完空白。

下一課:Chunking、檢索重排與迷失在中間。上一課:一課讀懂 Prompt 工程。

這一課的重點

  • 把 RAG 想成校務處翻閱內部檔案後才答覆,而不是讓 AI 憑記憶硬答校本問題
  • 說明文件如何切段建索引、問題如何配對段落、模型如何依段落執筆並標出處
  • 分辨「檢索文件」與「微調模型」:前者可更新可刪除可標來源,後者適合改語氣而非灌入事實
  • 要求每句結論附出處,把 AI 從「自信陌生人」變成「可覆核的同事」

幾條常被問到的問題

不是,而這個分別非常重要。訓練是把資料融進模型參數,之後無法逐份取回或刪除。RAG 只在回答那一刻把相關段落貼進提示,文件本身留在學校資料庫。刪一份文件,AI 下一秒就不再引用它。

檢索可能找錯,或段落被切得不完整。這是下一課 [Chunking、檢索重排與迷失在中間](/learn/llm/chunking-reranking-and-lost-in-the-middle) 的內容。實務上要求答案附來源,教師才能一眼看出它讀了哪一份文件。

少而準勝過多而雜。建議第一個月先放三類:課程進度表、功課政策、通告範本。導入次序見 [校本知識庫實務文章](/blog/school-knowledge-base-rag-ai)。

資料來源與免責
  • · 文中的價格、功能與規格以上列官方文檔為準。供應商隨時會改,採購之前請自行覆核一次。
  • · 文中提及的產品名稱與商標屬各自擁有者所有。Edor.ai 與該等公司沒有合作、代理或贊助關係。
  • · 這是為教育用途做的獨立整理,不是採購建議,也不是法律意見。
  • · 凡涉及學生個人資料的用法,請先按學校政策與《個人資料(私隱)條例》(PDPO)評估,然後才在校內推行。

訂閱教室手記

每月一至兩封:課堂做法、系統更新與撥款資訊。隨時可以退訂。

這個電郵只用來寄通訊,不會給第三方。