開源權重對閉源 API：學校自架與租用的真實帳目，以及私隱在甚麼時候改寫答案

星期三放學後，資訊科技科主任在教員室把一張顯示卡報價單推過來：「買部機跑開源，就不用再交 API 費。」我們把他校的上課日用量代進 2026 年 9 月官方價格——全年雲端 API 約 99 至 556 美元，即大約 HK$800 至 HK$4,300。他沉默兩秒：「咁部機未開機，已經追唔返想慳嘅錢。」

對一般香港中學而言，2026 年的開源與閉源之爭，核心已不是誰比較聰明，而是資料要留在哪裏，以及學校是否付得起隨之而來的維護與安全責任。

---

權重、租用與資料位置

開源權重意味模型參數可下載，學校在自己的硬件上推論；閉源 API 則只開放接口，問題送出、答案返回，權重永遠在供應商機房。2026 年不少新模型採 MoE 架構：推論時只啟動部分參數，雲端因此可以把按 token 計費壓低；但自架學校必須記住——下載到顯示記憶體的仍是完整權重，不是「啟動的那一小部分」。這是最常見的硬件估算錯誤。

自架真正買到的是資料留在校網之內；買不到的包括：同期旗艦的推理能力、較少的幻覺、雲端內容安全分類器，以及有人代勞的故障處理。

機房跑得起的開源型號

消費級硬件能跑的那一圈

24GB 顯示記憶體附近較現實的包括：Qwen3.8-27B（278 億參數，Apache 2.0，上下文 100 萬）；Muse Glimmer 30B（300 億參數，Apache 2.0，上下文 13.1 萬，支援 Ollama）；Ministral 3 的 3B / 8B / 14B；Edor.ai 建議的 qwen2.5:14b 與預設 llama3.1。

伺服器級才碰得到的型號

Mistral Large 3（6,750 億總／ 410 億啟動 MoE）、DeepSeek-V4.1-Flash 完整版（5,520 億 MoE，MIT，上下文 100 萬）、GLM-5.2（7,440 億 MoE）、混元 Hy4 Preview（7,700 億總／ 490 億啟動）都要伺服器級配置。Kimi K3（2.8 萬億總／ 1,040 億啟動）對學校機房不現實。30B 以下較像校務工具；再往上是資料中心規模。 授權須逐型號核對——Qwen 旗艦開源版有自訂授權；GLM-5.3 旗艦權重在本文更新時仍未公開。

租用帳目與自架隱藏成本

以下假設寫清楚：全校 800 名學生、100 名教職員；每個上課日 600 次 AI 請求；每次平均 3,000 token 輸入、700 token 輸出；每學年 190 個上課日。 這是估算假設，不是供應商報價。

按 2026 年 9 月官方價格換算，租用路線每年模型成本約為：旗艦 GPT-6 Astra / Claude Fable 5.1 約 7,410 美元；中階 Claude Sonnet 5 約 1,482 美元；平價 Gemini 3.8 Flash（導入價）約 556 美元；最平 DeepSeek-V4.1-Flash（非高峰）約 99 美元。自架 Qwen3.8-27B 或 Muse Glimmer 30B 則無 token 費，但硬件、電力、機房、IT 安裝更新備份故障時間，以及「能力通常低於同期旗艦」的機會成本，加總後很難在一般中學用量下靠省 API 費回本。

在 Edor.ai，學校付的是涵蓋約 800 學生與 100 教職員的固定年費，AI 用量已包含、不另計 token，雲端與校內部署功能與價格結構相同——所以採購問題應還原為「資料放在哪裏」，而不是「慳定花定」。

私隱政策改寫決策的時刻

資料政策可立刻倒轉答案：明文規定不得離校網；處理 SEN、輔導、社工轉介等敏感材料；或要向家長交代「在伺服器房那部機裏」。在《個人資料（私隱）條例》下，保安責任（DPP4）不會因外判而轉移。實務上不少學校分流：敏感走本地，日常走雲端。

自架背後的代價與決策

自架模型同樣會幻覺，教師覆核不能省；內容守門、濫用偵測要自行補，見學生 AI 安全。語音功能仍多靠雲端；量化要先實測精算題。2026 年 4 月 Meta 前沿線改為閉源 Muse Spark，三年規劃須確認已下載權重可否沿用。微調熟習格式，不存入事實——校本資料靠知識庫（RAG）。

決策次序：資料不得離校 → 校內部署；無 IT 維護 → 雲端加合約；兩者可 → 分流。本週核對 24GB 硬件、試跑 qwen2.5:14b 或 llama3.1 中文品質、本地任務清單、守門與稽核、授權條款。詳見校內與雲端部署、模型資料庫。

常見誤解

• 誤解：開源等於免費，所以一定慳錢。 實情：權重下載可能免費，但硬件、電力、IT 時間與能力落差加總後，在一般中學用量下往往高過年費 99 至 556 美元的雲端 API。自架的主因通常是資料位置，不是帳面零 token 費。

• 誤解：MoE 模型推論只啟動部分參數，自架一定輕鬆。 實情：推論時只激活一部分，但載入權重時顯示記憶體仍須容納全部參數。以 Kimi K3 的 2.8 萬億總參數為例，這不是「買張消費級顯卡」能解決的事。

星期一可以做的三件事

1. 用你校上月 AI 請求次數估算全年 token，查 2026 年 9 月 DeepSeek-V4.1-Flash 與 Gemini 3.8 Flash 官方價，寫兩個數字給法團校董會。
2. 請 IT 確認機房是否有 24GB 顯示記憶體可長開的主機；若無，暫把自架移出議程。
3. 與輔導組、SEN 組各 15 分鐘，列出「絕不經第三方雲端」的資料類型，作分流與合約條款依據。