教育局『智』啟學教撥款計劃 · 撥款使用期限 2028 年 8 月 31 日前,把握機會,聯絡我們!English
校內自架(Ollama)Meta(Muse / Llama) · 美國

Meta(Muse Glimmer / Muse Spark / Llama):開源權重仍可自架,前沿線已改走閉源

2026 年 4 月 Meta 以閉源 Muse Spark 取代 Llama 成為前沿產品線;對學校真正有用的是 2026 年 8 月 9 日以 Apache 2.0 發佈的 Muse Glimmer 30B,13.1 萬 token 上下文、24GB 顯示記憶體可運行。本頁整理 Meta 雙軌陣容、校內自架成本,以及在 Edor.ai 透過本地 Ollama 的接入方式。

Edor.ai 支援狀態
校內自架(Ollama)用開源權重在學校伺服器上跑,資料不出校網

非原生供應商,但 Meta 的開源權重型號是校內自架最實際的選擇之一:Muse Glimmer 30B 以 Apache 2.0 發佈,可用 Ollama 或 LM Studio 在單張消費級顯示卡上運行,學生資料完全不出校網。注意 Meta 於 2026 年 4 月已把前沿產品線由 Llama 改為閉源的 Muse Spark,Llama 系列現屬舊版本。

Read in English

規格速覽

供應商
Meta(Muse / Llama) · 美國
現行代表型號
Muse-Glimmer-30B
發佈日期
2026-08-09
上下文長度
131K tokens
最大輸出
官方未公佈
支援模態
文字 / 圖像
開源權重
有 (Apache 2.0)
API 定價
$0.35 / $1.5 — 美元/ 100 萬 tokens(輸入/輸出)
有免費使用層
有

Meta 仍是香港學校「資料不出校網」對話裡最常聽到的開源名字;但 2026 年的現實是雙軌並行——最強的 Muse Spark 已改閉源下載不到,採購時若仍指著 Llama 當前沿,會選錯代。

過去三年,很多 IT 主任第一次向校長解釋「自架大模型」,講的就是 Llama 放在校內伺服器。2026 年 4 月 Meta 成立 Superintelligence Labs 後,前沿產品線換成閉源的 Muse Spark;對學校真正有意義的,是 8 月 9 日以 Apache 2.0 公開的 Muse Glimmer 30B——300 億參數、單張 24GB 顯示卡可跑,這才是現時可執行的開源方案。

Meta 在做甚麼

Meta 的 AI 策略在 2026 年明確分岔:一條閉源前沿線(Muse Spark)服務自家產品與少量 API 預覽;一條開源部署線(Muse Glimmer、Llama 3.x)讓機構在自己的硬件上跑模型。學校採購只應關注後者——前沿跑分再漂亮,下載不了就與校本平台無關。

Muse Glimmer 30B 由 Muse Spark 蒸餾而來,明確為「在自己的電腦上跑代理」而設計,官方支援 Ollama、LM Studio、llama.cpp、ExecuTorch 與 MLX。生態成熟意味 IT 組找得到中英文部署文檔,不必從零摸索。

校本採購會看到的型號

型號定位上下文每 100 萬 token(輸入/輸出)
Muse Glimmer 30B(2026-08-09)300 億密集多模態,Apache 2.0,4-bit 量化後語言模型 <20GB13.1 萬 token自架免權重費(硬件另計)
Muse Spark 1.1 / 1.2(2026-07-16 / 08-05)閉源前沿線,不可自架100 萬 token1.25 / 4.25 美元
Llama 3.1 / 3.3(2024-07 起)舊世代,Ollama 上最成熟;Edor.ai 校內預設 llama3.1,8B 約需 5GB——

Muse Glimmer 官方標示可在 24GB 或 32GB 顯示記憶體裝置上運行;Llama 3.1 的 8B 版本門檻更低,適合先做試行再決定是否升級到 30B。

費用從哪條路徑產生

自架權重: Apache 2.0 下載不收授權費,沒有用戶數上限,辦學團體可把同一套部署複製到旗下多所學校。隱藏成本是硬件與人手——一張 24GB 顯示卡只是起點,還有機房散熱、供電、備份、版本更新;沒有 IT 人手的學校,總成本未必低於雲端訂閱。

雲端 Muse Spark: 1.25 / 4.25 美元且不可自架,資料離開校網,與「資料留校」的採購目標通常不一致。

Meta 說過「希望日後開源 Muse 系列」,但沒有時間表——自架策略必須以現有型號為基礎,不能賭下一代權重一定公開。

在 Edor.ai 裡的分工

Meta 不是原生供應商,透過本地 Ollama進入平台。Edor.ai 原生支援 OpenAI、Azure OpenAI、Anthropic、Poe 與本地 Ollama;學校在校內伺服器用 Ollama 跑 Muse Glimmer 30B 或 llama3.1,後台把供應商設為本地 Ollama,對話不經外部雲端,四層守門、教師監控、ai_audit_logs 與校本知識庫檢索照常運作,資料可一鍵全量匯出。

我們通常建議先以雲端試行一個學期,確認教師用法與守門需求,再決定是否投資顯示卡。想再走一步,可用 LoRA、QLoRA 與 INT4 量化在消費級顯示卡上微調校本教案——正是 LLM 教室 教的同一套概念。

課堂適配與邊界

教師: 備課初稿、工作紙題目變體、把長篇通告縮寫成家長訊息。本地 30B 已足夠,學生姓名不必貼進雲端。星期四放學後,一位小五班主任在教員室說:「分層工作紙我讓本地模型出三版,評分準則那欄還是我自己寫。」

學生: 適合常規練習問答與閱讀理解提示,必須在導師模式下使用,由平台限制只給提示不給答案,並保留教師可審視的對話紀錄。

IT 主任: 先確認顯示卡型號與顯示記憶體,再決定 llama3.1 8B 還是 Muse Glimmer 30B 量化版;建議試行一個月,量度同時在線人數與回應延遲後再加機。

不適合: 期望本地 30B 取代雲端旗艦寫 DSE 評語;讓學生各自下載權重;假設 Muse Glimmer 能處理粵語口語;不做教師覆核就把 AI 輸出對外發佈。

給學校的取捨

  • 如果你要資料完全留在校網且有一張 24GB 顯示卡,就從 Muse Glimmer 30B 或 llama3.1 試行開始,不要追逐下載不到的 Muse Spark 前沿線。
  • 如果你硬件與 IT 人手都有限,就先以雲端試行一個學期,用實際用量數據說服校董會是否值得投資自架,而不是先買機再找用途。
  • 如果你需要高品質繁體中文評語或粵語口語練習,就保留 OpenAI 或 Azure 金鑰處理高風險輸出,本地 Meta 模型只負責日常任務。

同一家的幾條產品線

同一個供應商往往同時養著旗艦、主力、輕量與推理幾條線,價錢可以差十倍以上,選錯線比選錯供應商更常見。

型號定位發佈日期上下文長度輸入/輸出說明
Muse Glimmer 30B開源權重2026-08-09131K$0.35 / $1.5300 億參數密集多模態模型,由 Muse Spark 蒸餾而來,以 Apache 2.0 發佈,專為消費級硬件上的自主代理設計;官方支援 Ollama、LM Studio、llama.cpp、ExecuTorch 與 MLX。
Muse Spark 1.2旗艦2026-08-051,000K$1.25 / $4.25閉源前沿線,100 萬 token 上下文;另有 Contributor 版本以極低價提供給貢獻資料的用戶。
Muse Spark 1.1旗艦2026-07-161,000K$1.25 / $4.251.2 的直接前身,同價同上下文長度。
Muse Spark(取代 Llama 前沿線)旗艦2026-04——2026 年 4 月 Meta 以 Muse Spark 取代 Llama 成為前沿產品線,並改為閉源;官方路線圖提及未來可能發佈 Muse Spark 開源權重。
Llama 3.1 / 3.3開源權重2024-07-23——至今仍是 Ollama 上最常被學校自架的舊版開源模型,Edor.ai 本地部署的預設型號即 llama3.1。

幾條常被問到的問題

不必。Llama 3.1 與 3.3 權重仍可下載、在 Ollama 上仍成熟可用,Edor.ai 校內部署預設仍是 llama3.1。若需要圖像理解與代理任務,可逐步試 Muse Glimmer 30B,兩者可以並存過渡。

4-bit 量化後語言模型部分壓至 20GB 以下,官方文件標示 24GB 或 32GB 顯示記憶體可運行——即一張高階消費級顯示卡。但要同時服務全校數百人,須按同時在線人數加機,這部分應由 IT 主任與我們一起估算。

Muse Glimmer 不支援音訊輸入輸出,影片只能逐格當圖像處理。粵語口語練習仍需 OpenAI 或 Azure OpenAI 的 Whisper 與 TTS,或另行部署本地方案——完全離線會增加硬件與維運負擔。

可以,但學生端必須包在有守門與教師監控的平台內,由學校承擔風險評估責任,不能讓學生各自下載權重或使用未經評估的介面。

日常備課、工作紙變體、通告縮寫已足夠;長篇推理、繁體中文寫作評語與香港本地知識,明顯不如 GPT-6 Astra 或 Claude Fable 5.1。實務折衷是分工:常規任務走本地,高風險輸出走雲端旗艦並由教師覆核。

資料來源與免責

文中價格與規格的取材日期 2026-09

  • · 文中的價格、功能與規格以上列官方文檔為準。供應商隨時會改,採購之前請自行覆核一次。
  • · 文中提及的產品名稱與商標屬各自擁有者所有。Edor.ai 與該等公司沒有合作、代理或贊助關係。
  • · 這是為教育用途做的獨立整理,不是採購建議,也不是法律意見。
  • · 凡涉及學生個人資料的用法,請先按學校政策與《個人資料(私隱)條例》(PDPO)評估,然後才在校內推行。

延伸閱讀

訂閱教室手記

每月一至兩封:課堂做法、系統更新與撥款資訊。隨時可以退訂。

這個電郵只用來寄通訊,不會給第三方。