學生用 AI 的安全網:四層守門、個人資料保護與教師監察怎樣設計

一句話答案:學生 AI 安全不是一個功能,而是一套架構——輸入守門、系統提示、輸出審核、審計配額四層,加上個人資料加密、不訓練條款與人工複核。缺任何一層,學校都在冒不必要的風險。

學校最擔心的三件事

1. 不當內容:學生問到暴力、色情或危險行為,AI 會答嗎?
2. 個人資料:學生把自己或同學的電話、地址輸入 AI,去了哪裡?
3. 無人監察:學生與 AI 的對話,教師看得到嗎?

以下架構逐一回應。

第一層:輸入守門

在訊息送到 AI 之前:

• 偵測不當要求(暴力、自殘、色情、欺凌),學生模式門檻更嚴;
• 偵測個人資料(電話、身份證號、地址),遮蔽後才送出,並提醒學生;
• 偵測越權指令(「忽略之前的規則」「扮演……」),直接拒絕並記錄。

第二層:系統提示

每次呼叫都注入:

• 學校政策(語言、可討論範圍);
• 年齡層(小學 / 中學)與科目脈絡;
• 蘇格拉底式規則(不直接給答案);
• 禁止索取或輸出任何個人資料。

系統提示由管理員集中維護,教師不需要每次撰寫。

第三層:輸出審核

AI 回應返回後:

• 內容安全分類(安全 / 需注意 / 阻擋);
• 「需注意」內容遮蔽敏感部分並顯示提示;
• 「阻擋」內容不顯示,自動標記予管理員;
• 記錄分類結果,供日後審視。

第四層:審計與配額

• 每次 AI 互動記錄:用戶、模組、模型、用量、安全動作;
• 按角色 / 用戶設定每日請求與每月 token 配額,防止濫用;
• 管理員可查閱、匯出審計日誌。

個人資料保護的四個具體做法

人工複核:不要「靜靜地刪」

被標記的內容應進入管理員的審核隊列,由人決定:誤判(放行)、需要跟進(通知班主任 / 輔導)、嚴重(按校規處理)。系統記錄每次決定。這既保護學生,也讓學校及早發現需要關心的個案。

教師監察面板

• 即時查看班內學生與 AI 的對話;
• 暫停個別學生的 AI 使用;
• 標記訊息,課後跟進;
• 每週迷思與風險摘要。

PDPO 對照

平台應提供香港《個人資料(私隱)條例》六項保障資料原則的對照文件:收集目的與方式、準確性與保留、使用、保安、透明度、查閱與改正。這份文件是家長會與校董會最常被問到的材料。

給家長的說明

一頁簡明說明:AI 用於什麼、不用於什麼、資料如何保護、教師如何監察、家長如何查詢。透明度本身就是安全的一部分。

小結

安全架構的價值在於「平時看不見,需要時一定在」。四層守門、個人資料加密、人工複核與監察面板齊備,學校才可以放心讓學生每天使用 AI——而家長也才會放心。