私隱、偏見與版權:學校的 AI 倫理清單

一句話答案:私隱、偏見、版權這三個詞在會議上常常被籠統帶過,但每一個都可以拆成一張學校今天就用得上的清單。這一課提供的就是那三張清單,以及它們背後的判斷準則。

由一次校務會議說起

六月的校務會議,議程上有一項「AI 使用指引」。討論了四十分鐘,結論是「要注意私隱、避免偏見、尊重版權」,然後散會。

三個星期後,一位教師把全班的 SEN 學習支援紀錄貼進了免費聊天工具,想請 AI 幫忙整理成一份摘要。

問題不在於那位教師不小心,而在於指引沒有告訴他甚麼可以貼、甚麼不可以。 抽象的原則不會改變行為;一張具體的清單才會。

第一張清單:私隱

先問一條問題

在按下傳送之前,只需要問:「這段文字裡,有沒有任何一個字,可以讓別人認出是哪一位學生?」

如果有,而那個字對你要完成的任務其實沒有用處,就刪掉它。這條規則叫最少必要,它比任何加密技術都重要——因為沒有送出去的資料,不需要保護。

可貼與不可貼

三個技術問題,要問得出口

向任何供應商都應該問到答案:資料存放在哪裡、有沒有用作訓練、保留多久由誰決定。答不出來的,不要用在學生身上。香港的參考框架見個人資料私隱專員公署就人工智能發出的保障框架。

第二張清單:偏見

偏見在課堂上不是抽象的,它有具體的樣子。以下四種,教師最常遇到:

• 職業與性別的預設。要求 AI 生成一段關於「護士」的短文,人物預設為女性;「工程師」預設為男性。這在英文寫作課的例句、視覺教材與情境題中特別明顯。
• 對姓名的假設。不同族裔的姓名,會影響 AI 為角色設定的背景、職業與說話方式。這在生成情境對話時很容易出現。
• 地域與文化的偏斜。訓練資料以英語與歐美內容為主,所以節日、飲食、家庭結構的預設常常不是香港的。要求「一個典型的家庭晚餐」,得到的未必是你想在常識科用的畫面。
• 對非主流答案的低評分。用 AI 輔助評卷時,結構工整、用詞常見的答案容易得高分;有創意但寫法特別的答案容易被低估。

偏見從何而來,第 9 課 已經解釋過。這裡只講課堂上的三個對策:

1. 在提示中明確指定。寫明「香港場景」「角色性別平均分佈」「使用本地節日與食物」,比事後修改省時。
2. 人手抽查而不是全部檢查。每次生成後隨機看三份,看得出系統性傾向,不需要逐份審。
3. 評卷永遠是教師決定。 AI 給即時回饋,教師覆核後才作實。這一條在有創意的科目尤其重要。

第三張清單:版權

版權在 AI 語境下有三條完全不同的線,混在一起討論就會得不出結論:

1. 訓練資料的版權。模型是用大量網上內容訓練出來的,這在多個司法管轄區都仍有訴訟與立法討論。這一條學校無法解決,也不應該由學校承擔判斷。 選擇有明確條款的供應商,並保留紀錄。
2. 學校輸入的材料。把整本教科書掃描貼進 AI,涉及的是原本就存在的複製問題,與 AI 無關。教科書、公開試題、購買的教材,使用範圍受原本的授權條款約束。
3. AI 生成內容的使用。校內教學使用一般沒有爭議。對外出版、放上學校網站、商業使用,則要注意兩件事:供應商條款怎樣寫,以及生成內容中會不會夾雜了受保護的原文片段(尤其是歌詞、詩句、試題)。

香港的版權法定框架見《版權條例》(第 528 章),當中有關教育用途的條文值得科主任與圖書館主任翻一次。

一個課室裡的例子

一間中學的中文科在檢討校本評估時,遇到一個真實的兩難。

科主任想用 AI 為初中作文提供即時回饋,讓學生在交正式版本之前先改一次。三個顧慮同時出現:作文含學生姓名(私隱)、AI 可能對非主流寫法評價偏低(偏見)、學生可能直接抄 AI 的建議(誠信)。

他們的處理方式值得參考:

• 私隱:改用校本平台而非公開工具,學生在平台內提交,系統只把作文內容送去 AI,不送學生身份;個人資料欄位在資料庫加密。
• 偏見:AI 只給「三項具體改進建議」,不給分數。分數一律由教師給。這一個設計把偏見風險最高的環節整個移走。
• 誠信:要求學生在交正式版本時附一段一百字的說明,講自己接受了哪些建議、拒絕了哪些、為甚麼。這段說明本身也成了評估的一部分。

第三項的效果最好:它把「AI 有沒有幫你」由一個要抓的問題,變成一個要寫出來的思考題。

這對你的課堂意味甚麼

1. 把原則變成清單。 「注意私隱」不會改變行為,「以下五項永不貼進 AI」會。清單要短到可以貼在教員室牆上。
2. 提供一個合規的選擇。 只禁止而不提供替代品,教師會用自己的手機繼續做同一件事,而學校完全看不到。
3. 偏見要靠抽查發現,不是靠承諾避免。 每個月隨機檢視幾份生成內容,是最實際的品質管理。
4. 學術誠信政策要寫「怎樣用才算誠實」。 分級、申報、附說明,比一句「不准用」有效得多,也更貼近學生畢業後的真實世界。

在 Edor.ai 裡是怎樣運作的

平台在這三條線上的做法,都可以具體查證。

私隱:輸入守門在訊息送出前偵測並遮蔽電話、身份證號與地址等個人資料;學生個人資料欄位在資料庫加密儲存,呼叫 AI 時只傳送學習內容;對話與 AI 紀錄按學校設定的保留期自動清理;所有供應商呼叫採用不訓練條款。資料擁有權屬於學校,隨時可免費一鍵完整匯出(JSON / CSV / 原檔)。

偏見:評卷模組提供即時回饋,但要求教師覆核後才作實;鷲架式導師只給提示不給答案,提示層級上限由教師設定;每一次互動寫入 ai_audit_logs,學校在發現可疑輸出時查得到是哪一次、用了哪個模型。

版權:校本知識庫的回答必須附出處,讓教師可以追回原文核對,而不是接受一段來歷不明的文字;學校自己上載的材料仍然受其原本授權約束,平台不會改變這一點。

延伸閱讀:安全與私隱說明 與 學生用 AI 的安全網。

小結

倫理討論之所以常常空轉,是因為停在原則層面。把私隱變成一張可貼與不可貼的表、把偏見變成一份每月抽查的習慣、把版權拆成三條分開處理的線,教師就有東西可以照做,而學校也才真的降低了風險。

下一課處理另一個常被含糊帶過的題目——怎樣判斷一個模型是不是真的好用:自動化評估與排行榜。上一課見 越獄與提示注入。