英國教育部生成式 AI 產品安全標準：學校檢核清單

英國教育部（DfE）發布的《Generative AI: product safety standards》（生成式 AI：產品安全標準），列出英格蘭學校使用的 AI 產品應該符合的 13 個面向，從過濾與監控，到心理健康和操弄行為都涵蓋在內。這份標準是寫給供應商的，但 KCSIE 2026（英國法定指引《保障教育中的兒童安全》）在說明過濾與監控如何適用於 AI 時，會指引學校參考它。本文逐一整理每項標準，並把它轉換成學校的指定安全保護負責人（DSL）可以拿去問任何供應商的問題。

改了什麼，什麼時候改的

現在有三份官方指引，共同形塑英格蘭的 AI 兒童保護：

英國教育部表示，這些標準「是給教育科技開發商，以及學校和學院的供應商使用的」，而學校「也可能發現它們有助於評估哪些 AI 產品可以安全用於教育」。實務上，這是學校手上最實用的盡職調查檢核清單。

KCSIE 2026 怎麼談 AI

KCSIE 2026 並沒有另外訂出一項 AI 義務，而是把 AI 融入既有的義務裡：

• 網路安全風險（第 165 段）：「接觸」風險現在包括「與其他使用者，或模擬這類互動的生成式 AI 應用程式之間的有害線上互動」。「行為」風險則包括「使用 AI 產生」的露骨圖片。
• 使用指引（第 167-168 段）：選擇使用生成式 AI 的學校，不論是給老師用還是給學生用，都會被指引去參考英國教育部的生成式 AI 指引，以及與 Chiltern Learning Trust 和 Chartered College of Teaching 合作製作的免費輔助教材。其中第 3 單元涵蓋兒童保護、倫理、資料保護和智慧財產權。
• 過濾與監控：除了原本規定每個學年至少檢討一次過濾與監控之外，KCSIE 也列出英國教育部的產品安全標準，說明「過濾與監控的要求如何適用於教育中的生成式 AI」。

實際上的意思是：給學生使用的 AI 工具，是你過濾與監控全貌的一部分，年度檢討時應該把它列進去。

把 13 項生成式 AI 產品安全標準變成檢核清單

以下每一項標準，都先用一句話摘要英國教育部的原文，再列出該問的問題。請向供應商索取證據（截圖、政策、測試結果），而不是光聽一句「有」。

1. 明確的用途

產品應該說明預期用途、目標學習者和學習重點，而且「不應誇大工具的影響或能力」。

要問：這是為哪些年齡和需求設計的？你們宣稱的成效有什麼證據佐證？

2. 教育使用情境

預期的使用情境應該「讓所有使用者、教育工作者和採購者都清楚明白」。

要問：這是給學生用的工具、給老師用的工具，還是兩者都是？哪些功能屬於哪一種？

3. 過濾（給學生使用的產品）

產品「必須有效且可靠地防止使用者接觸有害或不當內容」，而且要涵蓋整段對話、各種語言和圖片，在個人裝置上也一樣有效。

要問：過濾是做一次就結束，還是每一輪對話都會做？有涵蓋圖片和其他語言嗎？學生在家使用時也還有效嗎？

4. 監控與通報（給學生使用的產品）

產品應該記錄提示詞和回應，在出現有害內容或有人試圖取得這類內容時通知監督者，用適合年齡的語言告訴學生某些內容被擋下了，並把高風險警示轉給 DSL。

要問：老師能讀到完整的對話紀錄嗎？發生令人擔心的狀況時會通知誰？多快通知？DSL 的聯絡資訊要在哪裡填寫？

5. 資訊安全

產品應該能抵擋「越獄」攻擊，讓管理員設定存取層級，使用可靠的身分驗證，並在新版本上線前做安全測試。

要問：你們怎麼測試越獄攻擊？學生怎麼登入？學生帳號能存取哪些東西？

6. 隱私與資料保護

清楚、適合年齡的隱私權告知；在產品整個生命週期中做資料保護影響評估（DPIA）；沒有適當的合法依據，就不能把個人資料用於商業用途，包括模型訓練。

要問：可以看你們的 DPIA 和資料處理協議嗎？有沒有任何學生資料被用來訓練模型？你們的次處理者有哪些？

7. 智慧財產權

沒有取得同意（未滿 18 歲要由家長同意），就不能儲存、蒐集學生和老師的作品，或把它們用於商業用途，包括訓練模型。

要問：你們會用學生的作品來訓練或改進模型嗎？

8. 設計與測試

產品應該優先重視透明度和兒童安全，並找多元、真實的使用者測試，其中包括兒童。

要問：你們找了誰來測試？你們怎麼確認產品對有特殊教育需求（SEND）或以英語為附加語言的學生也一樣公平？

9. 治理

明確的風險評估、正式的安全問題申訴管道，以及公開說明 AI 安全決策的政策。

要問：我們要怎麼反映安全疑慮？由誰回應？

10. 認知發展（2026 年新增）

供應商應該「盡一切努力降低造成認知能力退化的可能性」，預設提供循序漸進的提示，而不是直接給出完整答案。

要問：這個工具是在講解和引導，還是直接把答案交出去？老師看得出學生是不是把思考都丟給 AI 嗎？

11. 情緒與社交發展（2026 年新增）

產品不應假裝自己是人，應避免「你可以信任我」這類說法，應支援使用時間限制，並留意學生是否出現情感依賴。

要問：這個工具怎麼向學生介紹自己是什麼？老師可以設定哪些時間限制？你們怎麼偵測不健康的依賴？

12. 心理健康（2026 年新增）

產品應該偵測學生的痛苦徵兆，依程度分層回應，從提供求助資源到發出兒童保護警示，永遠引導學生去找真人幫忙，而且絕不鼓勵學生保守秘密。

要問：學生寫下顯示自己可能有危險的內容時，會一步一步發生什麼事？我們可以看看你們的處理流程嗎？

13. 操弄行為（2026 年新增）

不奉承、不假裝有把握、不讓人有罪惡感或壓力；不使用延長使用時間、推銷付費選項或夾帶廣告的設計。

要問：學生使用的介面中有沒有廣告、連續天數或獎勵機制？學生會不會看到升級提示？

一個下午就能完成的檢核步驟

1. 列出學生能接觸到的所有 AI 工具：包括你們已經在用的工具裡內建的 AI 功能，不只是獨立的聊天機器人。
2. 把這 13 個問題寄給每一家供應商：可靠的供應商，應該能在一週內以書面回答大部分問題。
3. 親自測試學生端畫面：用學生帳號登入，試試看一個好奇的 10 歲孩子會試的東西，並記錄結果。
4. 替每個工具評分：綠燈（有提供證據）、黃燈（有回答但沒有證據）或紅燈（沒有回答）。
5. 把結果寫進過濾與監控的年度檢討：並由 DSL 和資訊負責人簽核，這正是 KCSIE 對年度檢討的期待。
6. 告訴家長：一封簡短的致家長信：說明課堂中的 AI，就能讓整件事有始有終。

接著，你們的學校 AI 政策應該列出核准使用的工具，以及由誰負責檢討。

Askie 學校版的定位

我們寧可你拿這些標準來檢驗我們，也不要只聽我們自己說。所以以下用上面的標準，說明 Askie 學校版目前做到的事：

• 用途：給 4 到 15 歲孩子使用的學生端 AI 夥伴，負責回答問題、講解概念，回答會依照每位學生的年齡調整。
• 過濾：每一則回應在送到學生面前之前，都會經過多層安全防護。
• 監控：老師和管理員可以看到對話紀錄和使用報告。
• 登入：由老師建立每位學生，每位學生會拿到一組專屬的存取碼。學生名單可以透過 Wonde 從學校的 MIS 系統匯入，也可以從 Google Classroom 匯入，或直接貼上名單。
• 資料：學校始終是資料控管者，學生資料依老師分開存放，可應要求提供資料處理協議，而且 Askie 絕不販售資料，也不放廣告。透過 Wonde 匯入時只會要求 12 個欄位，不包含特殊教育需求、醫療或輔導資料。

其他問題，歡迎直接寄信到 askie@kidsai.app 問我們；這些答案應該留在你們的紀錄裡，而不是我們的行銷文案裡。你可以先從免費方案開始，最多 20 位學生，在任何孩子登入之前就能先預覽學生端畫面。

常見問題

英國教育部的生成式 AI 產品安全標準是強制性的嗎？

這份標準是寫給供應商的，並不是學校的法定義務。但具有法定效力的 KCSIE 2026 在過濾與監控的部分會指引學校參考它，所以實務上，學校應該要能證明自己有考慮過這些標準。

到底叫「期望」還是「標準」？

兩個名稱指的是同一份指引。它在 2025年1月以《Generative AI: product safety expectations》的名稱發布，現在的標題是《Generative AI: product safety standards》；最近一次更新是在 2026年1月。KCSIE 2026 仍然沿用舊名稱。

只給老師用的 AI 工具也適用嗎？

部分標準（資訊安全、隱私、智慧財產權、設計、治理、操弄行為）也適用於給老師用的工具。過濾、監控、認知、情緒和心理健康等標準，則是針對給學生使用的產品。

學校裡應該由誰負責？

由負責過濾與監控的資深主管，與 DSL 和資訊支援人員一起負責，這也是 KCSIE 對年度檢討的規定。想了解更全面的推行方式，請看如何在學校安全使用 AI。