英国DfEの生成AI製品安全基準：学校向けチェックリスト

英国教育省（DfE）のGenerative AI: product safety standards（生成AI：製品安全基準）は、イングランドの学校で使われるAI製品が満たすべき13の領域を定めています。フィルタリングやモニタリングから、メンタルヘルスや心理的な操作まで幅広く扱っています。これは事業者向けに書かれたものですが、KCSIE 2026は、フィルタリングとモニタリングがAIにどう適用されるかを確認する際に、学校がこの文書を参照するよう示しています。このガイドでは、それぞれの基準を要約し、指定セーフガーディング責任者（DSL）がどの事業者にも投げかけられる質問の形にまとめました。

何が、いつ変わったのか

現在、イングランドのAIに関するセーフガーディング（子どもの保護）は、3つの文書によって形づくられています。

DfEは、この基準は「教育テックの開発者と、学校やカレッジに製品を提供する事業者のためのもの」だとしつつ、学校も「どのAI製品が教育での利用に安全かを評価する際に役立つと感じるかもしれない」と述べています。実際のところ、学校が手にできる最も役立つデューデリジェンスのチェックリストです。

KCSIE 2026がAIについて述べていること

KCSIE 2026は、AIに関する独立した義務を新たに設けてはいません。既存の義務の中にAIを組み込んでいます。

• オンライン安全のリスク（第165項）。 「接触（contact）」のリスクに、「ほかの利用者との、またはそれを模倣する生成AIアプリケーションとの有害なオンライン上のやり取り」が含まれるようになりました。「行動（conduct）」のリスクには、「AIを使って生成された」露骨な画像が含まれます。
• 利用のためのガイダンス（第167〜168項）。 教員向けであれ児童生徒向けであれ、生成AIを使うことを選んだ学校は、DfEの生成AIガイダンスと、Chiltern Learning TrustおよびChartered College of Teachingと共同で作成された無料の支援教材を参照するよう示されています。モジュール3では、セーフガーディング、倫理、データ保護、知的財産を扱っています。
• フィルタリングとモニタリング。 少なくとも毎学年1回フィルタリングとモニタリングを見直すという既存の要件に加え、KCSIEは「教育における生成AIの利用にフィルタリングとモニタリングの要件がどう適用されるか」を説明するものとして、DfEの製品安全の文書を挙げています。

実務上の結論はこうです。児童生徒が使うAIツールはフィルタリングとモニタリングの全体像の一部であり、年次の見直しではそのツールを明記すべきです。

チェックリストとしての13の生成AI製品安全基準

以下の各基準について、DfEの文書から1行の要約を示し、続けて尋ねるべき質問を挙げます。「はい」という答えだけでなく、証拠（スクリーンショット、方針、テスト結果）を求めましょう。

1. 目的の明示

製品は、意図する目的、対象となる学習者、学習の焦点を明示すべきであり、「ツールの効果や能力を誇張すべきではない」。

質問： どの年齢とニーズ向けに作られていますか？効果の主張を裏づける証拠は何ですか？

2. 教育での利用場面

意図する利用場面は、「すべての利用者、教育者、購入者にとって明確」であるべき。

質問： これは学習者向けのツールですか、教員向けのツールですか、それとも両方ですか？どの機能がどちら向けですか？

3. フィルタリング（学習者向け）

製品は、会話全体を通じて、言語や画像を問わず、個人の端末上でも、「利用者が有害または不適切なコンテンツにアクセスすることを効果的かつ確実に防がなければならない」。

質問： フィルタリングはどのように適用されますか。1回だけですか、それともやり取りのたびにですか？画像やほかの言語にも対応していますか？児童が自宅でツールを使う場合にも適用されますか？

4. モニタリングと報告（学習者向け）

製品は、プロンプトと回答を記録し、有害なコンテンツやそれに到達しようとする試みを監督者に知らせ、何かがブロックされたときは年齢に合った言葉で児童生徒に伝え、高リスクのアラートをDSLに回すべき。

質問： 教員は会話の履歴をすべて読めますか？懸念される事態が起きたとき、誰に、どのくらいの速さで知らせが届きますか？DSLの連絡先はどこに登録しますか？

5. セキュリティ

製品は、ジェイルブレイク（制限の回避）に耐え、管理者が権限レベルを設定でき、堅牢な認証を使い、新しいバージョンをリリース前に安全テストすべき。

質問： ジェイルブレイクの試みに対してどのようにテストしていますか？児童はどのようにサインインし、児童のアカウントで何にアクセスできますか？

6. プライバシーとデータ保護

明確で年齢に合ったプライバシー通知、製品のライフサイクル全体にわたるデータ保護影響評価（DPIA）、そして適切な法的根拠なしに、モデルの学習を含め、個人データを商業的に利用しないこと。

質問： DPIAとデータ処理契約を見せてもらえますか？児童のデータがモデルの学習に使われることはありますか？再委託先はどこですか？

7. 知的財産

児童生徒や教員の作品は、許可（18歳未満の場合は保護者の許可）なしに、学習を含め、保存、収集、商業利用されてはならない。

質問： 児童の作品をモデルの学習や改善に使っていますか？

8. 設計とテスト

製品は透明性と子どもの安全を優先し、子どもを含む多様で現実的な利用者とテストすべき。

質問： 誰とテストしましたか？特別な教育的ニーズや障害のある児童（SEND）や、英語を追加言語として学ぶ児童にとっても製品が公平に機能することを、どのように確認していますか？

9. ガバナンス

明確なリスク評価、安全上の問題に関する正式な苦情窓口、AIの安全に関する判断についての公開された方針。

質問： 安全上の懸念はどのように上げればよいですか？誰が対応しますか？

10. 認知発達（2026年に新設）

事業者は、「認知的な能力低下の可能性を軽減するためにあらゆる努力をすべき」であり、デフォルトでは完全な答えではなく段階的なヒントを提供すべき。

質問： ツールは説明し導くものですか、それとも単に答えを渡すだけですか？児童が考えることをツールに任せてしまっていないかを、教員は確認できますか？

11. 感情・社会性の発達（2026年に新設）

製品は人間のようにふるまうべきではなく、「私を信じて」のような主張を避け、利用時間の制限をサポートし、感情的な依存に注意を払うべき。

質問： ツールは自分が何者であるかを児童にどう説明していますか？教員はどのような時間制限を設定できますか？不健全な依存をどのように検知していますか？

12. メンタルヘルス（2026年に新設）

製品は苦痛のサインを検知し、相談先の案内からセーフガーディングのフラグまで段階的に対応し、常に児童生徒を人の助けへと導き、決して秘密にするよう促さないこと。

質問： 児童が危険にさらされていることを示唆する内容を書いたとき、何が起きるのかを一つずつ教えてください。その手順書を見せてもらえますか？

13. 心理的な操作（2026年に新設）

お世辞、根拠のない自信、罪悪感、プレッシャーを与えないこと。利用を長引かせたり、有料オプションに誘導したり、広告を混ぜたりする設計をしないこと。

質問： 児童が使う画面に、広告、連続記録（ストリーク）、報酬はありますか？児童がアップグレードの案内を目にすることはありますか？

半日でチェックを終える方法

1. 児童がアクセスできるAIツールをすべてリストアップする。 単体のチャットボットだけでなく、すでに使っているツールに含まれるAI機能も含めましょう。
2. 各事業者に13の質問を送る。 信頼できる事業者なら、1週間以内にほとんどの質問に書面で答えられるはずです。
3. 児童の画面を自分で試す。 児童としてサインインし、好奇心旺盛な10歳の子どもが試しそうなことを試してみましょう。何が起きたかを記録します。
4. 各ツールを評価する。 緑（証拠あり）、黄（回答はあるが証拠なし）、赤（回答なし）。
5. 結果をフィルタリングとモニタリングの見直しに記録する。 KCSIEが年次の見直しに求めているとおり、DSLとIT担当責任者が承認します。
6. 保護者に知らせる。 短い教室でのAIについての保護者への手紙で締めくくりましょう。

そのうえで、学校のAIポリシーに、承認したツールとその見直しを担当する人を明記しましょう。

Askie for Schoolsの位置づけ

私たちの言葉を信じていただくよりも、基準に照らして確認していただきたいと考えています。そこで、上の基準の言葉で、Askie for Schoolsが現在何をしているかをお伝えします。

• 目的： 4〜15歳の子どものための学習者向けAIコンパニオンで、質問に答え、概念を説明し、児童一人ひとりの年齢に合わせて回答します。
• フィルタリング： すべての回答は、児童に届く前に複数の安全レイヤーを通過します。
• モニタリング： 教員と管理者は、会話の履歴と利用状況のレポートを確認できます。
• サインイン： 教員が児童を一人ずつ登録し、児童一人ひとりに専用のアクセスコードが発行されます。名簿は、Wondeを通じて校務システム（MIS）から、Google Classroomから、または貼り付けたリストから取り込めます。
• データ： 学校がデータ管理者であり続け、生徒のデータは教員ごとに分離され、データ処理契約はご要望に応じてご提供します。Askieがデータを販売したり広告を表示したりすることはありません。Wondeからのインポートで取得するのは12項目で、SEN、医療、生活指導に関するデータは含まれません。

ほかの質問は askie@kidsai.app まで直接お寄せください。その答えは、私たちの宣伝ではなく、貴校の記録に残すべきものです。無料プランでは児童20人まで利用でき、子どもがサインインする前に児童用の画面をプレビューできます。

よくある質問

DfEの生成AI製品安全基準は義務ですか？

この基準は事業者向けに書かれたもので、学校に対する法定の義務ではありません。しかし、法定ガイダンスであるKCSIE 2026が、フィルタリングとモニタリングに関して学校にこの基準を参照するよう示しているため、実務上、学校は基準を検討したことを示せるようにしておくべきです。

「expectations」と「standards」、どちらが正しいのですか？

どちらも同じ文書を指しています。2025年1月にGenerative AI: product safety expectationsとして公開され、現在はGenerative AI: product safety standardsという名称になっています。最新の更新は2026年1月です。KCSIE 2026では、まだ以前の名称が使われています。

教員専用のAIツールにも適用されますか？

一部の基準（セキュリティ、プライバシー、知的財産、設計、ガバナンス、心理的な操作）は、教員向けのツールにも適用されます。フィルタリング、モニタリング、認知、感情、メンタルヘルスの基準は、学習者向けの製品が対象です。

学校では誰が担当すべきですか？

KCSIEが年次の見直しについて定めているとおり、フィルタリングとモニタリングを担当する管理職が、DSLやITサポートと連携して担当します。より広い導入については、学校でAIを安全に使う方法をご覧ください。