Normes de sécurité du DfE pour l'IA générative : check-list école

Les Generative AI: product safety standards du Department for Education (DfE, ministère de l'Éducation anglais) définissent 13 domaines qu'un produit d'IA utilisé dans les écoles d'Angleterre doit couvrir, du filtrage et de la surveillance à la santé mentale et à la manipulation. Ils s'adressent aux fournisseurs, mais le KCSIE 2026 y renvoie les écoles lorsqu'elles vérifient comment le filtrage et la surveillance s'appliquent à l'IA. Ce guide résume chaque norme et la transforme en question que votre responsable désigné de la protection de l'enfance (DSL) peut poser à n'importe quel fournisseur.

Ce qui a changé, et quand

Trois documents encadrent désormais la protection de l'enfance face à l'IA en Angleterre :

Le DfE indique que ces normes « s'adressent aux développeurs de technologies éducatives et aux fournisseurs des écoles et des colleges », et que les écoles « peuvent aussi les trouver utiles pour évaluer quels produits d'IA peuvent être utilisés en toute sécurité dans l'éducation ». En pratique, c'est la check-list de vérification préalable la plus utile dont dispose une école.

Ce que dit le KCSIE 2026 sur l'IA

Le KCSIE 2026 ne crée pas d'obligation spécifique à l'IA. Il intègre l'IA dans les obligations existantes :

• Risques en ligne (paragraphe 165). Le risque de « contact » inclut désormais « les interactions en ligne préjudiciables avec d'autres utilisateurs ou avec des applications d'IA générative qui les simulent ». Le risque lié au « comportement » inclut les images explicites « générées par IA ».
• Recommandations d'usage (paragraphes 167-168). Les écoles qui choisissent d'utiliser l'IA générative, côté enseignants ou côté élèves, sont renvoyées aux recommandations du DfE sur l'IA générative et à des ressources d'accompagnement gratuites, produites avec le Chiltern Learning Trust et le Chartered College of Teaching. Le module 3 traite de la protection de l'enfance, de l'éthique, de la protection des données et de la propriété intellectuelle.
• Filtrage et surveillance. En plus de l'obligation existante de revoir le filtrage et la surveillance au moins une fois par année scolaire, le KCSIE cite le document du DfE sur la sécurité des produits pour expliquer « comment les exigences de filtrage et de surveillance s'appliquent à l'usage de l'IA générative dans l'éducation ».

Conséquence pratique : un outil d'IA destiné aux élèves fait partie de votre dispositif de filtrage et de surveillance, et votre revue annuelle doit le mentionner.

Les 13 normes de sécurité des produits d'IA générative sous forme de check-list

Pour chaque norme ci-dessous : un résumé en une ligne du document du DfE, puis la question à poser. Demandez des preuves (captures d'écran, politiques, résultats de tests), pas seulement un oui.

1. Finalité déclarée

Les produits doivent indiquer leur finalité, les apprenants visés et l'objectif d'apprentissage, et « ne doivent pas exagérer l'impact ou les capacités de leurs outils ».

À demander : pour quels âges et quels besoins l'outil est-il conçu, et quelles preuves étayent vos affirmations sur son impact ?

2. Cas d'usage éducatifs

Le cas d'usage prévu doit être « clair pour tous les utilisateurs, les enseignants et les acheteurs ».

À demander : s'agit-il d'un outil pour les élèves, pour les enseignants, ou les deux ? Quelles fonctionnalités relèvent de chaque cas ?

3. Filtrage (outils pour les élèves)

Les produits « doivent empêcher efficacement et de manière fiable les utilisateurs d'accéder à des contenus préjudiciables ou inappropriés », tout au long d'une conversation, dans toutes les langues et pour les images, y compris sur les appareils personnels.

À demander : comment le filtrage s'applique-t-il : une seule fois, ou à chaque échange ? Couvre-t-il les images et les autres langues ? S'applique-t-il encore quand un élève utilise l'outil à la maison ?

4. Surveillance et signalement (outils pour les élèves)

Les produits doivent enregistrer les requêtes et les réponses, alerter les encadrants en cas de contenu préjudiciable ou de tentative d'y accéder, expliquer aux élèves dans un langage adapté à leur âge quand quelque chose est bloqué, et transmettre les alertes à haut risque au DSL.

À demander : un enseignant peut-il lire l'historique complet des conversations ? Qui est alerté lorsqu'un événement préoccupant survient, et en combien de temps ? Où saisissons-nous les coordonnées du DSL ?

5. Sécurité informatique

Les produits doivent résister aux tentatives de contournement (jailbreak), permettre aux administrateurs de définir des niveaux d'autorisation, utiliser une authentification robuste et tester la sécurité des nouvelles versions avant leur publication.

À demander : comment testez-vous la résistance aux tentatives de jailbreak ? Comment les élèves se connectent-ils, et à quoi un compte élève donne-t-il accès ?

6. Vie privée et protection des données

Des notices de confidentialité claires et adaptées à l'âge ; une analyse d'impact relative à la protection des données (AIPD) sur tout le cycle de vie du produit ; aucune utilisation commerciale des données personnelles, y compris pour entraîner des modèles, sans base légale appropriée.

À demander : pouvons-nous consulter votre AIPD et votre accord de traitement des données ? Des données d'élèves servent-elles à entraîner des modèles ? Qui sont vos sous-traitants ?

7. Propriété intellectuelle

Les travaux des élèves et des enseignants ne doivent pas être stockés, collectés ni utilisés commercialement, y compris pour l'entraînement, sans autorisation (celle d'un parent pour les moins de 18 ans).

À demander : utilisez-vous les travaux des élèves pour entraîner ou améliorer vos modèles ?

8. Conception et tests

Les produits doivent privilégier la transparence et la sécurité des enfants, et être testés avec des utilisateurs variés et réalistes, y compris des enfants.

À demander : avec qui avez-vous testé le produit ? Comment vérifiez-vous qu'il fonctionne équitablement pour les élèves à besoins éducatifs particuliers (SEND) ou dont l'anglais n'est pas la langue maternelle ?

9. Gouvernance

Une évaluation des risques claire, une procédure formelle de réclamation pour les problèmes de sécurité et des politiques publiques sur les décisions de sécurité liées à l'IA.

À demander : comment faire remonter un problème de sécurité, et qui y répond ?

10. Développement cognitif (nouveau en 2026)

Les fournisseurs doivent « tout faire pour limiter le risque de perte de compétences cognitives », avec par défaut des indices progressifs plutôt que des réponses complètes.

À demander : l'outil explique-t-il et guide-t-il, ou se contente-t-il de donner les réponses ? Un enseignant peut-il voir si les élèves délèguent leur réflexion à l'outil ?

11. Développement émotionnel et social (nouveau en 2026)

Les produits ne doivent pas se présenter comme humains, doivent éviter les formules comme « Tu peux me faire confiance », doivent permettre des limites de temps et rester attentifs à la dépendance émotionnelle.

À demander : comment l'outil se présente-t-il aux élèves ? Quelles limites de temps un enseignant peut-il fixer ? Comment détectez-vous une dépendance malsaine ?

12. Santé mentale (nouveau en 2026)

Les produits doivent détecter les signes de détresse, répondre de manière graduée, de l'orientation vers des ressources jusqu'au signalement de protection de l'enfance, toujours diriger les élèves vers une aide humaine, et ne jamais encourager le secret.

À demander : que se passe-t-il, étape par étape, lorsqu'un élève écrit quelque chose qui laisse penser qu'il est en danger ? Pouvons-nous consulter le protocole ?

13. Manipulation (nouveau en 2026)

Pas de flatterie, de fausse assurance, de culpabilisation ni de pression ; aucune conception qui prolonge l'utilisation, pousse vers des options payantes ou intègre de la publicité.

À demander : y a-t-il des publicités, des séries (streaks) ou des récompenses dans l'interface élève ? L'élève voit-il parfois des invitations à passer à une offre payante ?

Comment mener la vérification en un après-midi

1. Listez tous les outils d'IA auxquels les élèves ont accès. Incluez les fonctionnalités d'IA intégrées aux outils que vous utilisez déjà, pas seulement les chatbots autonomes.
2. Envoyez les 13 questions à chaque fournisseur. Un fournisseur sérieux doit pouvoir répondre par écrit à la plupart d'entre elles en une semaine.
3. Testez vous-même l'interface élève. Connectez-vous en tant qu'élève et essayez ce qu'essaierait un enfant curieux de 10 ans. Notez ce qui se passe.
4. Évaluez chaque outil en vert (preuves fournies), orange (réponse sans preuve) ou rouge (aucune réponse).
5. Consignez le résultat dans votre revue du filtrage et de la surveillance, validée par le DSL et le responsable informatique, comme le KCSIE l'attend pour la revue annuelle.
6. Informez les parents. Une courte lettre aux parents sur l'IA en classe boucle la démarche.

Votre politique d'IA d'établissement doit ensuite nommer les outils approuvés et les personnes chargées de les réévaluer.

La place d'Askie for Schools

Nous préférons que vous nous évaluiez au regard de ces normes plutôt que de nous croire sur parole. Voici donc ce que fait Askie for Schools aujourd'hui, dans les termes ci-dessus :

• Finalité : un compagnon d'IA destiné aux élèves de 4 à 15 ans, qui répond aux questions et explique des notions, avec des réponses adaptées à l'âge de chaque élève.
• Filtrage : chaque réponse passe par plusieurs couches de sécurité avant d'atteindre un élève.
• Surveillance : les enseignants et les administrateurs peuvent consulter l'historique des conversations et des rapports d'utilisation.
• Connexion : l'enseignant crée chaque compte élève, et chaque élève reçoit un code d'accès personnel. Les listes de classe peuvent provenir de votre logiciel de gestion (MIS) via Wonde, de Google Classroom ou d'une liste collée.
• Données : l'école reste responsable du traitement, les données des élèves sont séparées par enseignant, un accord de traitement des données est disponible sur demande, et Askie ne vend jamais de données et n'affiche jamais de publicité. Un import Wonde demande douze champs et aucune donnée relative aux besoins éducatifs particuliers, à la santé ou au suivi pastoral.

Posez-nous directement les autres questions à askie@kidsai.app : les réponses ont leur place dans vos dossiers, pas dans notre marketing. Vous pouvez commencer avec l'offre gratuite pour jusqu'à 20 élèves et prévisualiser l'interface élève avant qu'un enfant ne se connecte.

Questions fréquentes

Les normes de sécurité du DfE pour l'IA générative sont-elles obligatoires ?

Elles s'adressent aux fournisseurs et ne constituent pas une obligation légale pour les écoles. Mais le KCSIE 2026, qui a valeur légale, y renvoie les écoles pour le filtrage et la surveillance : en pratique, une école doit donc pouvoir montrer qu'elle les a prises en compte.

Faut-il parler d'« expectations » ou de « standards » ?

Les deux noms désignent le même document. Il a été publié en janvier 2025 sous le titre Generative AI: product safety expectations et s'intitule désormais Generative AI: product safety standards ; sa dernière mise à jour date de janvier 2026. Le KCSIE 2026 utilise encore l'ancien nom.

Cela s'applique-t-il aux outils d'IA réservés aux enseignants ?

Certaines normes (sécurité informatique, vie privée, propriété intellectuelle, conception, gouvernance, manipulation) s'appliquent aussi aux outils destinés aux enseignants. Les normes sur le filtrage, la surveillance, le développement cognitif et émotionnel et la santé mentale concernent les produits destinés aux élèves.

Qui, dans l'école, doit en être responsable ?

Le membre de l'équipe de direction chargé du filtrage et de la surveillance, en lien avec le DSL et le support informatique, comme le prévoit le KCSIE pour la revue annuelle. Consultez comment utiliser l'IA en toute sécurité à l'école pour un déploiement plus large.