Que faire si une IA dit quelque chose d'inapproprié à mon enfant ?

Si une IA dit quelque chose d'inapproprié à votre enfant, c'est votre réaction dans les premières minutes qui compte le plus. Les enfants qui reçoivent une réponse calme continuent de se confier à leurs parents. Ceux qui voient leurs parents paniquer, ou qui perdent l'application en guise de punition, cessent souvent de le faire.

Pourquoi cela arrive

Les chatbots IA génèrent leurs réponses à la volée : aucun filtre ne peut donc tout intercepter. L'American Academy of Pediatrics (Académie américaine de pédiatrie) avertit que les chatbots peuvent dire aux enfants « des choses fausses, nuisibles, à caractère très sexuel ou violentes », en particulier les produits qui n'ont pas été conçus pour eux (HealthyChildren.org). Même Google reconnaît que ses filtres pour les comptes Gemini des enfants « ne sont pas parfaits » (Google). Cela peut aussi arriver parce qu'un enfant, souvent par curiosité, a orienté la conversation dans cette direction.

Étape par étape

1. Restez calme et remerciez-le. « Merci de me l'avoir montré. Tu as fait exactement ce qu'il fallait. » Faites-le même s'il est allé le chercher.
2. Découvrez ce qui s'est passé. Posez des questions ouvertes : « De quoi parliez-vous avant qu'elle dise ça ? Qu'est-ce que tu as ressenti ? »
3. Conservez les preuves. Faites une capture d'écran de la conversation ou notez la date, l'application et ce qui a été dit, avant que quoi que ce soit ne soit supprimé.
4. Signalez-le à l'entreprise. Utilisez le bouton de signalement ou le pouce baissé dans l'application, et le contact sécurité de l'entreprise pour tout ce qui est grave. Les signalements aident à corriger le problème pour les autres enfants.
5. Ajustez l'accès. Renforcez les réglages, activez le contrôle parental ou suspendez l'application le temps de décider. Présentez-le comme une mesure de sécurité, pas comme une punition.
6. Expliquez pourquoi ce n'était pas correct, à son niveau :
   • De 4 à 7 ans : « Cet ordinateur s'est trompé et a dit quelque chose qui n'est pas pour les enfants. Ce n'est pas ta faute. »
   • De 8 à 12 ans : « L'IA copie des schémas trouvés sur Internet, et une partie d'Internet n'est pas correcte. Elle ne distingue pas le bien du mal comme les gens. »
   • Adolescents : parlez franchement du fonctionnement de l'IA, de ce qu'il a vu et de ce qu'il ferait la prochaine fois.
7. Reparlez-en plus tard. Quelques jours après, demandez-lui s'il y pense encore. Soyez attentif aux cauchemars, aux inquiétudes ou à des cachotteries inhabituelles.

Quand aller plus loin

Certaines situations demandent plus qu'un signalement dans l'application :

• Contenu sexuel impliquant un enfant, ou quelqu'un qui tente de le contacter ou de le manipuler : signalez-le à la CyberTipline du NCMEC aux États-Unis, ou au CEOP au Royaume-Uni.
• Contenu sur l'automutilation ou le suicide, ou si votre enfant semble en danger : contactez le médecin de votre enfant. En cas de crise, appelez votre numéro d'urgence local, le 988 aux États-Unis ou Childline (0800 1111) au Royaume-Uni.
• Menaces ou défis dangereux : retirez l'accès et parlez-en à l'école de votre enfant si d'autres enfants peuvent être concernés.

Éviter que cela se reproduise

• Choisissez des applications adaptées à l'âge de votre enfant et vérifiez leurs conditions. Beaucoup de chatbots généralistes exigent d'avoir au moins 13 ans (voir les règles d'âge de ChatGPT).
• Pour les plus jeunes, réservez l'usage de l'IA aux pièces communes.
• Privilégiez les services où vous pouvez relire les conversations, pour que la détection des problèmes ne dépende pas uniquement de ce que votre enfant vous raconte.
• Convenez d'une règle familiale : « Si quelque chose en ligne te paraît bizarre, tu me le dis, et tu ne seras pas grondé. »

L'approche d'Askie

Askie utilise un filtrage de sécurité à plusieurs niveaux et des réponses adaptées à l'âge, les parents peuvent relire les transcriptions des conversations et voir les créations, et une alerte de sécurité (désactivable) peut prévenir les adultes lorsqu'une conversation laisse penser qu'il existe un vrai problème dans la vie de l'enfant. Aucun filtre n'est parfait, c'est pourquoi la visibilité pour les parents compte. Notre méthodologie de sécurité explique son fonctionnement, y compris ses limites connues, et notre guide des parents sur la sécurité de l'IA offre une vue d'ensemble.