Méthodologie et preuves de sécurité
Askie combine des vérifications de saisie tenant compte de l'âge, une modération authentifiée côté serveur, des contrôles de sécurité des fournisseurs, un filtrage des réponses, des contrôles de confidentialité et un examen par les parents. Aucun filtre ne peut rendre l'IA générative sans risque, c'est pourquoi cette page explique ce que fait le système fourni, ce que les parents contrôlent et où se situent ses limites.
Réponse courte
La demande d'un enfant est vérifiée avant d'atteindre le modèle. Les contrôles du fournisseur agissent pendant la génération, puis le filtre d'Askie examine la réponse complète. Dans le chat diffusé au fil de la génération, des passages peuvent apparaître avant cette vérification finale. Les conversations vocales empruntent un chemin temps réel distinct, doté de ses propres couches de sécurité. L'âge envoyé avec la demande détermine les règles et les instructions ; le serveur vérifie sa plage et l'appartenance du profil enfant au compte, mais ne le remplace pas actuellement par l'âge enregistré dans le profil. La famille gère l'historique, les profils, la mémoire et les notifications, tandis qu'une fonction d'alerte distincte, lorsque Askie l'a activée, peut signaler certaines préoccupations sérieuses dans la vie réelle. Ces mécanismes réduisent les risques, mais ne garantissent pas que chaque réponse inadaptée ou inexacte sera détectée.
Architecture en production
Le backend constitue la limite de sécurité faisant autorité pour les demandes de texte et les consignes de génération d'images sur iOS, Android et le Web. Les contrôles côté client empêchent l'envoi d'entrées manifestement invalides, mais le serveur ne leur fait pas confiance et effectue lui-même les contrôles de sécurité. Les photos envoyées et les conversations vocales empruntent des parcours distincts, décrits plus bas.
Tous les clients limitent la saisie avant l'envoi : iOS, Android et le Web refusent une saisie vide et respectent la même limite de longueur. Aucun d'eux ne décide si un contenu est sûr. Le filtrage multicouche d'Askie s'exécute côté serveur pour chaque demande de texte et chaque consigne de génération d'images, quel que soit le client d'origine.
Les demandes passent par l'authentification, les limites de fréquence, la vérification de la plage de l'âge fourni, les contrôles de structure du contenu et la détection des injections d'instructions avant que le filtre de sécurité d'Askie évalue le texte. Lorsqu'un identifiant enfant est présent, le serveur confirme que le profil appartient au compte authentifié.
L'âge envoyé avec la demande détermine les instructions, les règles de mots-clés et les paramètres de sécurité du fournisseur. Les applications Askie le prennent normalement dans le profil enfant sélectionné. Le serveur vérifie la plage, mais ne remplace pas actuellement cette valeur par l'âge enregistré dans le profil.
Les contrôles du fournisseur peuvent arrêter la génération pendant sa diffusion. Le filtre d'Askie après génération vérifie le texte complet selon des règles adaptées à l'âge et renvoie une erreur compréhensible pour l'enfant en cas d'échec. Comme le chat envoie les passages au fur et à mesure, ils peuvent apparaître avant la vérification de la réponse complète.
Les consignes de génération d'images passent les contrôles généraux de saisie et une liste de blocage dédiée. Les refus et évaluations de sécurité de Gemini sont traités comme des générations bloquées plutôt que montrés à l'enfant. Les photos envoyées sont vérifiées pour leur type, leur présence et leur taille, puis Gemini traite le contenu visuel. Askie n'effectue pas sur son serveur d'analyse distincte des pixels de ces photos.
Certains chemins de journalisation du serveur utilisent des utilitaires qui masquent les e-mails, les identifiants utilisateur, les jetons, les adresses IP, les numéros de téléphone, les liens, les identifiants sociaux, les adresses postales et les codes postaux dans des champs structurés et de texte libre sélectionnés. Le filtre de sécurité du texte et le validateur des demandes d'image enregistrent chacun un court champ contentPreview du contenu qu'ils bloquent, et ces aperçus ne passent actuellement pas par le masqueur de PII pour texte libre.
Une conversation vocale passe par une connexion temps réel avec l'agent vocal d'Askie plutôt que par le chemin des demandes de texte, elle possède donc ses propres couches de sécurité : les consignes de sécurité enfant adaptées à l'âge que le backend prépare pour chaque session, une formulation qui demande au modèle de traiter le thème et le texte de conversation repris comme des données et non comme des instructions, les contrôles temps réel du fournisseur, et, lorsque la fonction d'alerte est activée, un examen de la transcription une fois l'appel terminé. Les images demandées pendant un appel sont toujours générées via le backend et passent donc les mêmes contrôles d'image.
Askie s'adresse aux enfants de 3 à 15 ans. Dans l'utilisation normale, l'application envoie l'âge de l'enfant sélectionné pour adapter les explications et la modération. Pour la sécurité du chat textuel, le serveur utilise actuellement l'âge inclus dans la demande après vérification de sa plage, au lieu de le recharger depuis le profil enfant enregistré.
Contrôles parentaux
Le compte parent est propriétaire du profil enfant. Les paramètres et l'historique sensibles se trouvent derrière les contrôles d'accès pour adultes, et le tableau de bord fournit des contrôles pratiques que le filtrage de contenu à lui seul ne peut pas fournir.
Avis de sécurité
Le flux parent est présent sur tous les clients. L'application iOS propose aussi le réglage des alertes de sécurité par e-mail. La génération des alertes est activée par déploiement et n'est pas active partout. Lorsqu'elle l'est, le modèle peut émettre un avis structuré pendant le chat textuel lorsqu'une conversation suggère une préoccupation réelle moyenne ou élevée, et les conversations vocales sont examinées après la fin de la session. Askie stocke un court sujet et un contexte lisibles par les parents, puis peut informer chaque adulte du compte familial par push et par e-mail. Les alertes répétées pour le même enfant sont silencieuses pendant une période de récupération, tandis que l'avis reste dans le flux parent.
Un avertissement ne constitue pas une surveillance d'urgence, un avis médical ou un rapport aux autorités. Il peut manquer un problème ou en classer un de manière incorrecte. Les parents ne devraient pas s’y fier comme seul moyen de savoir si un enfant a besoin d’aide.
Confidentialité et données
La politique de confidentialité d'Askie explique quelles données sont traitées, pourquoi elles sont nécessaires, quels fournisseurs interviennent et comment la famille peut les consulter ou les supprimer. La configuration initiale sur le web présente l'information sur le traitement des données par l'IA et demande un consentement explicite avant la session facultative de découverte d'Askie. Le parcours actuel des demandes du chat web n'utilise pas ce choix enregistré comme autorisation obligatoire pour chaque demande.
Le backend fournit des utilitaires de masquage pour les identifiants et coordonnées courants dans certains champs de journal. Lorsque le filtre de sécurité du texte ou le validateur des demandes d'image bloque un contenu, chacun en enregistre un court champ contentPreview, et ces aperçus ne passent actuellement pas par le masqueur de PII pour texte libre ; il s'agit donc d'une couche défensive limitée, et non d'une affirmation selon laquelle les journaux ne peuvent pas contenir d'informations personnelles.
Askie n'utilise pas les requêtes, la voix, les images ni les données de profil d'un enfant pour créer du contenu marketing. Le produit ne contient aucune publicité et Askie ne vend pas de données sur les enfants. Sur le web, lorsqu'un adulte a déjà accepté les cookies d'analyse, l'espace de travail envoie actuellement les événements d'activité TextQuery, ImageQuery et VoiceQuery au pixel publicitaire de Meta.
Gestion des incidents
Askie traite les différents signaux de sécurité par des voies distinctes. Les contrôles d'entrée et ceux du fournisseur peuvent arrêter le contenu avant ou pendant la génération. La vérification de la réponse complète peut signaler un échec après que le texte diffusé a commencé à apparaître. Les voies de suivi donnent à la famille et à l'équipe le contexte nécessaire pour agir sans considérer une évaluation automatique comme certaine.
Lorsqu'une entrée, une demande d'image ou un résultat du fournisseur échoue à une vérification, l'enfant reçoit un refus neutre ou une solution plus adaptée. Si une réponse textuelle complète échoue à la vérification d'Askie après génération, une erreur est renvoyée alors que la diffusion a peut-être déjà commencé.
Lorsque la fonction d'alerte est activée, certaines préoccupations réelles moyennes ou élevées génèrent un avis destiné aux parents et une alerte push et par e-mail de la meilleure façon possible.
L'application Android permet aux familles de signaler un contenu inapproprié, inexact, inadapté à l'âge ou de mauvaise qualité. Les signalements portent un statut d'examen. Les familles sur iOS et sur le web contactent le support.
Tests et exercices de red team
Les suites automatisées d'Askie éprouvent des chaînes d'injection d'instructions, un langage de jailbreak, des limites d'âge, des demandes d'images explicites, des seuils de sécurité du fournisseur, des seuils d'alerte aux parents, le comportement du délai d'attente et le masquage des informations personnelles. Un incident de sécurité en production peut être converti en cas de régression ciblé lorsque le comportement est reproductible.
Les tests actuels couvrent les deux côtés de la frontière : les invites nuisibles qui doivent être bloquées et les invites légitimes en matière de santé, d'anatomie, de fiction et de divulgation émotionnelle qui doivent toujours atteindre une réponse adaptée à l'âge.
Il s'agit d'une pratique de test contradictoire interne au niveau du code. Askie ne le présente pas comme un audit indépendant de sécurité des enfants, un test d'intrusion, une certification COPPA Safe Harbor ou une preuve que le système ne peut pas être contourné.
Limites connues
L'IA générative est probabiliste. Publier les limites fait partie de la méthode de sécurité, car les parents ont besoin de savoir où la supervision et le jugement comptent encore.
Position sur COPPA
La politique de confidentialité grand public d'Askie et les textes publiés dans les boutiques indiquent qu'Askie respecte la COPPA. Cette page présente cette position déclarée, et non un audit juridique indépendant. Les contrôles en service comprennent la minimisation des données, l'accès et la suppression par la famille, des durées de conservation limitées, l'absence de publicité destinée aux enfants et l'absence de vente de données d'enfants ; le fonctionnement et la limite du consentement sur le web sont décrits plus haut.
Une conception ou une pratique suit les principes COPPA tels que le consentement parental et la minimisation des données. La phrase à elle seule ne constitue pas une conclusion juridique.
Il s'agit de la position juridique déclarée d'Askie pour le produit de consommation, soutenue par sa politique publiée et ses contrôles opérationnels. Cela reste la propre déclaration de conformité d'Askie.
Cela signifie qu'un système indépendant nommé a audité et certifié le service. Askie ne revendique pas de certification COPPA Safe Harbor dédiée sur cette page.
La certification 5 étoiles de l'App Store éducatif et le prix NAPPA 2026 d'Askie sont des évaluations de produits indépendantes. Il s'agit d'une reconnaissance du produit et non de certifications légales COPPA.
Base factuelle
Cette page a été examinée par rapport aux chemins de code de production et à la politique de confidentialité publique répertoriée ci-dessous. Les noms de fichiers sont inclus afin que les réviseurs d'ingénierie et de sécurité puissent retracer une déclaration jusqu'au composant qui l'applique.
Réponses directes
Askie est conçu pour les enfants âgés de 3 à 15 ans et utilise plusieurs points de contrôle de sécurité avant et après la génération de texte, ainsi que des contrôles parentaux. Aucun système d'IA générative n'est sans risque, donc un parent doit toujours examiner son utilisation, veiller à ce que l'âge de l'enfant soit précis et traiter Askie comme un outil d'apprentissage plutôt que comme une autorité pour les décisions à enjeux élevés.
Personne ne lit toutes les conversations. Les systèmes automatisés traitent les demandes pour générer et filtrer les réponses. L'historique des conversations reste sur l'appareil sauf si Cloud Sync est activé. Un parent peut consulter l'historique synchronisé et les rapports de contenu soumis fournissent un instantané spécifique pour un examen humain.
Lorsque Askie l'a activée, elle peut créer un avis privé pour les adultes d'un compte familial lorsqu'un chat textuel ou une conversation vocale terminée suggère une préoccupation réelle moyenne ou élevée. Le flux parent est présent sur tous les clients, et l'application iOS propose le réglage des alertes de sécurité par e-mail. Il s'agit d'un signal de « meilleur effort », et non d'une surveillance d'urgence, et il peut manquer ou mal classer un problème.
Askie déclare que son produit de consommation est conforme à la COPPA, mais il ne revendique pas de certification COPPA Safe Harbor dédiée sur cette page. Sa certification 5 étoiles sur l'App Store éducatif et son prix NAPPA sont des évaluations de produits et non des certifications légales COPPA.
Le produit ne contient aucune publicité, Askie ne vend pas de données sur les enfants et n'utilise pas les requêtes, la voix, les images ni les données de profil d'un enfant pour créer du contenu marketing. Sur le web, lorsqu'un adulte a déjà accepté les cookies d'analyse, l'espace de travail envoie bien les événements d'activité TextQuery, ImageQuery et VoiceQuery au pixel publicitaire de Meta.
Questions ou préoccupations
Pour signaler un problème de sécurité, poser des questions sur un droit en matière de données ou contester une déclaration sur cette page, contactez l'équipe d'assistance d'Askie. Pour une urgence immédiate, contactez les services d’urgence locaux.