Metodología y evidencia de seguridad
Askie combina comprobaciones de entrada teniendo en cuenta la edad, moderación autenticada del lado del servidor, controles de seguridad del proveedor, filtrado de respuestas, controles de privacidad y revisión de los padres. Ningún filtro puede hacer que la IA generativa esté libre de riesgos, por lo que esta página explica qué hace el sistema incluido, qué controlan los padres y dónde están sus límites.
Respuesta corta
La solicitud de un niño se comprueba antes de llegar al modelo. Los controles del proveedor actúan durante la generación y el filtro de Askie para la respuesta completa se ejecuta después. En el chat con transmisión continua, algunos fragmentos pueden aparecer antes de esa comprobación final. Las conversaciones de voz siguen una ruta en tiempo real aparte, con sus propias capas de seguridad. La edad enviada con la solicitud determina las reglas y las instrucciones; el servidor valida el intervalo y que el perfil del niño pertenezca a la cuenta, pero actualmente no sustituye ese valor por la edad guardada en el perfil. La familia controla el historial, los perfiles, la memoria y las notificaciones, mientras que una función de aviso independiente, donde Askie la tiene activada, puede señalar algunas preocupaciones graves de la vida real. Estos mecanismos reducen el riesgo, pero no garantizan que se detecten todas las respuestas inadecuadas o inexactas.
Arquitectura en producción
El backend es el límite de seguridad autorizado para las peticiones de texto y las indicaciones para generar imágenes en iOS, Android y la web. Las comprobaciones del cliente evitan que se envíen entradas claramente inválidas, pero el servidor no confía en ellas y realiza las comprobaciones de seguridad por su cuenta. Las fotos subidas y las conversaciones de voz siguen rutas aparte, descritas más abajo.
Todos los clientes restringen la entrada antes de enviarla: iOS, Android y la web rechazan la entrada vacía y respetan el mismo límite de longitud. Ninguno decide si el contenido es seguro. El filtrado multicapa de Askie se ejecuta en el servidor en cada petición de texto e indicación para generar imágenes, sea cual sea el cliente que la envió.
Las solicitudes pasan por autenticación, límites de uso, validación del intervalo de la edad indicada, comprobaciones de la estructura del contenido y detección de inyección de instrucciones antes de que el filtro de seguridad de Askie evalúe el texto. Cuando hay un identificador de niño, el servidor confirma que el perfil pertenece a la cuenta autenticada.
La edad enviada con la solicitud determina las instrucciones, las reglas de palabras clave y la configuración de seguridad del proveedor. Las aplicaciones de Askie normalmente la toman del perfil de niño seleccionado. El servidor valida el intervalo, pero actualmente no sustituye ese valor por la edad guardada en el perfil.
Los controles del proveedor pueden detener la generación mientras se transmite. El filtro de Askie posterior a la generación comprueba el texto completo con reglas según la edad y devuelve un error comprensible para el niño si no pasa la comprobación. Como el chat envía fragmentos de texto de forma continua, pueden aparecer antes de que se compruebe la respuesta completa.
Las indicaciones para generar imágenes pasan las comprobaciones generales de entrada y una lista de bloqueo específica. Los rechazos y las calificaciones de seguridad de Gemini se tratan como generaciones bloqueadas y no se muestran al niño. Las fotos subidas se comprueban por tipo admitido, presencia y tamaño; después, Gemini procesa el contenido visual. Askie no ejecuta un análisis propio de los píxeles de esas fotos en el servidor.
Algunas rutas de registro del servidor usan utilidades que ocultan correos electrónicos, ID de usuario, tokens, direcciones IP, números de teléfono, enlaces, identificadores sociales, direcciones postales y códigos postales en determinados campos estructurados y de texto libre. El filtro de seguridad de texto y el validador de peticiones de imagen registran cada uno un breve campo contentPreview del contenido que bloquean, y esas vistas previas no pasan actualmente por el ocultador de PII para texto libre.
Una conversación de voz transcurre por una conexión en tiempo real con el agente de voz de Askie y no por la ruta de peticiones de texto, así que tiene sus propias capas de seguridad: las instrucciones de seguridad infantil según la edad que el servidor prepara para cada sesión, una redacción que indica al modelo que trate el tema y el chat recuperado como datos y no como instrucciones, los controles en tiempo real del proveedor y, donde la función de aviso está activada, una revisión de la transcripción cuando termina la llamada. Las imágenes pedidas durante una llamada se siguen generando a través del servidor, así que pasan las mismas comprobaciones de imagen.
Askie está dirigido a niños de 3 a 15 años. En el uso normal, la aplicación envía la edad del niño seleccionado para adaptar las explicaciones y la moderación. Para la seguridad del chat de texto, el servidor utiliza actualmente la edad incluida en la solicitud después de validar el intervalo, en lugar de volver a cargarla desde el perfil guardado del niño.
Controles parentales
La cuenta de los padres es propietaria del perfil infantil. Las configuraciones sensibles y el historial se encuentran detrás de los controles de acceso para adultos, y el panel proporciona los controles prácticos que el filtrado de contenido por sí solo no puede proporcionar.
Aviso de seguridad
El feed para padres está disponible en todos los clientes. La aplicación para iOS también ofrece el ajuste de correo electrónico para avisos de seguridad. La generación de avisos se activa por implementación y no está activa en todas partes. Donde lo está, el modelo puede generar un aviso estructurado durante el chat de texto cuando una conversación sugiere una preocupación media o alta de la vida real, y las conversaciones de voz se revisan una vez finalizada la sesión. Askie almacena un tema y un contexto breves legibles para los padres y luego puede notificar a cada adulto en la cuenta familiar mediante push y correo electrónico. Las alertas repetidas para el mismo niño se silencian durante un período de recuperación, mientras el aviso permanece en el feed de los padres.
Un aviso no es un seguimiento de emergencia, un consejo médico ni un informe a las autoridades. Puede pasar por alto una inquietud o clasificarla incorrectamente. Los padres no deben confiar en ello como la única forma de saber si un niño necesita ayuda.
Privacidad y datos
La política de privacidad de Askie explica qué datos se tratan, por qué son necesarios, qué proveedores participan y cómo la familia puede revisarlos o eliminarlos. La configuración inicial en la web muestra el aviso sobre el tratamiento de datos por IA y solicita consentimiento explícito antes de la sesión opcional Conoce a Askie. La ruta actual de solicitudes del chat web no utiliza esa elección guardada como autorización obligatoria para cada solicitud.
El backend ofrece utilidades para ocultar identificadores y datos de contacto comunes en determinados campos de registro. Cuando el filtro de seguridad de texto o el validador de peticiones de imagen bloquea contenido, cada uno registra un breve campo contentPreview de ese contenido, y esas vistas previas no pasan actualmente por el ocultador de PII para texto libre; por eso se trata de una capa defensiva limitada, no de una afirmación de que los registros no puedan contener información personal.
Askie no utiliza las indicaciones, la voz, las imágenes ni los datos de perfil de un niño para crear contenido de marketing. El producto no contiene publicidad y Askie no vende datos infantiles. En la web, cuando un adulto ha aceptado previamente las cookies de análisis, el espacio de trabajo envía actualmente los eventos de actividad TextQuery, ImageQuery y VoiceQuery al píxel publicitario de Meta.
Manejo de incidentes
Askie gestiona distintas señales de seguridad por vías diferentes. Las comprobaciones de entrada y los controles del proveedor pueden detener el contenido antes o durante la generación. La comprobación de la respuesta completa puede indicar un fallo después de que el texto transmitido haya empezado a aparecer. Las vías de seguimiento dan a la familia y al equipo contexto para actuar sin considerar cierta una evaluación automática.
Cuando una entrada, una solicitud de imagen o un resultado del proveedor no pasa una comprobación, el niño recibe un rechazo neutral o una alternativa más adecuada. Si una respuesta de texto completa no pasa la comprobación posterior a la generación de Askie, se devuelve un error después de que la transmisión puede haber comenzado.
Donde la función de aviso está activada, algunas inquietudes medias o altas de la vida real generan un aviso dirigido a los padres y una alerta push y por correo electrónico de mejor esfuerzo.
La app de Android permite a las familias denunciar contenido inapropiado, inexacto, inadecuado para la edad o de baja calidad. Las denuncias llevan un estado de revisión. Las familias en iOS y en la web se ponen en contacto con el soporte.
Pruebas y ejercicios de red team
Las suites automatizadas de Askie ejercitan cadenas de inyección de instrucciones, lenguaje de jailbreak, límites de edad, peticiones de imágenes explícitas, umbrales de seguridad del proveedor, umbrales de aviso a los padres, el comportamiento del periodo de espera y la ocultación de datos personales. Un incidente de seguridad en producción se puede convertir en un caso de regresión concreto cuando el comportamiento es reproducible.
Las pruebas actuales cubren ambos lados de la frontera: indicaciones dañinas que deben bloquearse y indicaciones legítimas de salud, anatomía, ficción y revelación emocional que aún deben alcanzar una respuesta apropiada para la edad.
Esta es una práctica de prueba interna adversaria a nivel de código. Askie no lo presenta como una auditoría independiente de seguridad infantil, una prueba de penetración, una certificación COPPA Safe Harbor o una prueba de que el sistema no se puede eludir.
Limitaciones conocidas
La IA generativa es probabilística. Publicar los límites es parte del método de seguridad, porque los padres necesitan saber dónde siguen siendo importantes la supervisión y el juicio.
Posición sobre COPPA
La política de privacidad para consumidores de Askie y los textos publicados en las tiendas afirman que Askie cumple con la COPPA. Esta página informa de esa postura declarada, no de una auditoría jurídica independiente. Los controles implementados incluyen minimización de datos, acceso y eliminación por parte de la familia, límites de conservación, ausencia de publicidad dirigida a niños y ninguna venta de datos infantiles; el comportamiento y la limitación del consentimiento en la web se describen arriba.
Un diseño o práctica sigue los principios COPPA, como el consentimiento de los padres y la minimización de datos. La frase por sí sola no es una conclusión jurídica.
Esta es la postura legal declarada de Askie para el producto de consumo, respaldada por su política publicada y controles operativos. Sigue siendo la propia declaración de cumplimiento de Askie.
Esto significa que un esquema independiente designado ha auditado y certificado el servicio. Askie no afirma tener una certificación COPPA Safe Harbor dedicada en esta página.
La certificación de 5 estrellas de la tienda de aplicaciones educativas y el premio NAPPA 2026 de Askie son evaluaciones de productos independientes. Son reconocimientos del producto, no certificaciones COPPA legales.
Base de evidencia
Esta página fue revisada según las rutas del código de producción y la política de privacidad pública que se enumeran a continuación. Se incluyen nombres de archivos para que los revisores de ingeniería y seguridad puedan rastrear una declaración hasta el componente que la aplica.
Respuestas directas
Askie está diseñado para niños de 3 a 15 años y utiliza múltiples puntos de control de seguridad antes y después de la generación de texto, además de controles parentales. Ningún sistema de IA generativa está libre de riesgos, por lo que los padres aún deben revisar su uso, mantener precisa la edad del niño y tratar a Askie como una herramienta de aprendizaje en lugar de una autoridad para decisiones de alto riesgo.
Ninguna persona lee todas las conversaciones. Los sistemas automatizados procesan solicitudes para generar y filtrar respuestas. El historial de conversaciones permanece en el dispositivo a menos que Cloud Sync esté habilitado. Los padres pueden revisar el historial sincronizado y los informes de contenido enviados proporcionan una instantánea específica para la revisión humana.
Donde Askie la tiene activada, puede crear un aviso privado para los adultos en una cuenta familiar cuando un chat de texto o una conversación de voz completa sugiere una preocupación media o alta de la vida real. El feed para padres está disponible en todos los clientes y la aplicación para iOS ofrece el ajuste de correo electrónico para avisos de seguridad. Es una señal de mejor esfuerzo, no un monitoreo de emergencia, y puede pasar por alto o clasificar erróneamente una inquietud.
Askie afirma que su producto de consumo cumple con COPPA, pero no afirma tener una certificación COPPA Safe Harbor dedicada en esta página. Su certificación de 5 estrellas de la tienda de aplicaciones educativas y el premio NAPPA son evaluaciones de productos, no certificaciones COPPA legales.
El producto no contiene publicidad, Askie no vende datos infantiles y no utiliza las indicaciones, la voz, las imágenes ni los datos de perfil de un niño para crear contenido de marketing. En la web, cuando un adulto ha aceptado previamente las cookies de análisis, el espacio de trabajo sí envía los eventos de actividad TextQuery, ImageQuery y VoiceQuery al píxel publicitario de Meta.
Preguntas o inquietudes
Para informar un problema de seguridad, preguntar sobre un derecho de datos o cuestionar una declaración en esta página, comuníquese con el equipo de soporte de Askie. Para una emergencia inmediata, comuníquese con los servicios de emergencia locales.