Estándares de seguridad de IA generativa del DfE: lista escolar

Los Generative AI: product safety standards (estándares de seguridad de productos de IA generativa) del Department for Education (DfE, Ministerio de Educación británico) establecen 13 áreas que debe cumplir un producto de IA usado en las escuelas de Inglaterra, desde el filtrado y la supervisión hasta la salud mental y la manipulación. Están escritos para los proveedores, pero la KCSIE 2026 remite a ellos a las escuelas cuando comprueban cómo se aplican el filtrado y la supervisión a la IA. Esta guía resume cada estándar y lo convierte en una pregunta que tu responsable designado de protección infantil (DSL, por sus siglas en inglés) puede plantear a cualquier proveedor.

Qué cambió y cuándo

Tres documentos determinan hoy la protección infantil en relación con la IA en Inglaterra:

El DfE afirma que los estándares "son para los desarrolladores de tecnología educativa y los proveedores de escuelas y colleges", y que las escuelas "también pueden encontrarlos útiles para evaluar qué productos de IA son seguros para su uso en la educación". En la práctica, son la lista de diligencia debida más útil que tiene una escuela.

Qué dice la KCSIE 2026 sobre la IA

La KCSIE 2026 no crea una obligación aparte sobre IA. Integra la IA en las obligaciones existentes:

• Riesgos de seguridad en línea (párrafo 165). El riesgo de "contacto" ahora incluye la "interacción dañina en línea con otros usuarios o con aplicaciones de IA generativa que la simulan". El riesgo de "conducta" incluye imágenes explícitas "generadas con IA".
• Orientaciones de uso (párrafos 167 y 168). A las escuelas que decidan usar IA generativa, ya sea para docentes o para alumnos, se las remite a la guía de IA generativa del DfE y a materiales de apoyo gratuitos elaborados con el Chiltern Learning Trust y el Chartered College of Teaching. El módulo 3 trata la protección infantil, la ética, la protección de datos y la propiedad intelectual.
• Filtrado y supervisión. Junto al requisito ya existente de revisar el filtrado y la supervisión al menos una vez por curso escolar, la KCSIE incluye el documento de seguridad de productos del DfE para explicar "cómo se aplican los requisitos de filtrado y supervisión al uso de la IA generativa en la educación".

La consecuencia práctica: una herramienta de IA para alumnos forma parte de tu esquema de filtrado y supervisión, y tu revisión anual debe mencionarla.

Los 13 estándares de seguridad de productos de IA generativa como lista

Para cada estándar: un resumen de una línea del documento del DfE y, a continuación, la pregunta que hay que hacer. Pide pruebas (capturas de pantalla, políticas, resultados de pruebas), no solo un sí.

1. Propósito declarado

Los productos deben declarar su propósito previsto, los alumnos a los que se dirigen y su enfoque de aprendizaje, y "no deben exagerar el impacto ni las capacidades de sus herramientas".

Pregunta: ¿Para qué edades y necesidades está creado, y qué pruebas respaldan lo que afirman sobre su impacto?

2. Casos de uso educativos

El caso de uso previsto debe ser "claro para todos los usuarios, docentes y compradores".

Pregunta: ¿Es una herramienta para alumnos, para docentes o para ambos? ¿Qué funciones son de cada tipo?

3. Filtrado (para alumnos)

Los productos "deben impedir de forma eficaz y fiable que los usuarios accedan a contenido dañino o inadecuado", durante toda la conversación, en todos los idiomas y en las imágenes, y también en los dispositivos personales.

Pregunta: ¿Cómo se aplica el filtrado: una vez o en cada turno? ¿Cubre imágenes y otros idiomas? ¿Sigue aplicándose cuando un alumno usa la herramienta en casa?

4. Supervisión y notificación (para alumnos)

Los productos deben registrar las instrucciones y las respuestas, alertar a los supervisores del contenido dañino o de los intentos de acceder a él, explicar a los alumnos con un lenguaje adecuado a su edad cuándo se bloquea algo y enviar las alertas de alto riesgo al DSL.

Pregunta: ¿Puede un docente leer el historial completo de conversaciones? ¿A quién se alerta cuando ocurre algo preocupante, y con qué rapidez? ¿Dónde introducimos los datos de contacto del DSL?

5. Seguridad informática

Los productos deben resistir los intentos de jailbreak, permitir a los administradores fijar niveles de permisos, usar una autenticación sólida y someter a pruebas de seguridad las nuevas versiones antes de publicarlas.

Pregunta: ¿Cómo comprueban la resistencia a los intentos de jailbreak? ¿Cómo inician sesión los alumnos y a qué puede acceder una cuenta de alumno?

6. Privacidad y protección de datos

Avisos de privacidad claros y adecuados a la edad; una evaluación de impacto relativa a la protección de datos (DPIA) durante toda la vida del producto; ningún uso comercial de los datos personales, incluido el entrenamiento de modelos, sin una base legal adecuada.

Pregunta: ¿Podemos ver su DPIA y su acuerdo de tratamiento de datos? ¿Se usa algún dato de los alumnos para entrenar modelos? ¿Quiénes son sus subencargados?

7. Propiedad intelectual

Los trabajos de alumnos y docentes no deben guardarse, recopilarse ni usarse con fines comerciales, incluido el entrenamiento, sin permiso (de un padre o tutor en el caso de los menores de 18 años).

Pregunta: ¿Usan los trabajos de los alumnos para entrenar o mejorar sus modelos?

8. Diseño y pruebas

Los productos deben priorizar la transparencia y la seguridad infantil, y probarse con usuarios diversos y realistas, incluidos niños.

Pregunta: ¿Con quién hicieron las pruebas? ¿Cómo comprueban que el producto funciona de forma justa para alumnos con necesidades educativas especiales (SEND) o con el inglés como idioma adicional?

9. Gobernanza

Una evaluación de riesgos clara, una vía formal de reclamación para problemas de seguridad y políticas públicas sobre las decisiones de seguridad de la IA.

Pregunta: ¿Cómo escalamos una preocupación de seguridad, y quién responde?

10. Desarrollo cognitivo (nuevo en 2026)

Los proveedores deben "hacer todo lo posible para mitigar el riesgo de pérdida de habilidades cognitivas", con pistas progresivas en lugar de respuestas completas por defecto.

Pregunta: ¿La herramienta explica y guía, o simplemente entrega las respuestas? ¿Puede un docente ver si los alumnos están delegando el razonamiento?

11. Desarrollo emocional y social (nuevo en 2026)

Los productos no deben presentarse como humanos, deben evitar afirmaciones como "Puedes confiar en mí", deben admitir límites de tiempo y deben vigilar la dependencia emocional.

Pregunta: ¿Cómo se describe la herramienta a sí misma ante los alumnos? ¿Qué límites de tiempo puede fijar un docente? ¿Cómo detectan una dependencia poco saludable?

12. Salud mental (nuevo en 2026)

Los productos deben detectar señales de angustia, responder por niveles, desde orientar hacia recursos de ayuda hasta generar un aviso de protección infantil, dirigir siempre a los alumnos hacia ayuda humana y no fomentar nunca el secretismo.

Pregunta: ¿Qué ocurre, paso a paso, cuando un alumno escribe algo que sugiere que está en riesgo? ¿Podemos ver el protocolo?

13. Manipulación (nuevo en 2026)

Nada de halagos, falsa seguridad, culpa ni presión; ningún diseño que alargue el uso, empuje hacia opciones de pago o mezcle publicidad.

Pregunta: ¿Hay anuncios, rachas o recompensas en la experiencia del alumno? ¿Ve el alumno alguna vez mensajes para pasarse a un plan de pago?

Cómo hacer la revisión en una tarde

1. Haz una lista de todas las herramientas de IA a las que pueden acceder los alumnos. Incluye las funciones de IA dentro de herramientas que ya usan, no solo los chatbots independientes.
2. Envía las 13 preguntas a cada proveedor. Un proveedor serio debería poder responder a la mayoría por escrito en una semana.
3. Prueba tú mismo la vista del alumno. Inicia sesión como alumno y prueba lo que probaría un niño curioso de 10 años. Anota lo que ocurre.
4. Puntúa cada herramienta en verde (aporta pruebas), ámbar (responde pero sin pruebas) o rojo (no responde).
5. Registra el resultado en tu revisión de filtrado y supervisión, con la firma del DSL y del responsable de informática, como espera la KCSIE para la revisión anual.
6. Informa a las familias. Una breve carta a las familias sobre la IA en el aula cierra el círculo.

Después, tu política de IA de la escuela debería nombrar las herramientas aprobadas y quién las revisa.

Qué lugar ocupa Askie for Schools

Preferimos que nos evalúes con los estándares a que te fíes de nuestra palabra, así que esto es lo que hace hoy Askie for Schools, en los términos anteriores:

• Propósito: un compañero de IA para alumnos de 4 a 15 años que responde preguntas y explica conceptos, con respuestas adaptadas a la edad de cada alumno.
• Filtrado: cada respuesta pasa por varias capas de seguridad antes de llegar a un alumno.
• Supervisión: los docentes y los administradores pueden ver el historial de conversaciones y los informes de uso.
• Inicio de sesión: el docente crea a cada alumno y cada alumno recibe un código de acceso privado. Las listas de clase pueden importarse desde tu sistema de gestión escolar (MIS) a través de Wonde, desde Google Classroom o desde una lista pegada.
• Datos: la escuela sigue siendo la responsable del tratamiento de los datos, los datos de los alumnos están separados por docente, hay un acuerdo de tratamiento de datos disponible si lo solicitas y Askie nunca vende datos ni muestra anuncios. Una importación desde Wonde solicita doce campos y ningún dato de necesidades educativas especiales, médico o de bienestar.

Haznos el resto de las preguntas directamente en askie@kidsai.app; las respuestas deben quedar en tus registros, no en nuestro marketing. Puedes empezar con el plan gratuito con hasta 20 alumnos y previsualizar la vista del alumno antes de que ningún niño inicie sesión.

Preguntas frecuentes

¿Son obligatorios los estándares de seguridad de productos de IA generativa del DfE?

Están escritos para los proveedores, no como una obligación legal para las escuelas. Pero la KCSIE 2026, que sí es de obligado cumplimiento, remite a ellos a las escuelas en materia de filtrado y supervisión, así que en la práctica una escuela debería poder demostrar que los tuvo en cuenta.

¿Se llaman "expectations" o "standards"?

Los dos nombres se refieren al mismo documento. Se publicó en enero de 2025 como Generative AI: product safety expectations y ahora se titula Generative AI: product safety standards; su actualización más reciente fue en enero de 2026. La KCSIE 2026 todavía usa el nombre anterior.

¿Se aplica a las herramientas de IA solo para docentes?

Algunos estándares (seguridad informática, privacidad, propiedad intelectual, diseño, gobernanza, manipulación) también se aplican a las herramientas para docentes. Los estándares de filtrado, supervisión, desarrollo cognitivo, desarrollo emocional y salud mental son para los productos destinados a los alumnos.

¿Quién debería encargarse de esto en la escuela?

El miembro del equipo directivo responsable del filtrado y la supervisión, en colaboración con el DSL y el soporte informático, tal como establece la KCSIE para la revisión anual. Consulta cómo usar la IA de forma segura en las escuelas para la implantación general.