¿Qué hago si una IA le dice algo inapropiado a mi hijo?

Si una IA le dice algo inapropiado a tu hijo, lo más importante es cómo reaccionas en los primeros minutos. Los niños que reciben una respuesta tranquila siguen contándoles cosas a sus padres. Los que ven pánico, o pierden la app como castigo, a menudo dejan de hacerlo.

Por qué ocurre

Los chatbots de IA generan las respuestas sobre la marcha, así que ningún filtro lo detecta todo. La Academia Estadounidense de Pediatría advierte que los chatbots pueden decir a los niños "cosas falsas, dañinas, muy sexuales o violentas", sobre todo los productos que no se diseñaron pensando en ellos (HealthyChildren.org). Incluso Google reconoce que sus filtros para las cuentas infantiles de Gemini "no son perfectos" (Google). También puede pasar porque un niño, a menudo por curiosidad, llevó la conversación hacia ahí.

Paso a paso

1. Mantén la calma y dale las gracias. "Gracias por enseñármelo. Hiciste exactamente lo correcto." Hazlo aunque haya ido a buscarlo.
2. Averigua qué pasó. Haz preguntas abiertas: "¿De qué estaban hablando antes de que dijera eso? ¿Cómo te hizo sentir?"
3. Guarda las pruebas. Haz una captura de pantalla de la conversación o anota la fecha, la app y lo que se dijo, antes de que se borre nada.
4. Repórtalo a la empresa. Usa la opción de reportar de la app o el botón de pulgar hacia abajo, y el contacto de seguridad de la empresa para cualquier cosa grave. Los reportes ayudan a resolver el problema para otros niños.
5. Ajusta el acceso. Refuerza la configuración, activa el control parental o pausa la app mientras decides. Explícalo como una medida de seguridad, no como un castigo.
6. Explícale por qué estuvo mal, a su nivel:
   • De 4 a 7 años: "Esa computadora se equivocó y dijo algo que no es para niños. No es tu culpa."
   • De 8 a 12 años: "La IA copia patrones de internet, y una parte de internet no está bien. No distingue el bien del mal como las personas."
   • Adolescentes: habla con sinceridad sobre cómo funciona la IA, lo que vio y lo que haría la próxima vez.
7. Vuelve a preguntarle. Unos días después, pregúntale si sigue pensando en ello. Presta atención a pesadillas, preocupación o un secretismo poco habitual.

Cuándo ir más allá

Algunas situaciones requieren algo más que un reporte en la app:

• Contenido sexual que involucra a un niño, o alguien que intenta contactarlo o ganarse su confianza para abusar de él: repórtalo a la CyberTipline del NCMEC en Estados Unidos o a CEOP en el Reino Unido.
• Contenido sobre autolesiones o suicidio, o si tu hijo parece estar en riesgo: contacta con su médico. En una crisis, llama al número de emergencias local, al 988 en Estados Unidos o a Childline (0800 1111) en el Reino Unido.
• Amenazas o retos peligrosos: retira el acceso y habla con la escuela de tu hijo si otros niños pueden verse afectados.

Prevenir la próxima vez

• Elige apps clasificadas para la edad de tu hijo y revisa los términos. Muchos chatbots generales exigen que los usuarios tengan 13 años o más (consulta las reglas de edad de ChatGPT).
• Con los niños más pequeños, mantén el uso de la IA en espacios compartidos.
• Prefiere servicios en los que puedas revisar las conversaciones, para que detectar problemas no dependa de que tu hijo te los cuente.
• Acuerden una regla familiar: "Si algo en internet te parece raro, me lo cuentas, y no te vas a meter en problemas".

Cómo lo aborda Askie

Askie usa filtros de seguridad de varias capas y respuestas adaptadas a la edad, los padres pueden revisar las transcripciones de las conversaciones y los dibujos creados, y un aviso de seguridad (que se puede desactivar) puede alertar a los adultos cuando una conversación sugiere una preocupación seria en la vida real. Ningún filtro es perfecto, y por eso importa que los padres tengan visibilidad. Nuestra metodología de seguridad explica cómo funciona, incluidas sus limitaciones conocidas, y nuestra guía para padres sobre la seguridad de la IA ofrece una visión más amplia.