O que fazer se uma IA disser algo impróprio ao meu filho?

Se uma IA disser algo impróprio ao seu filho, a sua reação nos primeiros minutos é o que mais importa. Crianças que recebem uma resposta calma continuam contando as coisas para os pais. Crianças que veem pânico, ou perdem o app como castigo, muitas vezes param de contar.

Por que isso acontece

Os chatbots de IA geram as respostas na hora, então nenhum filtro pega tudo. A Academia Americana de Pediatria (AAP) alerta que os chatbots podem dizer às crianças "coisas falsas, nocivas, altamente sexuais ou violentas", principalmente produtos que não foram pensados para crianças (HealthyChildren.org). Até o Google diz que seus filtros para contas infantis do Gemini "não são perfeitos" (Google). Também pode acontecer porque a criança, muitas vezes por curiosidade, levou a conversa para esse lado.

Passo a passo

1. Mantenha a calma e agradeça. "Obrigado por me mostrar. Você fez exatamente a coisa certa." Faça isso mesmo que ele tenha ido procurar.
2. Descubra o que aconteceu. Faça perguntas abertas: "Sobre o que vocês estavam conversando antes de ela dizer isso? Como você se sentiu?"
3. Guarde as provas. Tire um print da conversa ou anote a data, o app e o que foi dito, antes que algo seja apagado.
4. Denuncie à empresa. Use o botão de denúncia ou de "não gostei" no app e o contato de segurança da empresa para casos graves. As denúncias ajudam a resolver o problema para outras crianças.
5. Ajuste o acesso. Reforce as configurações, ative o controle parental ou suspenda o app enquanto decide. Apresente isso como uma medida de segurança, não como castigo.
6. Explique por que estava errado, no nível dele:
   • De 4 a 7 anos: "Esse computador errou e disse uma coisa que não é para crianças. A culpa não é sua."
   • De 8 a 12 anos: "A IA copia padrões da internet, e uma parte da internet não é legal. Ela não sabe o que é certo e errado como as pessoas sabem."
   • Adolescentes: converse com franqueza sobre como a IA funciona, o que ele viu e o que faria da próxima vez.
7. Volte ao assunto. Alguns dias depois, pergunte se ele ainda está pensando nisso. Fique atento a pesadelos, preocupação ou segredos fora do comum.

Quando levar o caso adiante

Algumas situações pedem mais do que uma denúncia no app:

• Conteúdo sexual envolvendo uma criança, ou alguém tentando contatá-la ou aliciá-la: denuncie à CyberTipline do NCMEC nos EUA ou ao CEOP no Reino Unido.
• Conteúdo sobre automutilação ou suicídio, ou se seu filho parecer estar em risco: procure o médico do seu filho. Em uma crise, ligue para o número de emergência local, para o 988 nos EUA ou para a Childline (0800 1111) no Reino Unido.
• Ameaças ou desafios perigosos: retire o acesso e converse com a escola do seu filho se outras crianças puderem ser afetadas.

Como evitar uma próxima vez

• Escolha apps classificados para a idade do seu filho e leia os termos. Muitos chatbots gerais exigem que o usuário tenha 13 anos ou mais (veja as regras de idade do ChatGPT).
• Com crianças menores, mantenha o uso de IA em espaços comuns da casa.
• Prefira serviços em que você possa rever as conversas, para que os problemas não dependam de seu filho contar.
• Combinem uma regra em família: "Se algo na internet parecer estranho, você me conta e não vai ficar de castigo."

Como o Askie lida com isso

O Askie usa filtros de segurança em várias camadas e respostas adaptadas à idade, os pais podem rever as transcrições das conversas e os desenhos criados, e um alerta de segurança (que pode ser desativado) avisa os adultos quando uma conversa sugere uma preocupação séria na vida real. Nenhum filtro é perfeito, e é por isso que a visibilidade para os pais importa. Nossa metodologia de segurança explica como funciona, incluindo as limitações conhecidas, e nosso guia de segurança em IA para pais mostra o panorama mais amplo.