Cosa fare se un'intelligenza artificiale dice qualcosa di inappropriato a mio figlio?

Se un'IA dice qualcosa di inappropriato a tuo figlio, è la tua reazione nei primi minuti a contare di più. I bambini che ricevono una risposta calma continuano a raccontare le cose ai genitori. Quelli che vedono il panico, o perdono l'app per punizione, spesso smettono.

Perché succede

I chatbot IA generano le risposte al momento, quindi nessun filtro riesce a bloccare tutto. L'American Academy of Pediatrics (l'associazione dei pediatri statunitensi) avverte che i chatbot possono dire ai bambini "cose false, dannose, molto sessuali o violente", soprattutto i prodotti non progettati pensando ai bambini (HealthyChildren.org). Persino Google ammette che i suoi filtri per gli account Gemini dei bambini "non sono perfetti" (Google). Può succedere anche perché un bambino, spesso per curiosità, ha spinto la conversazione in una certa direzione.

Passo dopo passo

1. Mantieni la calma e ringrazialo. "Grazie per avermelo mostrato. Hai fatto proprio la cosa giusta." Fallo anche se l'ha cercato apposta.
2. Scopri cosa è successo. Fai domande aperte: "Di cosa stavate parlando prima che lo dicesse? Che effetto ti ha fatto?"
3. Conserva le prove. Fai uno screenshot della conversazione o annota la data, l'app e cosa è stato detto, prima che venga cancellato qualcosa.
4. Segnalalo all'azienda. Usa la funzione di segnalazione nell'app o il pollice in giù, e il contatto per la sicurezza dell'azienda per le questioni gravi. Le segnalazioni aiutano a risolvere il problema per altri bambini.
5. Rivedi l'accesso. Rendi più restrittive le impostazioni, attiva il controllo parentale o sospendi l'app mentre decidi. Presentalo come una misura di sicurezza, non come una punizione.
6. Spiega perché era sbagliato, in modo adatto alla sua età:
   • Dai 4 ai 7 anni: "Quel computer ha fatto un errore e ha detto una cosa che non è per bambini. Non è colpa tua."
   • Dagli 8 ai 12 anni: "L'IA copia schemi da internet, e una parte di internet non va bene. Non distingue il giusto dallo sbagliato come fanno le persone."
   • Adolescenti: parlate apertamente di come funziona l'IA, di cosa ha visto e di cosa farebbe la prossima volta.
7. Torna sull'argomento. Qualche giorno dopo, chiedigli se ci sta ancora pensando. Fai attenzione a incubi, preoccupazioni o una segretezza insolita.

Quando rivolgersi alle autorità

Alcune situazioni richiedono più di una segnalazione nell'app:

• Contenuti sessuali che coinvolgono un bambino, o qualcuno che cerca di contattarlo o adescarlo: segnalalo alla CyberTipline del NCMEC negli Stati Uniti, o al CEOP nel Regno Unito.
• Contenuti su autolesionismo o suicidio, o se tuo figlio sembra in pericolo: contatta il suo pediatra o medico. In caso di crisi, chiama il numero di emergenza locale, il 988 negli Stati Uniti o Childline (0800 1111) nel Regno Unito.
• Minacce o sfide pericolose: togli l'accesso e parlane con la scuola di tuo figlio se potrebbero essere coinvolti altri bambini.

Come evitare che succeda di nuovo

• Scegli app classificate per l'età di tuo figlio e controlla i termini. Molti chatbot generici richiedono che gli utenti abbiano almeno 13 anni (vedi le regole di età di ChatGPT).
• Con i bambini più piccoli, fai usare l'IA negli spazi comuni della casa.
• Preferisci servizi in cui puoi rileggere le conversazioni, così scoprire i problemi non dipende dal fatto che tuo figlio te li racconti.
• Concordate una regola di famiglia: "Se qualcosa online ti sembra strano, me lo dici e non finirai nei guai."

Come se ne occupa Askie

Askie usa filtri di sicurezza su più livelli e risposte adattate all'età, i genitori possono rileggere le trascrizioni delle conversazioni e vedere i disegni creati, e un avviso di sicurezza (disattivabile) può allertare gli adulti quando una conversazione fa pensare a un problema serio nella vita reale. Nessun filtro è perfetto, ed è per questo che la visibilità per i genitori conta. La nostra metodologia di sicurezza spiega come funziona, compresi i limiti noti, e la nostra guida per genitori alla sicurezza dell'IA offre il quadro completo.