Metodo di sicurezza e prove
Askie combina controlli sugli input in base all'età, moderazione autenticata lato server, controlli di sicurezza dei fornitori, filtraggio delle risposte, controlli sulla privacy e revisione da parte dei genitori. Nessun filtro può rendere l'IA generativa priva di rischi, quindi questa pagina spiega cosa fa il sistema in produzione, cosa controllano i genitori e quali sono i suoi limiti.
In breve
La richiesta di un bambino viene controllata prima di arrivare al modello. I controlli del fornitore agiscono durante la generazione e il filtro di Askie sulle risposte complete interviene dopo. Nella chat in streaming, alcune parti del testo possono comparire prima di quel controllo finale. Le conversazioni vocali seguono un percorso separato in tempo reale, con i propri livelli di sicurezza. L'età inviata con la richiesta cambia le regole e le istruzioni usate; il server ne verifica l'intervallo e che il profilo del bambino appartenga all'account, ma al momento non la sostituisce con l'età salvata nel profilo. I genitori controllano cronologia, profili, memoria e notifiche, mentre una funzione separata di avvisi, dove Askie l'ha attivata, può segnalare alcune preoccupazioni serie nella vita reale. Questi meccanismi riducono il rischio, ma non garantiscono che ogni risposta non sicura o imprecisa venga intercettata.
Architettura in produzione
Il backend è il confine di sicurezza di riferimento per le richieste scritte e per i prompt di generazione di immagini su iOS, Android e web. I controlli nell'app evitano l'invio di input chiaramente non validi, ma il server non si fida di loro ed esegue da sé i controlli di sicurezza. Le foto caricate e le conversazioni vocali seguono percorsi separati, descritti di seguito.
Tutte le app limitano l'input prima di inviarlo: iOS, Android e web rifiutano gli input vuoti e applicano lo stesso limite di lunghezza del prompt. Nessuna di esse decide se un contenuto è sicuro. Il filtraggio multilivello di Askie viene eseguito sul server per ogni richiesta scritta e ogni prompt di generazione di immagini, qualunque sia l'app che l'ha inviato.
Prima che il filtro di sicurezza di Askie valuti il testo, le richieste passano per autenticazione, limiti di frequenza, controlli sull'intervallo dell'età indicata, controlli sulla struttura dei contenuti e verifica contro la prompt injection. Quando è presente l'ID di un bambino, il backend verifica che il profilo appartenga all'account autenticato.
L'età inviata con la richiesta determina le istruzioni del prompt, le regole sulle parole chiave e le impostazioni di sicurezza del fornitore. Di solito le app di Askie la prendono dal profilo del bambino selezionato. Il server ne verifica l'intervallo, ma al momento non la sostituisce con l'età salvata nel profilo.
I controlli del fornitore possono interrompere la generazione mentre è in streaming. Il filtro di Askie applicato dopo la generazione, in base all'età, controlla il testo completo e, se non lo supera, restituisce un messaggio di errore adatto ai bambini. Poiché la chat di testo invia le risposte all'app a pezzi, questi possono comparire prima del controllo sulla risposta completa.
I prompt per generare immagini passano i controlli generali sugli input e una lista nera dedicata alle immagini. I rifiuti e le valutazioni di sicurezza di Gemini vengono trattati come generazioni bloccate, invece di essere mostrati al bambino. Delle foto caricate si controllano il tipo supportato, la presenza e la dimensione, poi Gemini gestisce l'input visivo; Askie non esegue una scansione separata lato server del contenuto delle immagini su quelle foto.
Alcuni percorsi di log sul server usano strumenti che mascherano email, ID utente, token, indirizzi IP, numeri di telefono, link, nomi utente social, indirizzi stradali e codici postali in alcuni campi strutturati e di testo libero. Il filtro di sicurezza del testo e il validatore dei prompt per immagini registrano ciascuno una breve contentPreview dei contenuti che bloccano, e al momento queste anteprime non passano dallo strumento di oscuramento dei dati personali nel testo libero.
Una conversazione vocale passa da una connessione in tempo reale con l'agente vocale di Askie invece che dal percorso delle richieste di testo, quindi ha i propri livelli di sicurezza: le istruzioni per la sicurezza dei bambini in base all'età che il backend prepara per ogni sessione, indicazioni che dicono al modello di trattare l'argomento e il testo della chat riproposto come dati e non come istruzioni, i controlli in tempo reale del fornitore e, dove la funzione di avvisi è attiva, una revisione della trascrizione della sessione al termine della chiamata. Le immagini richieste durante una chiamata vengono comunque generate dal backend, quindi passano gli stessi controlli sulle immagini.
Askie è pensato per bambini e ragazzi dai 4 ai 15 anni. Nell'uso normale dell'app, l'app invia l'età del bambino selezionato per adattare le spiegazioni e la moderazione. Per la sicurezza del testo, al momento il backend usa l'età indicata nella richiesta dopo averne verificato l'intervallo, invece di ricaricarla dal profilo del bambino salvato.
Controllo parentale
Il profilo del bambino appartiene all'account del genitore. Le impostazioni sensibili e la cronologia sono protette da controlli di accesso per adulti, e il pannello offre i controlli pratici che il solo filtraggio dei contenuti non può offrire.
Avviso di sicurezza
Il feed per i genitori è disponibile su tutte le app. L'app iOS mostra anche l'impostazione delle email per gli avvisi di sicurezza. La generazione degli avvisi viene attivata per ogni ambiente di distribuzione e non è attiva ovunque. Dove è attiva, il modello può creare un avviso strutturato durante la chat di testo quando una conversazione fa pensare a una preoccupazione media o alta nella vita reale, mentre le conversazioni vocali vengono esaminate al termine della sessione. Askie salva un breve argomento e un contesto comprensibili per il genitore, e può avvisare ogni adulto dell'account di famiglia con notifiche push ed email. Gli avvisi ripetuti per lo stesso bambino vengono silenziati per un periodo di attesa, mentre l'avviso resta nel feed per i genitori.
Un avviso non è un sistema di monitoraggio delle emergenze, un consiglio medico o una segnalazione alle autorità. Può non rilevare una preoccupazione o classificarla in modo errato. I genitori non dovrebbero affidarsi solo a questo per capire se un bambino ha bisogno di aiuto.
Privacy e dati
L'informativa sulla privacy di Askie spiega quali dati vengono trattati, perché servono, quali fornitori sono coinvolti e come un genitore può rivederli o eliminarli. La configurazione iniziale sul web presenta l'informativa sul trattamento dei dati da parte dell'IA e chiede un consenso esplicito nell'app prima della sessione facoltativa Meet Askie. L'attuale percorso delle richieste della chat web non usa quella scelta salvata come blocco a livello di singola richiesta.
Il backend offre strumenti di oscuramento per identificativi e recapiti comuni in alcuni campi dei log. Quando il filtro di sicurezza del testo o il validatore dei prompt per immagini bloccano un contenuto, ciascuno ne registra una breve contentPreview, e al momento queste anteprime non passano dallo strumento di oscuramento dei dati personali nel testo libero: si tratta quindi di un livello di difesa circoscritto, non della garanzia che i log non possano contenere informazioni personali.
Askie non usa i prompt, la voce, le immagini o i dati del profilo di un bambino per creare contenuti di marketing. Il prodotto non contiene pubblicità e Askie non vende i dati dei bambini. Sul web, quando un adulto ha accettato in precedenza i cookie di analisi, lo spazio di lavoro al momento invia gli eventi di attività TextQuery, ImageQuery e VoiceQuery al pixel pubblicitario di Meta.
Gestione degli incidenti
Askie gestisce i diversi segnali di sicurezza attraverso percorsi diversi. I controlli sugli input e i controlli del fornitore possono fermare un contenuto prima o durante la generazione. Il controllo sulla risposta completa può segnalare un problema dopo che il testo in streaming ha iniziato a comparire. I percorsi successivi danno ai genitori e al team il contesto per agire, senza considerare certo un giudizio automatico.
Quando un input, una richiesta di immagine o un risultato del fornitore non supera un controllo, il bambino riceve un rifiuto neutro o un'alternativa più sicura. Una risposta di testo completa che non supera il controllo di Askie dopo la generazione restituisce un errore, anche se lo streaming potrebbe essere già iniziato.
Dove la funzione di avvisi è attiva, alcune preoccupazioni medie o alte nella vita reale generano un avviso per i genitori e, per quanto possibile, una notifica push e un'email.
L'app Android permette alle famiglie di segnalare contenuti inappropriati, imprecisi, non adatti all'età o di bassa qualità. Le segnalazioni hanno uno stato di revisione. Le famiglie su iOS e sul web contattano l'assistenza.
Test e pratica di red team
Le suite automatiche di Askie mettono alla prova stringhe di prompt injection, linguaggio da jailbreak, limiti di età, prompt per immagini esplicite, soglie di sicurezza del fornitore, soglie degli avvisi ai genitori, comportamento del periodo di attesa e oscuramento dei dati personali. Un incidente di sicurezza in produzione può diventare un caso di regressione mirato quando il comportamento è riproducibile.
I test attuali coprono entrambi i lati del confine: prompt dannosi che devono essere bloccati e prompt legittimi su salute, anatomia, narrativa e confidenze emotive che devono comunque ricevere una risposta adatta all'età.
Si tratta di una pratica interna di test avversariali a livello di codice. Askie non la presenta come un audit indipendente sulla sicurezza dei bambini, un penetration test, una certificazione COPPA Safe Harbor o una prova che il sistema non possa essere aggirato.
Limiti noti
L'IA generativa è probabilistica. Rendere pubblici i limiti fa parte del metodo di sicurezza, perché i genitori devono sapere dove servono ancora supervisione e buon senso.
Posizione sulla COPPA
L'informativa sulla privacy di Askie per le famiglie e i materiali pubblicati negli store dichiarano che Askie è conforme alla COPPA. Questa pagina riporta tale posizione dichiarata, non un audit legale indipendente. I controlli in produzione includono minimizzazione dei dati, accesso ed eliminazione da parte dei genitori, limiti di conservazione, nessuna pubblicità rivolta ai bambini e nessuna vendita dei dati dei bambini; il comportamento del consenso sul web e il relativo limite sono descritti sopra.
Un progetto o una pratica segue principi della COPPA come il consenso dei genitori e la minimizzazione dei dati. L'espressione da sola non è una conclusione legale.
È la posizione legale dichiarata da Askie per il prodotto per le famiglie, supportata dalla sua informativa pubblicata e dai controlli operativi. Resta una dichiarazione di conformità di Askie stessa.
Significa che un programma indipendente, chiaramente identificato, ha verificato e certificato il servizio. In questa pagina Askie non dichiara di avere una certificazione COPPA Safe Harbor dedicata.
La certificazione a 5 stelle di Educational App Store e il NAPPA Award 2026 di Askie sono valutazioni indipendenti del prodotto. Sono riconoscimenti del prodotto, non certificazioni legali COPPA.
Fonti e prove
Questa pagina è stata verificata rispetto ai percorsi del codice in produzione e all'informativa sulla privacy pubblica elencati di seguito. I nomi dei file sono indicati perché i revisori tecnici e della sicurezza possano ricondurre ogni affermazione al componente che la applica.
Risposte dirette
Askie è pensato per bambini e ragazzi dai 4 ai 15 anni e usa più punti di controllo di sicurezza prima e dopo la generazione del testo, oltre al controllo parentale. Nessun sistema di IA generativa è privo di rischi, quindi un genitore dovrebbe comunque seguirne l'uso, mantenere corretta l'età del bambino e considerare Askie uno strumento di apprendimento, non un'autorità per decisioni importanti.
Nessuna persona legge tutte le conversazioni. Sistemi automatici elaborano le richieste per generare e filtrare le risposte. La cronologia delle conversazioni resta sul dispositivo, a meno che la Sincronizzazione cloud non sia attiva. Un genitore può rivedere la cronologia sincronizzata, e le segnalazioni di contenuti inviate forniscono un'istantanea specifica per la revisione umana.
Dove Askie li ha attivati, possono creare un avviso privato per gli adulti di un account di famiglia quando la chat di testo o una conversazione vocale conclusa fanno pensare a una preoccupazione media o alta nella vita reale. Il feed per i genitori è disponibile su tutte le app, e l'app iOS mostra la preferenza delle email per gli avvisi di sicurezza. È un segnale fornito nei limiti del possibile, non un monitoraggio delle emergenze, e può non rilevare o classificare male una preoccupazione.
Askie dichiara che il suo prodotto per le famiglie è conforme alla COPPA, ma in questa pagina non dichiara di avere una certificazione COPPA Safe Harbor dedicata. La certificazione a 5 stelle di Educational App Store e il NAPPA Award sono valutazioni del prodotto, non certificazioni legali COPPA.
Il prodotto non contiene pubblicità, Askie non vende i dati dei bambini e non usa i prompt, la voce, le immagini o i dati del profilo di un bambino per creare contenuti di marketing. Sul web, quando un adulto ha accettato in precedenza i cookie di analisi, lo spazio di lavoro invia effettivamente gli eventi di attività TextQuery, ImageQuery e VoiceQuery al pixel pubblicitario di Meta.
Domande o dubbi
Per segnalare un problema di sicurezza, chiedere informazioni su un diritto relativo ai dati o contestare un'affermazione di questa pagina, contatta il team di assistenza di Askie. In caso di emergenza immediata, contatta i servizi di emergenza locali.