Standard DfE per l'IA generativa: la checklist per le scuole

Gli standard Generative AI: product safety standards del Department for Education (DfE, il ministero dell'Istruzione inglese) definiscono 13 aree che un prodotto di IA usato nelle scuole inglesi dovrebbe rispettare, dal filtraggio e monitoraggio fino alla salute mentale e alla manipolazione. Sono scritti per i fornitori, ma il KCSIE 2026 indica alle scuole di farvi riferimento quando verificano come si applicano all'IA il filtraggio e il monitoraggio. Questa guida riassume ogni standard e lo trasforma in una domanda che il responsabile designato per la tutela dei minori (DSL) della tua scuola può porre a qualsiasi fornitore.

Cosa è cambiato, e quando

Oggi in Inghilterra sono tre i documenti che definiscono la tutela dei minori rispetto all'IA:

Il DfE afferma che gli standard «sono rivolti agli sviluppatori di tecnologie educative e ai fornitori di scuole e college» e che le scuole «potrebbero trovarli utili anche per valutare quali prodotti di IA sono sicuri da usare nell'istruzione». In pratica, sono la checklist di due diligence più utile che una scuola abbia a disposizione.

Cosa dice il KCSIE 2026 sull'IA

Il KCSIE 2026 non crea un obbligo separato per l'IA. La inserisce negli obblighi già esistenti:

• Rischi online (paragrafo 165). Il rischio di «contatto» ora comprende «le interazioni online dannose con altri utenti o con applicazioni di IA generativa che le simulano». Il rischio di «condotta» comprende le immagini esplicite «generate con l'IA».
• Indicazioni d'uso (paragrafi 167-168). Le scuole che scelgono di usare l'IA generativa, rivolta agli insegnanti o agli studenti, vengono indirizzate alle linee guida del DfE sull'IA generativa e a materiali di supporto gratuiti realizzati con il Chiltern Learning Trust e il Chartered College of Teaching. Il modulo 3 tratta di tutela dei minori, etica, protezione dei dati e proprietà intellettuale.
• Filtraggio e monitoraggio. Oltre all'obbligo già esistente di rivedere filtraggio e monitoraggio almeno una volta per anno scolastico, il KCSIE cita il documento del DfE sulla sicurezza dei prodotti per spiegare «come si applicano i requisiti di filtraggio e monitoraggio all'uso dell'IA generativa nell'istruzione».

La conseguenza pratica: uno strumento di IA usato dagli studenti fa parte del tuo sistema di filtraggio e monitoraggio, e la revisione annuale dovrebbe citarlo esplicitamente.

I 13 standard di sicurezza per i prodotti di IA generativa sotto forma di checklist

Per ogni standard qui sotto trovi una sintesi in una riga tratta dal documento del DfE e poi la domanda da porre. Chiedi prove (screenshot, policy, risultati dei test), non solo un sì.

1. Scopo dichiarato

I prodotti dovrebbero dichiarare lo scopo previsto, gli studenti a cui si rivolgono e l'obiettivo di apprendimento, e «non dovrebbero esagerare l'impatto o le capacità dei loro strumenti».

Chiedi: per quali età e quali bisogni è stato creato, e quali prove sostengono le vostre affermazioni sull'impatto?

2. Casi d'uso educativi

Il caso d'uso previsto dovrebbe essere «chiaro a tutti gli utenti, agli educatori e agli acquirenti».

Chiedi: è uno strumento per gli studenti, per gli insegnanti o per entrambi? Quali funzioni sono per chi?

3. Filtraggio (strumenti per gli studenti)

I prodotti «devono impedire in modo efficace e affidabile agli utenti di accedere a contenuti dannosi o inappropriati», per tutta la durata di una conversazione, in tutte le lingue e nelle immagini, e anche sui dispositivi personali.

Chiedi: come viene applicato il filtraggio: una volta sola o a ogni scambio? Copre le immagini e le altre lingue? Funziona ancora quando uno studente usa lo strumento a casa?

4. Monitoraggio e segnalazione (strumenti per gli studenti)

I prodotti dovrebbero registrare richieste e risposte, avvisare chi supervisiona in caso di contenuti dannosi o di tentativi di raggiungerli, spiegare agli studenti con un linguaggio adatto all'età quando qualcosa viene bloccato e inviare gli avvisi ad alto rischio al DSL.

Chiedi: un insegnante può leggere tutta la cronologia delle conversazioni? Chi viene avvisato quando succede qualcosa di preoccupante, e con quale rapidità? Dove inseriamo i contatti del DSL?

5. Sicurezza informatica

I prodotti dovrebbero resistere ai tentativi di jailbreak, permettere agli amministratori di impostare i livelli di autorizzazione, usare un'autenticazione solida e testare la sicurezza delle nuove versioni prima del rilascio.

Chiedi: come vi difendete dai tentativi di jailbreak? Come accedono gli studenti, e a cosa può arrivare un account studente?

6. Privacy e protezione dei dati

Informative sulla privacy chiare e adatte all'età; una valutazione d'impatto sulla protezione dei dati per tutto il ciclo di vita del prodotto; nessun uso commerciale dei dati personali, compreso l'addestramento dei modelli, senza un'adeguata base giuridica.

Chiedi: possiamo vedere la vostra valutazione d'impatto (DPIA) e l'accordo sul trattamento dei dati? I dati degli studenti vengono usati per addestrare i modelli? Chi sono i vostri sub-responsabili del trattamento?

7. Proprietà intellettuale

I lavori di studenti e insegnanti non devono essere conservati, raccolti o usati a fini commerciali, compreso l'addestramento, senza autorizzazione (di un genitore, per i minori di 18 anni).

Chiedi: usate i lavori degli studenti per addestrare o migliorare i vostri modelli?

8. Progettazione e test

I prodotti dovrebbero dare priorità alla trasparenza e alla sicurezza dei bambini ed essere testati con utenti diversi e realistici, bambini compresi.

Chiedi: con chi lo avete testato? Come verificate che il prodotto funzioni in modo equo per gli studenti con bisogni educativi speciali (SEND) o con l'inglese come seconda lingua?

9. Governance

Una valutazione dei rischi chiara, un canale formale per i reclami sulla sicurezza e policy pubbliche sulle decisioni relative alla sicurezza dell'IA.

Chiedi: come segnaliamo un problema di sicurezza, e chi risponde?

10. Sviluppo cognitivo (novità 2026)

I fornitori dovrebbero «fare tutto il possibile per ridurre il rischio di impoverimento cognitivo», proponendo per impostazione predefinita suggerimenti progressivi invece di risposte complete.

Chiedi: lo strumento spiega e guida, o si limita a consegnare le risposte? Un insegnante può vedere se gli studenti stanno delegando il ragionamento?

11. Sviluppo emotivo e sociale (novità 2026)

I prodotti non dovrebbero presentarsi come esseri umani, dovrebbero evitare frasi come «Puoi fidarti di me», dovrebbero supportare limiti di tempo e dovrebbero vigilare sulla dipendenza emotiva.

Chiedi: come descrive lo strumento agli studenti ciò che è? Quali limiti di tempo può impostare un insegnante? Come individuate una dipendenza non sana?

12. Salute mentale (novità 2026)

I prodotti dovrebbero rilevare i segnali di disagio, rispondere in modo graduale, dall'indicazione di risorse utili fino a una segnalazione di tutela, indirizzare sempre gli studenti verso un aiuto umano e non incoraggiare mai la segretezza.

Chiedi: cosa succede, passo per passo, quando uno studente scrive qualcosa che fa pensare a un rischio? Possiamo vedere il protocollo?

13. Manipolazione (novità 2026)

Niente adulazione, falsa sicurezza, sensi di colpa o pressioni; nessuna progettazione che prolunghi l'uso, spinga verso opzioni a pagamento o inserisca pubblicità.

Chiedi: nell'esperienza degli studenti ci sono pubblicità, serie o ricompense? Lo studente vede mai inviti a passare a un piano superiore?

Come fare la verifica in un pomeriggio

1. Elenca tutti gli strumenti di IA a cui possono accedere gli studenti. Includi le funzioni di IA dentro gli strumenti che già usate, non solo i chatbot autonomi.
2. Invia le 13 domande a ogni fornitore. Un fornitore serio dovrebbe riuscire a rispondere per iscritto alla maggior parte entro una settimana.
3. Prova tu la vista studente. Accedi come studente e prova quello che proverebbe un bambino curioso di 10 anni. Annota cosa succede.
4. Dai un punteggio a ogni strumento: verde (prove fornite), giallo (risposta senza prove) o rosso (nessuna risposta).
5. Registra il risultato nella revisione di filtraggio e monitoraggio, con l'approvazione del DSL e del referente informatico, come il KCSIE prevede per la revisione annuale.
6. Informa i genitori. Una breve lettera ai genitori sull'IA in classe chiude il cerchio.

La policy della scuola sull'IA dovrebbe poi indicare gli strumenti approvati e chi li revisiona.

Il ruolo di Askie for Schools

Preferiamo che tu ci valuti in base agli standard piuttosto che crederci sulla parola, quindi ecco cosa fa oggi Askie for Schools, negli stessi termini usati sopra:

• Scopo: un compagno IA per gli studenti, dai 4 ai 15 anni, che risponde alle domande e spiega i concetti, con risposte adattate all'età di ogni studente.
• Filtraggio: ogni risposta passa attraverso più livelli di sicurezza prima di arrivare a uno studente.
• Monitoraggio: insegnanti e amministratori possono consultare la cronologia delle conversazioni e i report di utilizzo.
• Accesso: è l'insegnante a creare ogni studente, e ogni studente riceve un codice di accesso personale. Gli elenchi delle classi possono arrivare dal gestionale della scuola (MIS) tramite Wonde, da Google Classroom o da un elenco incollato.
• Dati: la scuola resta titolare del trattamento, i dati degli studenti sono separati per insegnante, un accordo sul trattamento dei dati è disponibile su richiesta e Askie non vende mai dati né mostra pubblicità. Un'importazione tramite Wonde richiede dodici campi e nessun dato su bisogni educativi speciali, salute o benessere personale.

Fai a noi le altre domande direttamente a askie@kidsai.app: le risposte vanno nei tuoi archivi, non nel nostro materiale promozionale. Puoi iniziare con il piano gratuito con un massimo di 20 studenti e vedere in anteprima la vista studente prima che qualsiasi bambino acceda.

Domande frequenti

Gli standard di sicurezza del DfE per i prodotti di IA generativa sono obbligatori?

Sono scritti per i fornitori, non come obbligo di legge per le scuole. Ma il KCSIE 2026, che è vincolante, rimanda le scuole a questi standard per il filtraggio e il monitoraggio, quindi in pratica una scuola dovrebbe poter dimostrare di averli presi in considerazione.

Si parla di «expectations» o di «standards»?

I due nomi indicano lo stesso documento. È stato pubblicato a gennaio 2025 come Generative AI: product safety expectations e ora si intitola Generative AI: product safety standards; l'aggiornamento più recente risale a gennaio 2026. Il KCSIE 2026 usa ancora il nome precedente.

Vale anche per gli strumenti di IA riservati agli insegnanti?

Alcuni standard (sicurezza informatica, privacy, proprietà intellettuale, progettazione, governance, manipolazione) si applicano anche agli strumenti per gli insegnanti. Gli standard su filtraggio, monitoraggio, sviluppo cognitivo, sviluppo emotivo e salute mentale riguardano i prodotti usati dagli studenti.

Chi dovrebbe occuparsene a scuola?

Il membro dello staff dirigenziale responsabile di filtraggio e monitoraggio, insieme al DSL e al supporto informatico, come previsto dal KCSIE per la revisione annuale. Leggi come usare l'IA in sicurezza a scuola per l'introduzione su scala più ampia.