Padrões do DfE para IA generativa: checklist para escolas

O documento Generative AI: product safety standards (padrões de segurança para produtos de IA generativa), do Department for Education (DfE, o Ministério da Educação do Reino Unido), define 13 áreas que um produto de IA usado em escolas da Inglaterra deve atender, da filtragem e do monitoramento até saúde mental e manipulação. Os padrões foram escritos para fornecedores, mas o KCSIE 2026 encaminha as escolas a eles ao verificar como a filtragem e o monitoramento se aplicam à IA. Este guia resume cada padrão e o transforma em uma pergunta que o responsável designado pela proteção infantil (designated safeguarding lead, ou DSL) da sua escola pode fazer a qualquer fornecedor.

O que mudou e quando

Hoje, três documentos orientam a proteção infantil em relação à IA na Inglaterra:

O DfE afirma que os padrões "são para desenvolvedores de edtech e fornecedores de escolas e faculdades" e que as escolas "também podem considerá-los úteis para avaliar quais produtos de IA são seguros para uso na educação". Na prática, eles são o checklist de due diligence mais útil que uma escola tem.

O que o KCSIE 2026 diz sobre IA

O KCSIE 2026 não cria uma obrigação separada para a IA. Ele incorpora a IA às obrigações já existentes:

• Riscos de segurança online (parágrafo 165). O risco de "contato" agora inclui "interação online prejudicial com outros usuários ou com aplicações de IA generativa que simulem isso". O risco de "conduta" inclui imagens explícitas "geradas com IA".
• Orientações de uso (parágrafos 167 e 168). As escolas que decidirem usar IA generativa, seja voltada para professores ou para alunos, são encaminhadas às orientações do DfE sobre IA generativa e a materiais de apoio gratuitos produzidos com o Chiltern Learning Trust e o Chartered College of Teaching. O Módulo 3 trata de proteção infantil, ética, proteção de dados e propriedade intelectual.
• Filtragem e monitoramento. Além da exigência já existente de revisar a filtragem e o monitoramento pelo menos uma vez a cada ano letivo, o KCSIE cita o documento de segurança de produtos do DfE para explicar "como os requisitos de filtragem e monitoramento se aplicam ao uso de IA generativa na educação".

Na prática, isso significa que uma ferramenta de IA voltada para alunos faz parte do seu quadro de filtragem e monitoramento, e a sua revisão anual deve mencioná-la.

Os 13 padrões de segurança para produtos de IA generativa em forma de checklist

Para cada padrão abaixo: um resumo de uma linha do documento do DfE e, em seguida, a pergunta a fazer. Peça evidências (capturas de tela, políticas, resultados de testes), e não apenas um "sim".

1. Finalidade declarada

Os produtos devem declarar a finalidade pretendida, o público de alunos e o foco de aprendizagem, e "não devem exagerar o impacto ou as capacidades de suas ferramentas".

Pergunte: Para quais idades e necessidades isto foi criado e que evidências sustentam as suas afirmações de impacto?

2. Casos de uso educacional

O caso de uso pretendido deve ser "claro para todos os usuários, educadores e compradores".

Pergunte: É uma ferramenta voltada para alunos, para professores ou para ambos? Quais recursos são de cada tipo?

3. Filtragem (voltada para alunos)

Os produtos "devem impedir de forma eficaz e confiável que os usuários acessem conteúdo prejudicial ou inadequado", ao longo de toda a conversa, em diferentes idiomas e imagens, e em dispositivos pessoais.

Pergunte: Como a filtragem é aplicada: uma vez ou a cada mensagem? Ela abrange imagens e outros idiomas? Continua valendo quando o aluno usa a ferramenta em casa?

4. Monitoramento e relatórios (voltados para alunos)

Os produtos devem registrar os prompts e as respostas, alertar os responsáveis sobre conteúdo prejudicial ou tentativas de acessá-lo, avisar os alunos em linguagem adequada à idade quando algo for bloqueado e encaminhar alertas de alto risco ao DSL.

Pergunte: Um professor consegue ler todo o histórico de conversas? Quem é alertado quando acontece algo preocupante, e com que rapidez? Onde cadastramos os contatos do DSL?

5. Segurança da informação

Os produtos devem resistir a tentativas de jailbreak, permitir que administradores definam níveis de permissão, usar autenticação robusta e passar por testes de segurança antes do lançamento de novas versões.

Pergunte: Como vocês testam a resistência a tentativas de jailbreak? Como os alunos fazem login e o que uma conta de aluno consegue acessar?

6. Privacidade e proteção de dados

Avisos de privacidade claros e adequados à idade; uma avaliação de impacto sobre a proteção de dados ao longo de todo o ciclo de vida do produto; nenhum uso comercial de dados pessoais, incluindo treinamento de modelos, sem uma base legal adequada.

Pergunte: Podemos ver a sua avaliação de impacto (DPIA) e o seu contrato de processamento de dados? Algum dado dos alunos é usado para treinar modelos? Quem são os seus subprocessadores?

7. Propriedade intelectual

Os trabalhos de alunos e professores não podem ser armazenados, coletados ou usados comercialmente, inclusive para treinamento, sem permissão (dos pais, no caso de menores de 18 anos).

Pergunte: Vocês usam os trabalhos dos alunos para treinar ou aprimorar seus modelos?

8. Design e testes

Os produtos devem priorizar a transparência e a segurança infantil e ser testados com usuários diversos e realistas, incluindo crianças.

Pergunte: Com quem vocês testaram? Como verificam se o produto funciona de forma justa para alunos com necessidades educacionais especiais (SEND) ou que têm o inglês como língua adicional?

9. Governança

Uma avaliação de riscos clara, um canal formal de reclamações sobre problemas de segurança e políticas públicas sobre as decisões de segurança da IA.

Pergunte: Como escalamos uma preocupação de segurança e quem responde?

10. Desenvolvimento cognitivo (novo em 2026)

Os fornecedores devem "fazer todo o possível para reduzir o risco de perda de habilidades cognitivas", oferecendo por padrão dicas progressivas em vez de respostas completas.

Pergunte: A ferramenta explica e orienta ou simplesmente entrega as respostas? Um professor consegue ver se os alunos estão terceirizando o raciocínio?

11. Desenvolvimento emocional e social (novo em 2026)

Os produtos não devem se apresentar como humanos, devem evitar frases como "Você pode confiar em mim", devem permitir limites de tempo e devem ficar atentos à dependência emocional.

Pergunte: Como a ferramenta explica aos alunos o que ela é? Que limites de tempo um professor pode definir? Como vocês detectam uma dependência pouco saudável?

12. Saúde mental (novo em 2026)

Os produtos devem detectar sinais de sofrimento, responder em níveis que vão da indicação de ajuda até um alerta de proteção infantil, sempre encaminhar os alunos para ajuda humana e nunca incentivar o segredo.

Pergunte: O que acontece, passo a passo, quando um aluno escreve algo que sugere que ele está em risco? Podemos ver o protocolo?

13. Manipulação (novo em 2026)

Nada de bajulação, falsa confiança, culpa ou pressão; nenhum design que prolongue o uso, empurre opções pagas ou misture publicidade.

Pergunte: Há anúncios, sequências de dias seguidos ou recompensas na experiência do aluno? O aluno vê, em algum momento, convites para fazer upgrade?

Como fazer a verificação em uma tarde

1. Liste todas as ferramentas de IA que os alunos conseguem acessar. Inclua os recursos de IA dentro das ferramentas que vocês já usam, e não apenas os chatbots independentes.
2. Envie as 13 perguntas a cada fornecedor. Um fornecedor confiável deve conseguir responder à maioria delas por escrito em uma semana.
3. Teste você mesmo a visão do aluno. Entre como aluno e tente o que uma criança curiosa de 10 anos tentaria. Registre o que acontece.
4. Classifique cada ferramenta como verde (evidências apresentadas), amarelo (respondeu, mas sem evidências) ou vermelho (sem resposta).
5. Registre o resultado na sua revisão de filtragem e monitoramento, com a aprovação do DSL e do responsável de TI, como o KCSIE espera para a revisão anual.
6. Informe os pais. Uma breve carta aos pais sobre IA em sala de aula fecha o ciclo.

Em seguida, a política de IA da sua escola deve citar as ferramentas aprovadas e quem as revisa.

Onde a Askie for Schools se encaixa

Preferimos que você nos avalie com base nos padrões a que simplesmente acredite na nossa palavra, então veja o que a Askie for Schools faz hoje, nos termos acima:

• Finalidade: uma companheira de IA voltada para alunos de 4 a 15 anos, que responde perguntas e explica conceitos, com respostas adaptadas à idade de cada aluno.
• Filtragem: cada resposta passa por várias camadas de segurança antes de chegar ao aluno.
• Monitoramento: professores e administradores podem ver o histórico de conversas e relatórios de uso.
• Acesso: o professor cadastra cada aluno, e cada aluno recebe um código de acesso individual. As listas de turma podem vir do seu sistema de gestão escolar (MIS) via Wonde, do Google Classroom ou de uma lista colada.
• Dados: a escola continua sendo a controladora dos dados, os dados dos alunos ficam separados por professor, um contrato de processamento de dados está disponível mediante solicitação, e a Askie nunca vende dados nem exibe anúncios. Uma importação via Wonde solicita doze campos e nenhum dado sobre necessidades especiais, saúde ou acompanhamento socioemocional.

Faça as outras perguntas diretamente para askie@kidsai.app; as respostas devem ficar nos seus registros, não no nosso marketing. Você pode começar no plano gratuito com até 20 alunos e conferir a visão do aluno antes que qualquer criança faça login.

Perguntas frequentes

Os padrões de segurança do DfE para produtos de IA generativa são obrigatórios?

Eles foram escritos para fornecedores, e não como uma obrigação legal das escolas. Mas o KCSIE 2026, que é obrigatório, encaminha as escolas a eles no tema de filtragem e monitoramento, então, na prática, uma escola deve ser capaz de mostrar que os levou em conta.

É "expectations" ou "standards"?

Os dois nomes se referem ao mesmo documento. Ele foi publicado em janeiro de 2025 como Generative AI: product safety expectations e hoje se chama Generative AI: product safety standards; sua atualização mais recente foi em janeiro de 2026. O KCSIE 2026 ainda usa o nome anterior.

Isso se aplica a ferramentas de IA usadas apenas por professores?

Alguns padrões (segurança da informação, privacidade, propriedade intelectual, design, governança, manipulação) também se aplicam a ferramentas voltadas para professores. Os padrões de filtragem, monitoramento, desenvolvimento cognitivo, desenvolvimento emocional e saúde mental são para produtos voltados para alunos.

Quem na escola deve ser responsável por isso?

O membro da liderança responsável por filtragem e monitoramento, trabalhando com o DSL e o suporte de TI, como o KCSIE estabelece para a revisão anual. Veja como usar IA com segurança nas escolas para a implementação mais ampla.