Стандарты безопасности генеративного ИИ DfE: чек-лист для школ

Документ Министерства образования Англии (DfE) Generative AI: product safety standards («Генеративный ИИ: стандарты безопасности продуктов») описывает 13 областей, требованиям которых должен отвечать ИИ-продукт для английских школ: от фильтрации и мониторинга до психического здоровья и манипуляций. Он написан для поставщиков, но KCSIE 2026 отсылает к нему школы, когда речь идёт о том, как фильтрация и мониторинг применяются к ИИ. В этом гиде мы кратко излагаем каждый стандарт и превращаем его в вопрос, который ответственный за защиту детей (designated safeguarding lead, DSL) может задать любому поставщику.

Что изменилось и когда

Сегодня защиту детей в связи с ИИ в Англии определяют три документа:

DfE указывает, что стандарты «предназначены для разработчиков образовательных технологий и поставщиков школ и колледжей», а школы «также могут счесть их полезными при оценке того, какие ИИ-продукты безопасны для использования в образовании». На практике это самый полезный чек-лист должной проверки, который есть у школы.

Что говорит KCSIE 2026 об ИИ

KCSIE 2026 не вводит отдельной обязанности, связанной с ИИ. Он встраивает ИИ в уже существующие:

• Риски онлайн-безопасности (пункт 165). Риск «контакта» теперь включает «вредное онлайн-взаимодействие с другими пользователями или с приложениями генеративного ИИ, которые его имитируют». Риск «поведения» включает откровенные изображения, «созданные с помощью ИИ».
• Руководство по использованию (пункты 167–168). Школы, решившие использовать генеративный ИИ для учителей или для учеников, отсылают к руководству DfE по генеративному ИИ и к бесплатным вспомогательным материалам, подготовленным вместе с Chiltern Learning Trust и Chartered College of Teaching. Модуль 3 посвящён защите детей, этике, защите данных и интеллектуальной собственности.
• Фильтрация и мониторинг. Наряду с действующим требованием пересматривать фильтрацию и мониторинг не реже раза в учебный год KCSIE приводит документ DfE о безопасности продуктов, чтобы объяснить, «как требования к фильтрации и мониторингу применяются к использованию генеративного ИИ в образовании».

Практический вывод: ИИ-инструмент для учеников входит в вашу систему фильтрации и мониторинга, и в ежегодном обзоре он должен быть назван.

13 стандартов безопасности генеративного ИИ в виде чек-листа

Для каждого стандарта ниже: краткое изложение из документа DfE в одну строку, затем вопрос поставщику. Просите доказательства (скриншоты, политики, результаты тестов), а не просто «да».

1. Заявленное назначение

Продукты должны указывать своё назначение, целевых учащихся и учебный фокус и «не должны преувеличивать эффект или возможности своих инструментов».

Спросите: Для какого возраста и каких потребностей создан продукт и чем подтверждаются ваши заявления о его эффекте?

2. Образовательные сценарии

Предполагаемый сценарий использования должен быть «понятен всем пользователям, педагогам и покупателям».

Спросите: Это инструмент для учеников, для учителей или для тех и других? Какие функции к чему относятся?

3. Фильтрация (для учеников)

Продукты «должны эффективно и надёжно предотвращать доступ пользователей к вредному или неподходящему контенту» на протяжении всего разговора, на разных языках и в изображениях, а также на личных устройствах.

Спросите: Как применяется фильтрация: один раз или на каждом шаге диалога? Охватывает ли она изображения и другие языки? Работает ли она, когда ученик пользуется инструментом дома?

4. Мониторинг и отчётность (для учеников)

Продукты должны записывать запросы и ответы, оповещать ответственных о вредном контенте или попытках до него добраться, сообщать ученикам понятным по возрасту языком, что что-то заблокировано, и направлять оповещения о высоком риске DSL.

Спросите: Может ли учитель прочитать всю историю разговоров? Кого оповещают, когда происходит что-то тревожное, и как быстро? Куда вводятся контактные данные DSL?

5. Безопасность

Продукты должны противостоять попыткам взлома ограничений (джейлбрейку), позволять администраторам настраивать уровни доступа, использовать надёжную аутентификацию и проверять безопасность новых версий до выпуска.

Спросите: Как вы тестируете защиту от джейлбрейка? Как ученики входят в систему и к чему у ученической учётной записи есть доступ?

6. Конфиденциальность и защита данных

Понятные уведомления о конфиденциальности с учётом возраста; оценка воздействия на защиту данных (DPIA) на протяжении всего жизненного цикла продукта; никакого коммерческого использования персональных данных, включая обучение моделей, без надлежащего правового основания.

Спросите: Можно ли посмотреть вашу DPIA и соглашение об обработке данных? Используются ли данные учеников для обучения моделей? Кто ваши субподрядчики по обработке данных?

7. Интеллектуальная собственность

Работы учеников и учителей нельзя хранить, собирать или использовать в коммерческих целях, в том числе для обучения моделей, без разрешения (для несовершеннолетних его даёт родитель).

Спросите: Используете ли вы работы учеников для обучения или улучшения моделей?

8. Проектирование и тестирование

Продукты должны ставить на первое место прозрачность и безопасность детей и проходить тестирование с разнообразными реальными пользователями, включая детей.

Спросите: С кем вы тестировали продукт? Как вы проверяете, что он справедливо работает для учеников с особыми образовательными потребностями (SEND) или с английским как дополнительным языком?

9. Управление

Ясная оценка рисков, формальный порядок подачи жалоб по вопросам безопасности и публичные политики в отношении решений о безопасности ИИ.

Спросите: Как нам эскалировать проблему безопасности и кто на неё отвечает?

10. Когнитивное развитие (новое в 2026 году)

Поставщики должны «прилагать все усилия, чтобы снизить риск утраты когнитивных навыков», по умолчанию давая постепенные подсказки, а не готовые ответы.

Спросите: Инструмент объясняет и направляет или просто выдаёт ответы? Может ли учитель увидеть, перекладывают ли ученики мышление на ИИ?

11. Эмоциональное и социальное развитие (новое в 2026 году)

Продукты не должны выдавать себя за человека, должны избегать утверждений вроде «Ты можешь мне доверять», должны поддерживать ограничения по времени и следить за эмоциональной зависимостью.

Спросите: Как инструмент объясняет ученикам, что он такое? Какие ограничения по времени может установить учитель? Как вы выявляете нездоровую зависимость?

12. Психическое здоровье (новое в 2026 году)

Продукты должны распознавать признаки дистресса, реагировать поэтапно: от указания, куда обратиться, до сигнала о необходимости защиты ребёнка, всегда направлять учеников к помощи живых людей и никогда не поощрять скрытность.

Спросите: Что происходит, шаг за шагом, когда ученик пишет что-то, что указывает на угрозу для него? Можно ли посмотреть протокол?

13. Манипуляции (новое в 2026 году)

Никакой лести, ложной уверенности, давления на чувство вины или иного давления; никакого дизайна, который затягивает использование, подталкивает к платным опциям или подмешивает рекламу.

Спросите: Есть ли в интерфейсе для учеников реклама, серии достижений или награды? Видит ли ученик когда-нибудь предложения перейти на платный тариф?

Как провести проверку за полдня

1. Составьте список всех ИИ-инструментов, доступных ученикам. Включите ИИ-функции внутри уже используемых инструментов, а не только отдельные чат-боты.
2. Отправьте 13 вопросов каждому поставщику. Добросовестный поставщик должен ответить письменно на большинство из них в течение недели.
3. Проверьте интерфейс ученика сами. Войдите как ученик и попробуйте то, что попробовал бы любопытный 10-летний ребёнок. Запишите, что происходит.
4. Оцените каждый инструмент: зелёный (доказательства предоставлены), жёлтый (ответ есть, доказательств нет) или красный (ответа нет).
5. Зафиксируйте результат в обзоре фильтрации и мониторинга, который подписывают DSL и ответственный за ИТ, как KCSIE ожидает для ежегодного обзора.
6. Сообщите родителям. Короткое письмо родителям об ИИ на уроках замыкает цикл.

Затем в вашей школьной политике по ИИ нужно указать одобренные инструменты и тех, кто их пересматривает.

Где здесь Askie for Schools

Мы предпочитаем, чтобы вы проверили нас по стандартам, а не верили на слово, поэтому вот что Askie for Schools делает сегодня в терминах, описанных выше:

• Назначение: ИИ-компаньон для учеников от 4 до 15 лет, который отвечает на вопросы и объясняет понятия, подстраивая ответы под возраст каждого ученика.
• Фильтрация: каждый ответ проходит несколько уровней защиты, прежде чем попасть к ученику.
• Мониторинг: учителя и администраторы могут просматривать историю разговоров и отчёты об использовании.
• Вход: учитель создаёт каждого ученика, и каждый ученик получает личный код доступа. Списки классов можно загрузить из вашей информационной системы через Wonde, из Google Classroom или вставить списком.
• Данные: школа остаётся контролёром данных, данные учеников разделены по учителям, соглашение об обработке данных доступно по запросу, а Askie никогда не продаёт данные и не показывает рекламу. При импорте через Wonde запрашиваются двенадцать полей и никаких данных об особых образовательных потребностях, здоровье или психологической поддержке.

Остальные вопросы задайте нам напрямую на askie@kidsai.app: ответы должны храниться в ваших документах, а не в нашем маркетинге. Вы можете начать с бесплатного тарифа до 20 учеников и посмотреть интерфейс ученика до того, как в него войдёт хоть один ребёнок.

Частые вопросы

Обязательны ли стандарты безопасности генеративного ИИ от DfE?

Они написаны для поставщиков, а не как обязательное требование к школам. Но KCSIE 2026, который является обязательным, отсылает к ним школы в вопросах фильтрации и мониторинга, так что на практике школа должна быть в состоянии показать, что учла их.

«Expectations» или «standards»?

Оба названия относятся к одному документу. Он был опубликован в январе 2025 года как Generative AI: product safety expectations, а сейчас называется Generative AI: product safety standards; последнее обновление вышло в январе 2026 года. В KCSIE 2026 по-прежнему используется прежнее название.

Относится ли это к ИИ-инструментам только для учителей?

Часть стандартов (безопасность, конфиденциальность, интеллектуальная собственность, проектирование, управление, манипуляции) применяется и к инструментам для учителей. Стандарты по фильтрации, мониторингу, когнитивному и эмоциональному развитию и психическому здоровью относятся к продуктам для учеников.

Кто в школе должен за это отвечать?

Член руководства, отвечающий за фильтрацию и мониторинг, вместе с DSL и ИТ-поддержкой, как KCSIE предписывает для ежегодного обзора. О более широком внедрении читайте в статье как безопасно использовать ИИ в школе.