Что делать, если ИИ сказал ребенку что-то неприемлемое?

Если ИИ сказал ребенку что-то неприемлемое, важнее всего ваша реакция в первые минуты. Дети, которые видят спокойный ответ, продолжают рассказывать родителям о происходящем. Дети, которые видят панику или лишаются приложения в наказание, часто замолкают.

Почему так происходит

ИИ-чат-боты генерируют ответы на ходу, поэтому ни один фильтр не ловит все. Американская академия педиатрии (AAP) предупреждает, что чат-боты могут говорить детям «ложные, вредные, откровенно сексуальные или жестокие вещи», особенно продукты, созданные без учета детей (HealthyChildren.org). Даже Google признает, что его фильтры для детских аккаунтов Gemini «несовершенны» (Google). Бывает и так, что ребенок, часто из любопытства, сам завел разговор в эту сторону.

Пошаговый план

1. Сохраняйте спокойствие и поблагодарите ребенка. «Спасибо, что показал мне. Ты поступил совершенно правильно». Говорите так, даже если он сам это искал.
2. Выясните, что произошло. Задавайте открытые вопросы: «О чем вы говорили до того, как он это сказал? Что ты почувствовал?»
3. Сохраните доказательства. Сделайте скриншот разговора или запишите дату, приложение и что было сказано, пока ничего не удалилось.
4. Сообщите компании. Воспользуйтесь кнопкой жалобы или «палец вниз» в приложении, а в серьезных случаях обратитесь в службу безопасности компании. Жалобы помогают исправить проблему и для других детей.
5. Скорректируйте доступ. Ужесточите настройки, включите родительский контроль или приостановите использование приложения, пока принимаете решение. Объясните это как меру безопасности, а не наказание.
6. Объясните, почему это было неправильно, на понятном ребенку уровне:
   • 4–7 лет: «Этот компьютер ошибся и сказал то, что не для детей. Ты ни в чем не виноват».
   • 8–12 лет: «ИИ повторяет закономерности из интернета, а в интернете не все нормально. Он не отличает хорошее от плохого так, как люди».
   • Подростки: честно поговорите о том, как работает ИИ, что они увидели и что сделают в следующий раз.
7. Вернитесь к разговору. Через несколько дней спросите, не думает ли ребенок об этом до сих пор. Обращайте внимание на кошмары, тревогу или необычную скрытность.

Когда обращаться выше

Некоторые ситуации требуют большего, чем жалоба в приложении:

• Сексуальный контент с участием ребенка или попытки связаться с ним или склонить его к чему-то: сообщите в NCMEC CyberTipline в США или в CEOP в Великобритании.
• Контент о самоповреждении или суициде либо ребенок, по-видимому, в опасности: обратитесь к врачу ребенка. В кризисной ситуации звоните в местную службу экстренной помощи, на линию 988 в США или в Childline (0800 1111) в Великобритании.
• Угрозы или опасные челленджи: закройте доступ и поговорите со школой, если это может затронуть других детей.

Как не допустить повторения

• Выбирайте приложения с рейтингом для возраста вашего ребенка и проверяйте условия. Многие универсальные чат-боты требуют, чтобы пользователю было не меньше 13 лет (см. возрастные правила ChatGPT).
• С младшими детьми пользуйтесь ИИ в общих комнатах.
• Отдавайте предпочтение сервисам, где можно просматривать разговоры, чтобы выявление проблем не зависело от того, расскажет ли ребенок.
• Договоритесь о семейном правиле: «Если что-то в интернете кажется странным, ты говоришь мне, и тебе за это ничего не будет».

Как к этому подходит Askie

Askie использует многоуровневую фильтрацию и ответы, адаптированные к возрасту, родители могут просматривать расшифровки разговоров и созданные рисунки, а функция оповещения о безопасности (ее можно отключить) может предупредить взрослых, если разговор указывает на серьезную проблему в реальной жизни. Идеальных фильтров не бывает, поэтому так важно, чтобы родители видели происходящее. Наша методология безопасности объясняет, как все устроено, включая известные ограничения, а в руководстве для родителей по безопасности ИИ описана более широкая картина.