Методика и доказательства безопасности
Askie сочетает в себе проверку входных данных с учетом возраста, модерацию на стороне сервера с проверкой подлинности, элементы управления безопасностью поставщика, фильтрацию ответов, элементы управления конфиденциальностью и проверку родителями. Ни один фильтр не может сделать генеративный ИИ безопасным, поэтому на этой странице объясняется, что делает поставляемая система, что контролируют родители и каковы ее ограничения.
Короткий ответ
Запрос ребенка проверяется до того, как попадет в модель. Средства защиты поставщика работают во время генерации, а Askie проверяет полный ответ после ее завершения. В потоковом чате отдельные части текста могут появиться до этой окончательной проверки. Голосовые разговоры идут по отдельному пути реального времени со своими уровнями защиты. Возраст, отправленный с запросом, определяет правила и инструкции; сервер проверяет допустимый диапазон и принадлежность профиля ребенка учетной записи, но сейчас не заменяет это значение возрастом из сохраненного профиля. Семья управляет историей, профилями, памятью и уведомлениями, а отдельная функция предупреждений, если Askie ее включила, может сообщить о некоторых серьезных проблемах в реальной жизни. Эти механизмы снижают риск, но не гарантируют обнаружение каждого неподходящего или неточного ответа.
Работающая архитектура
Серверная часть - это авторитетная граница безопасности для текстовых запросов и инструкций для создания изображений на iOS, Android и в веб-версии. Проверки в приложении не дают отправить заведомо некорректный ввод, но сервер им не доверяет и сам выполняет проверки безопасности. Загруженные фотографии и голосовые разговоры идут по отдельным путям, описанным ниже.
Все приложения ограничивают ввод перед отправкой: iOS, Android и веб-версия отклоняют пустой ввод и соблюдают одинаковое ограничение длины. Ни одно из них не решает, безопасно ли содержимое. Многоуровневая фильтрация Askie работает на сервере для каждого текстового запроса и каждой инструкции для создания изображения, из какого бы приложения они ни пришли.
Запросы проходят аутентификацию, ограничение частоты, проверку диапазона переданного возраста, проверку структуры содержимого и выявление попыток внедрить инструкции до того, как фильтр безопасности Askie оценит текст. Если указан идентификатор ребенка, сервер подтверждает, что профиль принадлежит аутентифицированной учетной записи.
Возраст, отправленный с запросом, определяет инструкции, правила ключевых слов и настройки безопасности поставщика. Приложения Askie обычно берут его из выбранного профиля ребенка. Сервер проверяет допустимый диапазон, но сейчас не заменяет это значение возрастом из сохраненного профиля.
Средства защиты поставщика могут остановить генерацию во время передачи текста. После генерации Askie проверяет полный текст по правилам с учетом возраста и при неудачной проверке возвращает понятное ребенку сообщение об ошибке. Поскольку чат передает текст частями, эти части могут появиться до проверки полного ответа.
Инструкции для создания изображений проходят общие проверки ввода и специальный список запрещенных тем. Отказы и оценки безопасности Gemini обрабатываются как заблокированные генерации и не показываются ребенку. Для загруженных фотографий проверяются поддерживаемый тип, наличие файла и размер, после чего Gemini обрабатывает визуальное содержимое. Askie не выполняет на сервере отдельную проверку пикселей этих фотографий.
Некоторые пути серверного журналирования используют утилиты, которые маскируют адреса электронной почты, идентификаторы пользователей, токены, IP-адреса, номера телефонов, ссылки, имена в соцсетях, почтовые адреса и индексы в выбранных структурированных и текстовых полях. Текстовый фильтр безопасности и модуль проверки запросов на изображения записывают короткое поле contentPreview заблокированного содержимого, и эти фрагменты сейчас не проходят через средство удаления персональных данных из свободного текста.
Голосовой разговор идет по соединению реального времени с голосовым агентом Askie, а не по текстовому пути запросов, поэтому у него свои уровни защиты: детские инструкции безопасности с учетом возраста, которые сервер формирует для каждой сессии, формулировки, предписывающие модели считать тему и перенесенный текст чата данными, а не инструкциями, собственные механизмы поставщика для реального времени и, если функция предупреждений включена, разбор расшифровки разговора после его завершения. Изображения, запрошенные во время звонка, по-прежнему создаются через сервер и проходят те же проверки изображений.
Askie предназначен для детей от 3 до 15 лет. При обычном использовании приложение отправляет возраст выбранного ребенка, чтобы адаптировать объяснения и модерацию. Для безопасности текстового чата сервер сейчас использует возраст из запроса после проверки диапазона, а не загружает его заново из сохраненного профиля ребенка.
Родительский контроль
Родительский аккаунт владеет профилем ребенка. Чувствительные настройки и история скрыты за элементами управления доступом для взрослых, а панель мониторинга обеспечивает практические элементы управления, которые не может обеспечить сама по себе фильтрация контента.
Внимание к безопасности
Родительская лента есть во всех клиентах. В приложении для iOS также есть настройка получения предупреждений о безопасности по электронной почте. Создание предупреждений включается для каждой среды отдельно и работает не везде. Там, где оно включено, модель может подать структурированное уведомление во время текстового чата, если разговор указывает на среднюю или серьезную проблему в реальной жизни, а голосовые разговоры просматриваются после завершения сеанса. Askie сохраняет короткую тему и контекст, доступные для чтения родителями, а затем может уведомить каждого взрослого в семейной учетной записи посредством push-уведомлений и электронной почты. Повторные оповещения для одного и того же ребенка отключаются на время паузы, в то время как уведомление остается в родительской ленте.
Предупреждение - это не экстренный мониторинг, медицинская консультация или отчет властям. Он может пропустить проблему или неправильно ее классифицировать. Родители не должны полагаться на это как на единственный способ узнать, нужна ли ребенку помощь.
Конфиденциальность и данные
Политика конфиденциальности Askie объясняет, какие данные обрабатываются, зачем они нужны, какие поставщики участвуют и как семья может просмотреть или удалить данные. При первоначальной настройке веб-версии показывается уведомление об обработке данных с помощью ИИ и запрашивается явное согласие перед необязательным знакомством с Askie. Текущий путь запросов веб-чата не использует этот сохраненный выбор как обязательное разрешение для каждого запроса.
Серверная часть предоставляет средства маскирования распространенных идентификаторов и контактных данных в выбранных полях журнала. Когда текстовый фильтр безопасности или модуль проверки запросов на изображения блокирует содержимое, каждый из них записывает короткое поле contentPreview этого содержимого, и эти фрагменты сейчас не проходят через средство удаления персональных данных из свободного текста. Поэтому это ограниченный защитный слой, а не утверждение, что журналы не могут содержать личную информацию.
Askie не использует запросы, голос, изображения или данные профиля ребенка для создания маркетингового контента. Продукт не содержит рекламы, и Askie не продает данные детей. В веб-версии, если взрослый ранее принял аналитические файлы cookie, рабочая область сейчас отправляет события активности TextQuery, ImageQuery и VoiceQuery в рекламный пиксель Meta.
Обработка инцидентов
Askie обрабатывает разные сигналы безопасности по разным путям. Проверки ввода и средства защиты поставщика могут остановить содержимое до начала генерации или во время нее. Проверка полного ответа может сообщить о проблеме после того, как передаваемый частями текст уже начал появляться. Последующие пути дают семье и команде контекст для действий, не считая автоматическую оценку бесспорной.
Если ввод, запрос изображения или результат поставщика не проходит проверку, ребенок получает нейтральный отказ или более подходящую альтернативу. Если полный текстовый ответ не проходит проверку Askie после генерации, сообщение об ошибке возвращается после того, как передача текста уже могла начаться.
Там, где функция предупреждений включена, некоторые средние или серьезные проблемы в реальной жизни вызывают уведомление для родителей, а также push-уведомление и письмо по мере возможности.
Приложение для Android позволяет семьям сообщать о неприемлемом, неточном, не подходящем по возрасту или низкокачественном контенте. У каждого обращения есть статус рассмотрения. Семьи на iOS и в веб-версии обращаются в службу поддержки.
Тестирование и проверки методом red team
Автоматизированные тесты Askie проверяют строки с внедрением инструкций, формулировки для обхода ограничений, возрастные границы, явные запросы изображений, пороги безопасности поставщика, пороги родительских предупреждений, поведение паузы между уведомлениями и маскирование персональных данных. Инцидент безопасности в рабочей среде можно превратить в точечный регрессионный тест, если поведение воспроизводимо.
Текущие тесты охватывают обе стороны границы: вредные запросы, которые необходимо блокировать, и правомерные запросы о здоровье, анатомии, художественных сюжетах и переживаниях, которые все равно должны получить ответ, соответствующий возрасту.
Это внутренняя практика состязательного тестирования на уровне кода. Askie не представляет это как независимый аудит безопасности детей, тест на проникновение, сертификацию COPPA Safe Harbor или доказательство того, что систему невозможно обойти.
Известные ограничения
Генеративный ИИ является вероятностным. Опубликование границ является частью метода обеспечения безопасности, поскольку родителям необходимо знать, где надзор и суждения по-прежнему имеют значение.
Позиция по COPPA
В политике конфиденциальности Askie для потребителей и опубликованных текстах магазинов указано, что Askie соответствует требованиям COPPA. Эта страница сообщает о заявленной позиции, а не является независимым юридическим аудитом. Реализованные меры включают минимизацию данных, доступ и удаление со стороны семьи, ограничения хранения, отсутствие рекламы для детей и запрет продажи детских данных; поведение и ограничение согласия в веб-версии описаны выше.
Проект или практика соответствуют принципам COPPA, таким как согласие родителей и минимизация данных. Сама по себе эта фраза не является юридическим заключением.
Это заявленная правовая позиция компании Askie в отношении потребительских товаров, подкрепленная ее опубликованной политикой и операционными средствами контроля. Это остается собственным заявлением о соответствии компании Askie.
Это означает, что указанная независимая схема провела аудит и сертификацию услуги. На этой странице компания Askie не претендует на получение специального сертификата COPPA Safe Harbor.
Пятизвездочный сертификат Educational App Store и премия NAPPA Award 2026, полученная Askie, – это независимые оценки продукта. Это признание продукта, а не юридические сертификаты COPPA.
Доказательная база
Эта страница была проверена на соответствие путям производственного кода и общедоступной политике конфиденциальности, перечисленным ниже. Имена файлов включены, чтобы специалисты по проектированию и безопасности могли отследить утверждение до компонента, который его обеспечивает.
Прямые ответы
Askie предназначен для детей от 3 до 15 лет и использует несколько контрольных точек безопасности до и после создания текста, а также родительский контроль. Ни одна система генеративного ИИ не лишена риска, поэтому родителям следует следить за использованием, точно указывать возраст ребенка и относиться к Askie как к инструменту обучения, а не как к авторитетному источнику для важных решений.
Никто не читает каждый разговор. Автоматизированные системы обрабатывают запросы для генерации и фильтрации ответов. История разговоров сохраняется на устройстве, если не включена облачная синхронизация. Родитель может просматривать синхронизированную историю, а отправленные отчеты о содержании предоставляют конкретный снимок для проверки человеком.
Там, где Askie ее включила, функция может создать личное уведомление для взрослых в семейной учетной записи, когда текстовый чат или завершенный голосовой разговор указывает на среднюю или серьезную проблему в реальной жизни. Родительская лента есть во всех клиентах, а в приложении для iOS есть настройка получения предупреждений о безопасности по электронной почте. Это сигнал «максимальных усилий», а не аварийный мониторинг, и он может пропустить или неправильно классифицировать проблему.
Компания Askie заявляет, что ее потребительский продукт соответствует требованиям COPPA, но на этой странице не претендует на получение специального сертификата COPPA Safe Harbor. Сертификация 5 звезд в образовательном магазине приложений и награда NAPPA являются оценкой продукта, а не юридическими сертификатами COPPA.
Продукт не содержит рекламы, Askie не продает данные детей и не использует запросы, голос, изображения или данные профиля ребенка для создания маркетингового контента. В веб-версии, если взрослый ранее принял аналитические файлы cookie, рабочая область все же отправляет события активности TextQuery, ImageQuery и VoiceQuery в рекламный пиксель Meta.
Вопросы или замечания
Чтобы сообщить о проблеме безопасности, задать вопрос о праве на данные или оспорить заявление на этой странице, обратитесь в службу поддержки Askie. В случае возникновения чрезвычайной ситуации свяжитесь с местными службами экстренной помощи.