Metodologia e evidências de segurança
Askie combina verificações de entrada com reconhecimento de idade, moderação autenticada do lado do servidor, controles de segurança do provedor, filtragem de respostas, controles de privacidade e revisão dos pais. Nenhum filtro pode tornar a IA generativa livre de riscos, portanto, esta página explica o que o sistema fornecido faz, o que os pais controlam e onde estão seus limites.
Resposta curta
A solicitação de uma criança é verificada antes de chegar ao modelo. Os controles do provedor atuam durante a geração, e o filtro da Askie para a resposta completa é executado depois da geração. No chat com transmissão contínua, trechos do texto podem aparecer antes dessa verificação final. As conversas de voz seguem um caminho em tempo real separado, com camadas de segurança próprias. A idade enviada com a solicitação altera as regras e instruções usadas; o servidor valida o intervalo e se o perfil da criança pertence à conta, mas atualmente não substitui esse valor pela idade salva no perfil. A família controla o histórico, os perfis, a memória e as notificações, enquanto um recurso de alerta separado, onde a Askie o mantém ativado, pode sinalizar algumas preocupações sérias da vida real. Esses mecanismos reduzem o risco; eles não garantem que todas as respostas inadequadas ou imprecisas serão detectadas.
Arquitetura em produção
O back-end é o limite de segurança oficial para pedidos de texto e prompts de geração de imagem no iOS, Android e na web. As verificações do cliente impedem o envio de entradas claramente inválidas, mas o servidor não confia nelas e executa ele mesmo as verificações de segurança. Fotos enviadas e conversas de voz seguem caminhos separados, descritos mais adiante.
Todos os clientes restringem a entrada antes de enviar: iOS, Android e web rejeitam entrada vazia e respeitam o mesmo limite de comprimento. Nenhum deles decide se o conteúdo é seguro. A filtragem em várias camadas da Askie roda no servidor em cada pedido de texto e prompt de geração de imagem, seja qual for o cliente que o enviou.
As solicitações passam por autenticação, limites de uso, validação do intervalo da idade informada, verificações da estrutura do conteúdo e detecção de injeção de prompt antes de o filtro de segurança da Askie avaliar o texto. Quando há um ID de criança, o servidor confirma que o perfil pertence à conta autenticada.
A idade enviada com a solicitação seleciona as instruções, as regras de palavras-chave e as configurações de segurança do provedor. Os aplicativos da Askie normalmente usam a idade do perfil de criança selecionado. O servidor valida o intervalo, mas atualmente não substitui esse valor pela idade salva no perfil.
Os controles do provedor podem interromper a geração enquanto o texto é transmitido. O filtro da Askie após a geração verifica a resposta completa com regras adequadas à idade e retorna um erro amigável para a criança quando ela não passa. Como o chat envia trechos do texto continuamente, eles podem aparecer antes da verificação da resposta completa.
Os prompts para gerar imagens passam pelas verificações gerais de entrada e por uma lista de bloqueio dedicada. As recusas e classificações de segurança do Gemini são tratadas como gerações bloqueadas, sem serem mostradas à criança. Fotos enviadas são verificadas quanto ao formato aceito, presença e tamanho; depois, o Gemini analisa o conteúdo visual. A Askie não faz uma verificação separada dos pixels dessas fotos no servidor.
Alguns caminhos de registro do servidor usam utilitários que mascaram e-mails, IDs de usuário, tokens, endereços IP, números de telefone, links, identificadores sociais, endereços e códigos postais em campos estruturados e de texto livre selecionados. O filtro de segurança de texto e o validador de pedidos de imagem registram, cada um, um breve campo contentPreview do conteúdo que bloqueiam, e essas prévias não passam atualmente pelo redator de PII de texto livre.
Uma conversa por voz acontece por uma conexão em tempo real com o agente de voz da Askie, e não pelo caminho dos pedidos de texto, por isso tem camadas de segurança próprias: as instruções de segurança infantil conforme a idade que o back-end monta para cada sessão, uma redação que orienta o modelo a tratar o tema e o texto de conversa retomado como dados e não como instruções, os controles em tempo real do provedor e, onde o recurso de alerta está ativado, uma revisão da transcrição depois que a chamada termina. As imagens pedidas durante uma chamada continuam sendo geradas pelo back-end, então passam pelas mesmas verificações de imagem.
A Askie atende crianças de 3 a 15 anos. No uso normal do aplicativo, o dispositivo envia a idade da criança selecionada para adaptar as explicações e a moderação. Para a segurança do chat em texto, o servidor atualmente usa a idade informada na solicitação após validar o intervalo, em vez de recarregar a idade salva no perfil da criança.
Controles parentais
A conta dos pais é proprietária do perfil da criança. Configurações confidenciais e histórico ficam por trás dos controles de acesso de adultos, e o painel fornece os controles práticos que a filtragem de conteúdo por si só não pode fornecer.
Alerta de segurança
O feed dos pais está presente em todos os clientes. O app para iOS também oferece a configuração de e-mail do alerta de segurança. A geração de alertas é ativada por implantação, não ficando ativa em todos os lugares. Onde está ativa, o modelo pode gerar um aviso estruturado durante o bate-papo por texto quando uma conversa sugere uma preocupação média ou alta na vida real, e as conversas de voz são revisadas após o término da sessão. Askie armazena um breve tópico e contexto legível pelos pais e, em seguida, pode notificar cada adulto na conta da família por push e e-mail. Alertas repetidos para a mesma criança são silenciados por um período de espera, enquanto o aviso permanece no feed dos pais.
Um alerta não é monitoramento de emergência, aconselhamento médico ou relatório às autoridades. Ele pode ignorar uma preocupação ou classificá-la incorretamente. Os pais não devem confiar nisso como a única maneira de saber se uma criança precisa de ajuda.
Privacidade e dados
A política de privacidade da Askie explica o que é processado, por que isso é necessário, quais provedores estão envolvidos e como a família pode revisar ou excluir os dados. A configuração inicial na web mostra o aviso sobre o processamento de dados por IA e pede consentimento explícito antes da sessão opcional Conheça a Askie. O caminho atual das solicitações do chat na web não usa essa escolha salva como uma autorização obrigatória para cada solicitação.
O back-end oferece utilitários de ocultação para identificadores e dados de contato comuns em campos de registro selecionados. Quando o filtro de segurança de texto ou o validador de pedidos de imagem bloqueia um conteúdo, cada um registra um breve campo contentPreview dele, e essas prévias não passam atualmente pelo redator de PII de texto livre; portanto, essa é uma camada defensiva com limites, não uma afirmação de que os registros não possam conter informações pessoais.
Askie não usa as solicitações, a voz, as imagens nem os dados de perfil de uma criança para criar conteúdo de marketing. O produto não contém anúncios e Askie não vende dados de crianças. Na web, quando um adulto já aceitou os cookies de análise, o espaço de trabalho envia atualmente os eventos de atividade TextQuery, ImageQuery e VoiceQuery ao pixel de publicidade da Meta.
Tratamento de incidentes
A Askie trata sinais de segurança diferentes por caminhos diferentes. As verificações de entrada e os controles do provedor podem interromper o conteúdo antes ou durante a geração. A verificação da resposta completa pode indicar uma falha depois que o texto transmitido começou a aparecer. Os caminhos de acompanhamento dão à família e à equipe contexto para agir sem tratar uma avaliação automática como certeza.
Quando uma entrada, solicitação de imagem ou resultado do provedor não passa em uma verificação, a criança recebe uma recusa neutra ou uma alternativa mais segura. Uma resposta em texto completa que não passa na verificação após a geração retorna um erro depois que a transmissão pode já ter começado.
Onde o recurso de alerta está ativado, algumas preocupações médias ou altas da vida real criam um aviso voltado para os pais e um alerta push e por e-mail de melhor esforço.
O app Android permite que as famílias denunciem conteúdo impróprio, impreciso, inadequado para a idade ou de baixa qualidade. As denúncias recebem um status de revisão. As famílias no iOS e na web entram em contato com o suporte.
Testes e exercícios de red team
As suítes automatizadas do Askie exercitam cadeias de injeção de instruções, linguagem de jailbreak, limites de idade, pedidos de imagem explícitos, limites de segurança do provedor, limites de alerta aos pais, o comportamento do período de espera e a ocultação de dados pessoais. Um incidente de segurança em produção pode ser convertido em um caso de regressão específico quando o comportamento for reproduzível.
Os testes atuais cobrem ambos os lados da fronteira: avisos prejudiciais que devem ser bloqueados e avisos legítimos de saúde, anatomia, ficção e divulgação emocional que ainda devem alcançar uma resposta apropriada à idade.
Esta é uma prática interna de teste adversário em nível de código. Askie não o apresenta como uma auditoria independente de segurança infantil, teste de penetração, certificação COPPA Safe Harbor ou prova de que o sistema não pode ser contornado.
Limitações conhecidas
A IA generativa é probabilística. Publicar os limites faz parte do método de segurança, porque os pais precisam saber onde a supervisão e o julgamento ainda são importantes.
Posição sobre a COPPA
A política de privacidade para consumidores da Askie e os materiais publicados nas lojas afirmam que a Askie está em conformidade com a COPPA. Esta página relata essa posição declarada, não uma auditoria jurídica independente. Os controles implementados incluem minimização de dados, acesso e exclusão pela família, limites de retenção, ausência de publicidade voltada a crianças e nenhuma venda de dados infantis; o comportamento e a limitação do consentimento na web estão descritos acima.
Um projeto ou prática segue os princípios da COPPA, como consentimento dos pais e minimização de dados. A frase por si só não é uma conclusão jurídica.
Esta é a postura legal declarada da Askie para o produto de consumo, apoiada por sua política publicada e controles operacionais. Continua sendo a declaração de conformidade do próprio Askie.
Isso significa que um esquema independente nomeado auditou e certificou o serviço. Askie não reivindica uma certificação COPPA Safe Harbor dedicada nesta página.
A certificação 5 estrelas da Educational App Store e o Prêmio NAPPA 2026 da Askie são avaliações independentes de produtos. São o reconhecimento do produto, não as certificações legais da COPPA.
Base de evidências
Esta página foi revisada em relação aos caminhos do código de produção e à política de privacidade pública listados abaixo. Os nomes dos arquivos são incluídos para que os revisores de engenharia e segurança possam rastrear uma declaração até o componente que a aplica.
Respostas diretas
Askie foi projetado para crianças de 3 a 15 anos e usa vários pontos de verificação de segurança antes e depois da geração de texto, além de controles dos pais. Nenhum sistema de IA generativo está isento de riscos, portanto, os pais ainda devem revisar o uso, manter a idade da criança precisa e tratar o Askie como uma ferramenta de aprendizagem, em vez de uma autoridade para decisões de alto risco.
Ninguém lê todas as conversas. Sistemas automatizados processam solicitações para gerar e filtrar respostas. O histórico de conversas permanece no dispositivo, a menos que o Cloud Sync esteja ativado. Os pais podem revisar o histórico sincronizado, e os relatórios de conteúdo enviados fornecem um instantâneo específico para revisão humana.
Onde a Askie o mantém ativado, ele pode criar um aviso privado para os adultos em uma conta familiar quando um bate-papo por texto ou uma conversa de voz completa sugerir uma preocupação média ou alta na vida real. O feed dos pais está presente em todos os clientes, e o app para iOS oferece a configuração de e-mail do alerta de segurança. É um sinal de melhor esforço, não um monitoramento de emergência, e pode ignorar ou classificar incorretamente uma preocupação.
Askie afirma que seu produto de consumo é compatível com COPPA, mas não reivindica uma certificação COPPA Safe Harbor dedicada nesta página. Sua certificação 5 estrelas da App Store Educacional e o Prêmio NAPPA são avaliações de produtos, não certificações legais da COPPA.
O produto não contém anúncios, Askie não vende dados de crianças e não usa as solicitações, a voz, as imagens nem os dados de perfil de uma criança para criar conteúdo de marketing. Na web, quando um adulto já aceitou os cookies de análise, o espaço de trabalho envia sim os eventos de atividade TextQuery, ImageQuery e VoiceQuery ao pixel de publicidade da Meta.
Dúvidas ou preocupações
Para relatar uma preocupação de segurança, perguntar sobre direitos de dados ou contestar uma declaração nesta página, entre em contato com a equipe de suporte da Askie. Para uma emergência imediata, entre em contato com os serviços de emergência locais.