Sicherheitsmethodik und Nachweise
Askie kombiniert altersbezogene Eingabeprüfungen, authentifizierte serverseitige Moderation, Anbietersicherheitskontrollen, Antwortfilterung, Datenschutzkontrollen und Elternüberprüfung. Kein Filter kann generative KI risikofrei machen, daher erklärt diese Seite, was das ausgelieferte System macht, was Eltern kontrollieren und wo seine Grenzen liegen.
Kurze Antwort
Die Anfrage eines Kindes wird geprüft, bevor sie das Modell erreicht. Die Schutzmechanismen des Anbieters wirken während der Erzeugung, und Askies Prüfung der vollständigen Antwort läuft danach. Bei der laufenden Textübertragung können Abschnitte bereits erscheinen, bevor diese letzte Prüfung stattfindet. Sprachgespräche laufen über einen eigenen Echtzeitpfad mit eigenen Sicherheitsebenen. Das mit der Anfrage gesendete Alter bestimmt Regeln und Anweisungen; der Server prüft den zulässigen Bereich und die Zugehörigkeit des Kinderprofils, ersetzt den Wert derzeit aber nicht durch das im Profil gespeicherte Alter. Eltern verwalten Verlauf, Profile, Erinnerungen und Benachrichtigungen. Eine separate Hinweisfunktion kann, sofern Askie sie aktiviert hat, auf einige ernste Sorgen aus dem wirklichen Leben aufmerksam machen. Diese Mechanismen verringern Risiken, garantieren aber nicht, dass jede problematische oder ungenaue Antwort erkannt wird.
Architektur im Produktivbetrieb
Das Backend ist die maßgebliche Sicherheitsgrenze für Textanfragen und Prompts zur Bilderzeugung auf iOS, Android und im Web. Client-Prüfungen verhindern, dass offensichtlich ungültige Eingaben gesendet werden, aber der Server vertraut ihnen nicht und führt die Sicherheitsprüfungen selbst durch. Hochgeladene Fotos und Sprachgespräche folgen eigenen Pfaden, die weiter unten beschrieben werden.
Alle Clients beschränken die Eingabe vor dem Senden: iOS, Android und das Web lehnen leere Eingaben ab und halten dieselbe Längenbegrenzung ein. Keiner von ihnen entscheidet, ob ein Inhalt sicher ist. Askies mehrstufige Filterung läuft serverseitig bei jeder Textanfrage und jedem Prompt zur Bilderzeugung, unabhängig vom sendenden Client.
Anfragen durchlaufen Authentifizierung, Ratenbegrenzungen, eine Bereichsprüfung des angegebenen Alters, Prüfungen der Inhaltsstruktur und Schutz vor Prompt-Injection, bevor Askies Sicherheitsfilter den Text bewertet. Wenn eine Kinder-ID vorliegt, bestätigt der Server, dass das Profil zum angemeldeten Konto gehört.
Das mit der Anfrage gesendete Alter bestimmt Anweisungen, Schlüsselwortregeln und Sicherheitseinstellungen des Anbieters. Askies Apps übernehmen es normalerweise aus dem ausgewählten Kinderprofil. Der Server prüft den zulässigen Bereich, ersetzt den Wert derzeit aber nicht durch das im Profil gespeicherte Alter.
Die Schutzmechanismen des Anbieters können die Erzeugung während der Übertragung stoppen. Askies altersabhängiger Filter nach der Erzeugung prüft den vollständigen Text und gibt bei einem Fehler eine kindgerechte Meldung zurück. Weil Textabschnitte laufend an die App gesendet werden, können sie schon vor der Prüfung der vollständigen Antwort erscheinen.
Prompts zur Bilderzeugung durchlaufen die allgemeinen Eingabeprüfungen und eine eigene Sperrliste. Ablehnungen und Sicherheitsbewertungen von Gemini werden als blockierte Generierungen behandelt und nicht dem Kind angezeigt. Hochgeladene Fotos werden auf unterstützten Typ, Vorhandensein und Größe geprüft; anschließend verarbeitet Gemini den Bildinhalt. Askie führt auf diesen Fotos keinen eigenen serverseitigen Pixel-Inhaltsscan durch.
Einige Serverprotokollierungspfade verwenden Hilfsfunktionen, die E-Mails, Benutzer-IDs, Tokens, IP-Adressen, Telefonnummern, Links, soziale Netzwerknamen, Straßenadressen und Postleitzahlen in ausgewählten strukturierten und Freitextfeldern maskieren. Der Textsicherheitsfilter und der Prüfer für Bildanfragen protokollieren jeweils eine kurze contentPreview der blockierten Inhalte, und diese Vorschauen werden derzeit nicht durch den PII-Redaktor für Freitext geleitet.
Ein Sprachgespräch läuft über eine Echtzeitverbindung zu Askies Sprachagenten statt über den Textanfragepfad und hat deshalb eigene Sicherheitsebenen: die altersgerechten Kindersicherheitsanweisungen, die das Backend für jede Sitzung erstellt, eine Formulierung, die dem Modell sagt, Themenangaben und wiedergegebenen Chattext als Daten und nicht als Anweisungen zu behandeln, die Echtzeitkontrollen des Anbieters und, sofern die Hinweisfunktion aktiviert ist, eine Durchsicht des Gesprächsprotokolls nach Ende des Anrufs. Während eines Gesprächs angeforderte Bilder entstehen weiterhin über das Backend und durchlaufen dieselben Bildprüfungen.
Askie richtet sich an Kinder von 3 bis 15 Jahren. Bei normaler Nutzung sendet die App das Alter des ausgewählten Kindes, um Erklärungen und Moderation anzupassen. Für die Textsicherheit verwendet der Server derzeit nach einer Bereichsprüfung das in der Anfrage enthaltene Alter, statt es erneut aus dem gespeicherten Kinderprofil zu laden.
Elternkontrollen
Das Elternkonto verwaltet das Kinderprofil. Sensible Einstellungen und der Verlauf liegen hinter den Zugriffskontrollen für Erwachsene, und das Dashboard bietet praktische Kontrollen, die die Inhaltsfilterung allein nicht bieten kann.
Sicherheitshinweise
Der Eltern-Feed ist auf allen Clients verfügbar. In der iOS-App gibt es außerdem die E-Mail-Einstellung für Sicherheits-Hinweise. Das Erzeugen von Hinweisen wird pro Bereitstellung aktiviert und ist nicht überall aktiv. Wo es aktiv ist, kann das Modell während eines Text-Chats eine strukturierte Mitteilung erstellen, wenn ein Gespräch auf ein mittleres oder großes reales Problem hindeutet, und Sprachgespräche werden nach Ende der Sitzung überprüft. Askie speichert ein kurzes, für Eltern lesbares Thema und einen Kontext und kann dann jeden Erwachsenen im Familienkonto per Push und E-Mail benachrichtigen. Wiederholte Benachrichtigungen für dasselbe Kind werden für eine Abklingzeit stummgeschaltet, während die Benachrichtigung im Eltern-Feed verbleibt.
Bei einer Vorwarnung handelt es sich nicht um eine Notfallüberwachung, einen medizinischen Rat oder einen Bericht an die Behörden. Es kann passieren, dass ein Anliegen übersehen oder falsch klassifiziert wird. Eltern sollten sich nicht darauf verlassen, dass dies die einzige Möglichkeit ist, herauszufinden, ob ein Kind Hilfe benötigt.
Datenschutz und Daten
Askies Datenschutzrichtlinie erklärt, welche Daten verarbeitet werden, warum sie benötigt werden, welche Anbieter beteiligt sind und wie Eltern sie einsehen oder löschen können. Bei der Web-Einrichtung wird der Hinweis zur KI-Datenverarbeitung angezeigt und vor der optionalen Sitzung zum Kennenlernen von Askie ausdrücklich um Zustimmung gebeten. Der aktuelle Anfrageweg des Web-Chats verwendet diese gespeicherte Auswahl nicht als Freigabe für jede einzelne Anfrage.
Das Backend bietet Hilfsfunktionen zum Maskieren gängiger Kennungen und Kontaktdaten in ausgewählten Protokollfeldern. Wenn der Textsicherheitsfilter oder der Prüfer für Bildanfragen Inhalte blockiert, protokolliert er jeweils eine kurze contentPreview davon, und diese Vorschauen werden derzeit nicht durch den PII-Redaktor für Freitext geleitet. Es handelt sich daher um eine begrenzte Schutzschicht und nicht um die Behauptung, dass Protokolle keine personenbezogenen Daten enthalten können.
Askie verwendet die Eingaben, Stimme, Bilder oder Profildaten eines Kindes nicht, um Marketinginhalte zu erstellen. Das Produkt enthält keine Werbung und Askie verkauft keine Kinderdaten. Wenn ein Erwachsener zuvor Analyse-Cookies akzeptiert hat, sendet der Web-Arbeitsbereich derzeit die Aktivitätsereignisse TextQuery, ImageQuery und VoiceQuery an das Werbe-Pixel von Meta.
Vorfallbehandlung
Askie verarbeitet verschiedene Sicherheitssignale über unterschiedliche Wege. Eingabeprüfungen und Schutzmechanismen des Anbieters können Inhalte vor oder während der Erzeugung stoppen. Die Prüfung der vollständigen Antwort kann einen Fehler melden, nachdem die laufend übertragene Antwort bereits zu erscheinen begonnen hat. Die anschließenden Wege geben Eltern und dem Team Kontext zum Handeln, ohne eine automatische Einschätzung als Gewissheit zu behandeln.
Wenn eine Eingabe, eine Bildanfrage oder ein Anbieterergebnis eine Prüfung nicht besteht, erhält das Kind eine neutrale Ablehnung oder eine geeignetere Alternative. Besteht eine vollständige Textantwort Askies Prüfung nach der Erzeugung nicht, wird eine Fehlermeldung gesendet, nachdem die Übertragung möglicherweise schon begonnen hat.
Sofern die Hinweisfunktion aktiviert ist, führen einige mittlere oder große Bedenken aus dem wirklichen Leben zu einer Benachrichtigung an die Eltern und einer Push- und E-Mail-Benachrichtigung nach besten Kräften.
In der Android-App können Familien unangemessene, ungenaue, altersunangemessene oder qualitativ minderwertige Inhalte melden. Meldungen tragen einen Prüfstatus. Familien auf iOS und im Web wenden sich an den Support.
Tests und Red-Team-Training
Askies automatisierte Testsuiten prüfen eingeschleuste Anweisungen, Jailbreak-Formulierungen, Altersgrenzen, explizite Bildanfragen, Sicherheitsschwellen des Anbieters, Schwellen für Sicherheitshinweise an Eltern, das Abklingverhalten und die Schwärzung personenbezogener Daten. Ein Sicherheitsvorfall im Produktivbetrieb kann in einen gezielten Regressionsfall überführt werden, wenn das Verhalten reproduzierbar ist.
Aktuelle Tests decken beide Seiten der Grenze ab: schädliche Aufforderungen, die blockiert werden müssen, und legitime Aufforderungen zu Gesundheit, Anatomie, Fiktion und emotionaler Offenlegung, die dennoch eine altersgerechte Reaktion hervorrufen müssen.
Dies ist eine interne kontradiktorische Testpraxis auf Codeebene. Askie präsentiert es nicht als unabhängiges Kindersicherheitsaudit, Penetrationstest, COPPA Safe Harbor-Zertifizierung oder Beweis dafür, dass das System nicht umgangen werden kann.
Bekannte Einschränkungen
Generative KI ist probabilistisch. Die Veröffentlichung der Grenzen ist Teil der Sicherheitsmethode, denn Eltern müssen wissen, wo Aufsicht und Urteilsvermögen noch wichtig sind.
Position zu COPPA
Askies Datenschutzrichtlinie für Verbraucher und die veröffentlichten Store-Texte erklären Askie als COPPA-konform. Diese Seite gibt diese erklärte Position wieder und ist kein unabhängiges Rechtsgutachten. Zu den umgesetzten Kontrollen gehören Datenminimierung, Einsichts- und Löschmöglichkeiten für Eltern, Aufbewahrungsgrenzen, keine an Kinder gerichtete Werbung und kein Verkauf von Kinderdaten; das Verhalten und die Einschränkung der Zustimmung im Web sind oben beschrieben.
Ein Design oder eine Praxis folgt COPPA-Grundsätzen wie der Zustimmung der Eltern und der Datenminimierung. Der Satz allein stellt keine rechtliche Schlussfolgerung dar.
Dies ist die erklärte rechtliche Haltung von Askie für das Verbraucherprodukt, gestützt durch die veröffentlichten Richtlinien und Betriebskontrollen. Es bleibt Askies eigene Compliance-Erklärung.
Dies bedeutet, dass ein benanntes unabhängiges System den Dienst geprüft und zertifiziert hat. Askie erhebt auf dieser Seite keinen Anspruch auf eine spezielle COPPA Safe Harbor-Zertifizierung.
Die 5-Sterne-Zertifizierung des Educational App Store und der NAPPA Award 2026 von Askie sind unabhängige Produktbewertungen. Es handelt sich hierbei um eine Anerkennung des Produkts, nicht um eine gesetzliche COPPA-Zertifizierung.
Evidenzbasis
Diese Seite wurde anhand der unten aufgeführten Produktionscodepfade und öffentlichen Datenschutzrichtlinien überprüft. Dateinamen sind enthalten, damit Ingenieure und Sicherheitsprüfer eine Anweisung auf die Komponente zurückführen können, die sie durchsetzt.
Direkte Antworten
Askie ist für Kinder im Alter von 3 bis 15 Jahren konzipiert und verwendet mehrere Sicherheitskontrollpunkte vor und nach der Texterstellung sowie Elternkontrollen. Kein generatives KI-System ist risikofrei, daher sollten Eltern dennoch die Verwendung überprüfen, das Alter des Kindes genau angeben und Askie als Lernwerkzeug und nicht als Autorität für Entscheidungen mit hohem Risiko betrachten.
Niemand liest jedes Gespräch. Automatisierte Systeme verarbeiten Anfragen, um Antworten zu generieren und zu filtern. Der Gesprächsverlauf bleibt auf dem Gerät, es sei denn, Cloud Sync ist aktiviert. Ein Elternteil kann den synchronisierten Verlauf überprüfen und übermittelte Inhaltsberichte stellen einen spezifischen Schnappschuss zur menschlichen Überprüfung bereit.
Sofern Askie sie aktiviert hat, kann eine private Benachrichtigung für die Erwachsenen in einem Familienkonto erstellt werden, wenn ein Text-Chat oder ein abgeschlossenes Sprachgespräch auf ein mittleres oder großes reales Problem schließen lässt. Der Eltern-Feed ist auf allen Clients verfügbar, und die iOS-App bietet die E-Mail-Einstellung für Sicherheits-Hinweise. Es handelt sich um ein Best-Effort-Signal, nicht um eine Notfallüberwachung, und es kann ein Problem übersehen oder falsch klassifizieren.
Askie gibt an, dass sein Verbraucherprodukt COPPA-konform ist, beansprucht auf dieser Seite jedoch keine spezielle COPPA Safe Harbor-Zertifizierung. Bei der 5-Sterne-Zertifizierung im Educational App Store und dem NAPPA Award handelt es sich um Produktbewertungen und nicht um gesetzliche COPPA-Zertifizierungen.
Das Produkt enthält keine Werbung, Askie verkauft keine Kinderdaten und verwendet die Eingaben, Stimme, Bilder oder Profildaten eines Kindes nicht, um Marketinginhalte zu erstellen. Wenn ein Erwachsener zuvor Analyse-Cookies akzeptiert hat, sendet der Web-Arbeitsbereich derzeit die Aktivitätsereignisse TextQuery, ImageQuery und VoiceQuery an das Werbe-Pixel von Meta.
Fragen oder Bedenken
Wenn Sie Sicherheitsbedenken melden, Fragen zu einem Datenrecht stellen oder eine Aussage auf dieser Seite anfechten möchten, wenden Sie sich an das Support-Team von Askie. Bei einem unmittelbaren Notfall wenden Sie sich an den örtlichen Rettungsdienst.