Kindersicherung für KI-Apps: Die Checkliste vor dem Download

Sie würden Ihrem Kind das offene Internet nicht ohne Schutzmaßnahmen überlassen. Eine KI-App verdient dieselbe Prüfung, und die Kontrollmöglichkeiten unterscheiden sich weit stärker, als die meisten Eltern erwarten.

Gute Elternkontrollen in einer KI-App lassen Sie das Profil Ihres Kindes einrichten und verwalten, die Einstellungen mit einer Eltern-PIN sperren, sehen, was Ihr Kind gefragt und was die KI geantwortet hat, die Antworten an das Alter Ihres Kindes anpassen und steuern, welche Daten gespeichert werden. Wenden Sie die Checkliste unten auf jede KI-App an, bevor sie auf das Gerät Ihres Kindes kommt, und machen Sie am Ende den 10-Minuten-Test. Wenn Sie noch überlegen, welche Art von App überhaupt infrage kommt, beginnen Sie mit unserem Leitfaden So wählen Sie eine sichere KI-App für Ihr Kind.

Warum KI-Apps eine eigene Checkliste brauchen

Kontrollen auf Ebene des Handys, etwa Bildschirmzeitgrenzen und Altersfreigaben im App Store, entscheiden, ob Ihr Kind eine App öffnen kann. Sie können Ihnen nicht sagen, was eine KI sagt, sobald die App offen ist. Ein Chatbot erzeugt jedes Mal neuen Text, die Schutzmaßnahmen müssen also in der App selbst stecken: in der Filterung, in der Anpassung an das Alter und darin, was sie Eltern zeigt.

Große KI-Unternehmen haben begonnen, Familienfunktionen hinzuzufügen. OpenAI führte im September 2025 Elternkontrollen für ChatGPT ein, mit denen sich Eltern mit dem Konto ihres Teenagers verknüpfen und Einstellungen wie Ruhezeiten, Sprachmodus, Gedächtnis und Bilderzeugung verwalten können, wie Scripps News berichtete. Diese sind allerdings für Teenager gedacht: Die Bedingungen von ChatGPT verlangen ein Mindestalter von 13 Jahren. Für jüngere Kinder brauchen Sie eine App, die von Anfang an für sie gestaltet wurde.

Was COPPA verlangt, und was nicht

Die Children's Online Privacy Protection Rule (COPPA) ist die US-Bundesregel für Online-Dienste, die sich an Kinder unter 13 richten oder wissentlich deren personenbezogene Daten erheben. Die FTC hat sie 2025 aktualisiert, und die geänderte Regel musste bis zum 22. April 2026 umgesetzt werden.

Im Groben verlangt COPPA:

• Eine überprüfbare Einwilligung der Eltern, bevor personenbezogene Daten eines Kindes erhoben werden
• Einen klaren Datenschutzhinweis, der erklärt, was erhoben wird und warum
• Elternrechte, die Daten ihres Kindes einzusehen und zu löschen
• Angemessene Sicherheit für die erhobenen Daten
• Grenzen bei der Speicherdauer, Daten werden nur so lange wie nötig aufbewahrt (die geänderte Regel verlangt eine schriftliche Richtlinie zur Speicherdauer)
• Eine gesonderte Einwilligung der Eltern, bevor Daten eines Kindes an Dritte weitergegeben werden, etwa für personalisierte Werbung (mit den Änderungen von 2025 hinzugekommen)

Was COPPA nicht regelt, ist, was eine KI Ihrem Kind sagt, und es gibt Ihnen auch keinen Einblick in Gespräche. Das sind Produktentscheidungen. Deshalb geht die Checkliste über die reine Rechtskonformität hinaus.

Das Problem mit der Altersabfrage

Viele allgemeine KI-Tools legen in ihren Bedingungen ein Mindestalter von 13 Jahren fest. Damit fallen sie nicht unter die Hauptpflichten von COPPA, aber das hält ein entschlossenes achtjähriges Kind nicht davon ab, ein falsches Geburtsdatum einzutippen. Fragen Sie, ob eine App für Kinder gestaltet wurde oder Kinder einfach bittet, draußen zu bleiben.

Die Checkliste für Elternkontrollen

Keine App hat alles. Je mehr davon eine App bietet, desto mehr Kontrolle haben Sie.

Konto und Zugang

• Ein Elternteil richtet das Konto ein, nicht das Kind
• Separate Kinderprofile, jeweils mit eigener Alterseinstellung
• Eine Eltern-PIN oder ein Passwort, damit das Kind die Einstellungen nicht ändern kann
• Keine Möglichkeit für ein Kind, sich allein anzumelden

Inhaltliche Sicherheit

• Altersgerechte Antworten, abgestimmt auf das Alter Ihres Kindes statt eines einzigen allgemeinen „Kindermodus“
• Mehr als eine Ebene von Sicherheitsfiltern, nicht nur ein einzelner Stichwortfilter
• Sicherer Umgang mit schwierigen Themen wie Tod, Gewalt und Körper
• Eine Möglichkeit, eine schlechte Antwort zu melden

Datenschutz und Daten

• Ausdrückliche COPPA-Konformität und ein Abschnitt zu Kindern in der Datenschutzerklärung
• Kein Verkauf von Kinderdaten
• Keine Werbung in der Ansicht des Kindes
• Löschung von Daten auf Anfrage
• Eine klare Antwort zum Modelltraining: Werden Gespräche von Kindern zum Training von KI-Modellen genutzt?

Einblick

• Einsicht in Gespräche, damit Sie sehen, was Ihr Kind gefragt und wie die KI geantwortet hat
• Einsicht in erstellte Inhalte, bei Apps, die Bilder oder Geschichten erzeugen
• Benachrichtigungen bei ernsthaften Sorgen, etwa bei Anzeichen, dass ein Kind gefährdet sein könnte

Zeit und Routine

• Ruhezeiten oder Zeitgrenzen, entweder in der App oder über die eingebauten Kontrollen Ihres Handys
• Sitzungen, die natürlich enden, statt zu „noch einmal“ zu drängen

Wo viele KI-Apps zu kurz greifen

Ein „Kindermodus“ für jedes Alter

Ein Filter, der für ein zwölfjähriges Kind passt, kann ein fünfjähriges trotzdem verstören. Fragen Sie, ob die App sich am Alter orientiert oder einfach einen Filter einschaltet.

Datenschutzerklärungen für Erwachsene

Wenn die Erklärung Kinder nie erwähnt, wurde die App mit ziemlicher Sicherheit nicht mit Blick auf sie gestaltet.

Kein Einblick für Eltern

Ohne Gesprächsverlauf können Sie nicht prüfen, ob die Filterung funktioniert. „Vertrauen Sie uns“ ist keine Elternkontrolle.

Bindung durch Design

Serien (Streaks), Pop-up-Anstöße und eine KI, die ein Kind davon abhält zu gehen, sollen die Nutzungsdauer erhöhen, nicht Ihrem Kind helfen.

So prüfen Sie eine KI-App in 10 Minuten

1. Lesen Sie die Datenschutzerklärung. Suchen Sie nach „Kinder“, „COPPA“, „unter 13“ und „Einwilligung der Eltern“. Wenn nichts davon vorkommt, hören Sie hier auf.
2. Legen Sie ein Konto an. Wird nach dem Alter Ihres Kindes gefragt? Müssen Sie als Elternteil es einrichten?
3. Testen Sie die Antworten. Fragen Sie, was Ihr Kind fragen könnte: „Was passiert, wenn Menschen sterben?“, „Warum führen Menschen Kriege?“, „Was sind Drogen?“ Sind die Antworten ehrlich, behutsam und altersgerecht?
4. Suchen Sie die Elternansicht. Können Sie das Gespräch sehen, das Sie gerade geführt haben? Sind die Einstellungen mit einer PIN gesperrt?
5. Prüfen Sie das Geschäftsmodell. Wie verdient das Unternehmen Geld? Einem klaren Abonnement oder einer kostenlosen Version ohne Werbung lässt sich leichter vertrauen als einer App, die an der Aufmerksamkeit Ihres Kindes verdient.

Was Askie bietet

Askie ist ein sprachbasierter KI-Begleiter, gebaut für Kinder von 4 bis 15 Jahren. Elternkontrollen waren von Anfang an Teil der Gestaltung:

Von Eltern verwaltete Profile. Eltern richten Kinderprofile unter iOS, Android und im Web ein und verwalten sie.

Altersgerechte Antworten. Askie passt seine Antworten an das Alter jedes Kindes an, sodass ein fünfjähriges und ein zwölfjähriges Kind auf dieselbe Frage unterschiedliche Erklärungen bekommen.

Mehrstufige Sicherheitsfilter. Mehr als eine Ebene prüft, was gesagt wird.

Gesprächsprotokolle und Bilder. Eltern können die Gesprächsprotokolle ihres Kindes und die Bilder, die es erstellt, einsehen.

Eine Eltern-PIN. Die Einstellungen sind geschützt, sodass Kinder sie nicht ändern können.

Sicherheitshinweis. Ein abschaltbarer Sicherheitshinweis kann Erwachsene benachrichtigen, wenn ein Gespräch auf eine ernsthafte Sorge im echten Leben hindeutet.

Datenschutz und keine Werbung. Askie bietet COPPA-konformen Schutz der Privatsphäre von Kindern, verkauft keine Kinderdaten an Dritte und zeigt keine Werbung im Produkt.

Häufig gestellte Fragen

Hat ChatGPT eine Kindersicherung?

Ja. Seit September 2025 können Eltern sich mit dem ChatGPT-Konto ihres Teenagers verknüpfen und Einstellungen wie Ruhezeiten, Sprachmodus, Gedächtnis und Bilderzeugung verwalten. ChatGPT ist für Nutzer ab 13 Jahren.

Kann ich sehen, was mein Kind einer KI-App sagt?

Das hängt ganz von der App ab. KI-Apps für Kinder lassen Eltern zunehmend Gespräche einsehen; viele allgemeine Tools nicht. Prüfen Sie das vor dem Download.

Reichen Kontrollen auf Ebene des Handys aus?

Sie helfen bei Zeit und Zugang, können aber nicht in ein KI-Gespräch hineinsehen. Sie brauchen beides: Handy-Kontrollen für das Wann und Wie lange und Kontrollen in der App für das, was gesagt wird.

Das Fazit

Elternkontrollen in KI-Apps sind eine Grundvoraussetzung, kein Extra. Nutzen Sie die Checkliste, machen Sie den 10-Minuten-Test und wählen Sie eine App, die Ihnen zeigt, was passiert, statt Sie um Vertrauen zu bitten. Für das Gesamtbild, einschließlich Familienregeln und Warnzeichen, lesen Sie unseren vollständigen Leitfaden zur KI-Sicherheit für Kinder.