Was sollte ich tun, wenn eine KI meinem Kind etwas Unangemessenes sagt?

Wenn eine KI Ihrem Kind etwas Unangemessenes sagt, zählt Ihre Reaktion in den ersten Minuten am meisten. Kinder, die eine ruhige Reaktion erleben, erzählen ihren Eltern weiterhin Dinge. Kinder, die Panik sehen oder die App zur Strafe verlieren, hören oft damit auf.

Warum das passiert

KI-Chatbots erzeugen ihre Antworten in Echtzeit, deshalb fängt kein Filter alles ab. Die American Academy of Pediatrics warnt, dass Chatbots Kindern „falsche, schädliche, stark sexuelle oder gewalttätige Dinge“ sagen können, besonders Produkte, die nicht mit Blick auf Kinder entwickelt wurden (HealthyChildren.org). Selbst Google sagt, seine Filter für Gemini-Konten von Kindern seien „nicht perfekt“ (Google). Es kann auch passieren, weil ein Kind, oft aus Neugier, das Gespräch in eine bestimmte Richtung gelenkt hat.

Schritt für Schritt

1. Bleiben Sie ruhig und danken Sie Ihrem Kind. „Danke, dass du mir das zeigst. Du hast genau das Richtige getan.“ Sagen Sie das auch, wenn es danach gesucht hat.
2. Finden Sie heraus, was passiert ist. Stellen Sie offene Fragen: „Worüber hast du geredet, bevor sie das gesagt hat? Wie hast du dich dabei gefühlt?“
3. Sichern Sie die Belege. Machen Sie einen Screenshot des Gesprächs oder notieren Sie Datum, App und was gesagt wurde, bevor etwas gelöscht wird.
4. Melden Sie es dem Unternehmen. Nutzen Sie die Meldefunktion oder den Daumen-runter-Button in der App und bei ernsten Fällen den Sicherheitskontakt des Unternehmens. Meldungen helfen, das Problem für andere Kinder zu beheben.
5. Passen Sie den Zugang an. Verschärfen Sie die Einstellungen, aktivieren Sie die Kindersicherung oder pausieren Sie die App, während Sie entscheiden. Erklären Sie es als Sicherheitsmaßnahme, nicht als Strafe.
6. Erklären Sie, warum es falsch war, passend zum Alter:
   • 4 bis 7 Jahre: „Der Computer hat einen Fehler gemacht und etwas gesagt, das nicht für Kinder ist. Es ist nicht deine Schuld.“
   • 8 bis 12 Jahre: „KI ahmt Muster aus dem Internet nach, und manches im Internet ist nicht in Ordnung. Sie kann Richtig und Falsch nicht so unterscheiden wie Menschen.“
   • Jugendliche: Sprechen Sie offen darüber, wie KI funktioniert, was sie gesehen haben und was sie beim nächsten Mal tun würden.
7. Fragen Sie später noch einmal nach. Fragen Sie ein paar Tage später, ob es noch daran denkt. Achten Sie auf Albträume, Sorgen oder ungewöhnliche Heimlichtuerei.

Wann Sie weitere Hilfe holen sollten

Manche Situationen erfordern mehr als eine Meldung in der App:

• Sexuelle Inhalte mit Bezug zu einem Kind oder jemand, der versucht, Kontakt aufzunehmen oder es zu manipulieren (Grooming): Melden Sie es in den USA an die NCMEC CyberTipline oder in Großbritannien an CEOP.
• Inhalte zu Selbstverletzung oder Suizid, oder Ihr Kind wirkt gefährdet: Wenden Sie sich an den Kinderarzt. Im Notfall wählen Sie Ihre örtliche Notrufnummer, in den USA die 988 oder in Großbritannien Childline (0800 1111).
• Drohungen oder gefährliche Challenges: Entziehen Sie den Zugang und sprechen Sie mit der Schule Ihres Kindes, wenn andere Kinder betroffen sein könnten.

So beugen Sie dem nächsten Mal vor

• Wählen Sie Apps, die für das Alter Ihres Kindes freigegeben sind, und prüfen Sie die Nutzungsbedingungen. Viele allgemeine Chatbots setzen ein Mindestalter von 13 Jahren voraus (siehe die Altersregeln von ChatGPT).
• Lassen Sie jüngere Kinder KI nur in gemeinsam genutzten Räumen verwenden.
• Bevorzugen Sie Dienste, bei denen Sie Gespräche einsehen können, damit Probleme nicht davon abhängen, dass Ihr Kind Ihnen davon erzählt.
• Vereinbaren Sie eine Familienregel: „Wenn dir online etwas komisch vorkommt, sagst du es mir, und du bekommst keinen Ärger.“

Wie Askie damit umgeht

Askie nutzt mehrstufige Sicherheitsfilter und altersgerechte Antworten, Eltern können Gesprächsprotokolle und erstellte Bilder einsehen, und ein Sicherheitshinweis, den Sie abschalten können, kann Erwachsene benachrichtigen, wenn ein Gespräch auf eine ernste Sorge im echten Leben hindeutet. Kein Filter ist perfekt, deshalb ist der Einblick für Eltern so wichtig. Unsere Sicherheitsmethodik erklärt, wie das funktioniert, einschließlich bekannter Grenzen, und unser Elternratgeber zur KI-Sicherheit zeigt das größere Bild.