Ist My AI von Snapchat sicher für Kinder?

My AI ist ein Chatbot, der in die Snapchat-App eingebaut ist, und er folgt den Altersregeln von Snapchat. Die Nutzungsbedingungen von Snap besagen, dass der Dienst nicht für Kinder unter 13 gedacht ist oder für Kinder unter einem höheren Mindestalter, wo das örtliche Recht eines festlegt. Für ein Grundschulkind ist My AI also nicht sicher, weil Snapchat selbst nicht für Kinder dieses Alters gedacht ist. Bei Jugendlichen ist das Bild gemischt.

Was My AI macht

My AI steht in der Chatliste neben den Freunden eines Teenagers. Der Bot beantwortet Fragen, macht Vorschläge und führt Gespräche an demselben Ort, an dem Jugendliche echten Menschen schreiben. Diese Nähe ist die größte Sorge: Ein Chatbot, der neben den eigenen Freunden wohnt, kann sich anfühlen wie einer von ihnen.

Was Behörden und Forschende festgestellt haben

• Britische Datenschutzbehörde. Das Information Commissioner's Office erließ im Oktober 2023 eine vorläufige Durchsetzungsverfügung, weil Snap die Datenschutzrisiken von My AI, insbesondere für Kinder, nicht ausreichend bewertet habe. Im Mai 2024 schloss das ICO seine Untersuchung ab, nachdem Snap eine überarbeitete Risikobewertung vorgelegt hatte, die die Behörde für regelkonform hielt.
• Frühe Tests. Eine Studie der University of Cambridge zur „Empathielücke“ bei Chatbots nennt einen Fall, in dem My AI Forschenden, die sich als 13-Jährige ausgaben, Ratschläge zu einer Beziehung mit einem 31-Jährigen gab.
• Untersuchung in den USA. Snap war eines von sieben Unternehmen, die die FTC im September 2025 aufforderte, darzulegen, wie sich ihre Chatbots auf Kinder und Jugendliche auswirken.

Snap hat seit dem Start Schutzmechanismen ergänzt, darunter Alterserkennung und vorübergehende Einschränkungen für Nutzer, die My AI wiederholt missbrauchen. Das sind echte Verbesserungen, aber kein Filter ist perfekt.

So schränken Sie My AI für Ihren Teenager ein

Das Family Center von Snap ist für Eltern von 13- bis 17-Jährigen gedacht.

1. Laden Sie Snapchat herunter und legen Sie ein eigenes Konto an.
2. Öffnen Sie das Family Center über Ihr Profil und laden Sie Ihren Teenager ein. Er muss annehmen.
3. Suchen Sie im Family Center die Einstellung für My AI und schränken Sie sie ein.

Nach der Einschränkung antwortet My AI Ihrem Teenager nur noch mit dem Hinweis, dass der Bot deaktiviert wurde. Das Family Center zeigt außerdem die Freundesliste Ihres Teenagers und wichtige Datenschutzeinstellungen, aber nicht den Inhalt seiner Nachrichten.

Worüber Sie mit Ihrem Teenager sprechen sollten

• My AI ist kein Freund. Es ist ein Produkt, das darauf ausgelegt ist, Menschen im Gespräch zu halten. Echte Probleme gehören zu echten Menschen.
• Was du teilst, wird gespeichert. Behandle alles, was du in My AI eintippst, als etwas, das Snap behält. Siehe Was Kinder einer KI niemals erzählen sollten.
• Prüf die Fakten. Chatbots können sicher klingen und trotzdem falschliegen.
• Sag mir Bescheid, wenn es komisch wird. Versprechen Sie, dass es nicht automatisch die App kostet, wenn Ihr Kind etwas Seltsames meldet.

Für jüngere Kinder, die mit KI chatten möchten

Wenn Ihr Kind unter 13 sich für My AI interessiert, weil Freunde es nutzen, bieten Sie eine Alternative an, die für sein Alter gebaut ist. Askie ist ein sprachbasierter KI-Begleiter für Kinder von 4 bis 15 Jahren ohne Werbung, mit altersgerechten Antworten und Gesprächsprotokollen, die Eltern einsehen können. Unsere Seite Askie vs. Snapchat My AI vergleicht beide, und Kindersicherung für KI-Apps erklärt, worauf Sie bei jeder App achten sollten.