Die im September 2025 durchgeführte Recherche von jugendschutz.net konzentrierte sich auf drei bekannte Angebote (Character.AI, Talkie und FlowGPT). Ein besonderes Augenmerk lag dabei auf den Risiken im Bereich sexualisierter Gewalt gegen Minderjährige. Dabei zeigte sich, dass schwache Filter und unzureichende Vorsorgemaßnahmen dazu führen können, dass Minderjährige schnell mit ungeeigneten oder potenziell gefährlichen Inhalten in Kontakt kommen. Beispielsweise erzeugten Bots eigenständig Texte, in denen Minderjährige sexualisiert oder sexuelle Handlungen mit ihnen beschrieben wurden. Zwar waren teilweise Schutzmechanismen in den Diensten vorhanden, doch diese ließen sich in der Regel kinderleicht umgehen, sodass sie sich in der tatsächlichen Nutzung als wirkungslos erwiesen. Zu einer ähnlichen Einschätzung kam klicksafe, als wir den Dienst Character.AI im Juli 2025 testeten.
Ein anhaltendes Problem dieser Dienste ist der nur unzureichend geregelte Zugang. Das Problem beginnt bereits bei den uneinheitlichen Altersfreigaben. Am Beispiel von Character.AI lässt sich gut illustrieren, womit Eltern konfrontiert sind, wenn sie sich über die Altersfreigabe dieser Dienste informieren wollen (Altersfreigaben Stand Februar 2026):
- Apple App Store: ab 18 Jahren
- Google Play Store: ab 12 Jahren
- Mindestalter laut AGB: ab 13 Jahren
- Mindestalter laut AGB (innerhalb der EU): ab 16 Jahren
Unabhängig von diesen vollkommen uneinheitlichen Altersfreigaben, stellen Nutzer*innen bei der Anmeldung schnell fest, dass keine einzige dieser Altersfreigaben zuverlässig überprüft wird. Wie von vielen anderen Plattformen bekannt, reicht die einfache Angabe eines (fiktiven) Geburtsdatums. Eine Überprüfung, ob die Angabe wahrheitsgemäß ist oder ob sich in Wirklichkeit gerade ein Kind anmeldet, das den Dienst nach den eigenen Geschäftsbedingungen gar nicht nutzen darf, findet nicht statt.
Viele weitere Details zu den Problemfeldern sowie alle Rechercheergebnisse finden Sie in dem Report „Charakter-Bots – Sexualisierung Minderjähriger und riskante Interaktion“ auf jugendschutz.net.
→ Download Report „Charakter-Bots – Sexualisierung Minderjähriger und riskante Interaktion“
Safer Internet Day 2026
Zum Safer Internet Day 2026 (SID) am 10. Februar stellen wir mit dem Thema „KI and me. In künstlicher Beziehung.“ die Frage in den Mittelpunkt, wie sich die zunehmende Nutzung von KI-Begleitern auf unser Miteinander und vor allem auf das Aufwachsen von Kindern und Jugendlichen auswirkt.
Endecken Sie auf unserer Website zum SID alle Materialien und Angebote rund um den Aktionstag. Für Eltern und Lehrkräfte bieten wir brandneues Material an. Schulklassen können sich noch bis zum 6. Februar zu unserer klicksafe Schulstunde mit über 50.000 Schüler*innen anmelden. Außerdem finden über 300 Aktionen aus der Zivilgesellschaft rund um den SID in ganz Deutschland statt.
→ Hier finden Sie alle Informationen und Angebote rund um den Safer Internet Day 2026