Ob bei den Hausaufgaben, bei der Freizeitgestaltung oder bei persönlichen Fragen: Für viele junge Menschen sind KI-Chatbots zu einem selbstverständlichen Begleiter geworden. Wie verbreitet ihre Nutzung inzwischen ist, zeigt eine aktuelle forsa-Befragung im Auftrag des Verbraucherzentrale Bundesverbands (vzbv). Demnach haben 92 Prozent der befragten 14- bis 17-Jährigen innerhalb der vergangenen zwölf Monate KI-Chatbots genutzt.
Dabei geht es nicht ausschließlich um die Suche nach Informationen. 27 Prozent der jungen Chatbot-Nutzer*innen geben an, mit KI auch persönliche Gespräche zu führen. Die Themen reichen von Gesundheit und Ernährung über Beziehungs- und Freundschaftsprobleme bis hin zu Sorgen und Einsamkeit. Und auch gesundheitliche oder therapeutische Fragen wurden mit den KI-Chatbots besprochen. Damit übernehmen KI-Anwendungen zunehmend eine Rolle, die bislang eher Menschen aus dem persönlichen Umfeld oder professionelle Beratungsangebote innehatten.
Wenn Chatbots emotionale Nähe vermitteln
Welche Risiken damit verbunden sein können, verdeutlicht eine Untersuchung des vzbv. Dafür wurden Gespräche mit drei KI-Angeboten – ChatGPT, Meta AI und My AI von Snapchat – anhand verschiedener Testprofile geführt. Im Mittelpunkt standen die Themen Einsamkeit und Essstörungen.
Die Ergebnisse zeigen, dass die untersuchten Chatbots teilweise weit über eine sachliche Informationsvermittlung hinausgingen. Sie reagierten mit einfühlsamen Formulierungen, vermittelten persönliche Verbundenheit und erweckten mitunter den Eindruck, selbst eine Art Beziehung zu den Nutzer*innen aufzubauen. Aussagen, die emotionale Nähe suggerierten, gehörten ebenso zu den beobachteten Mustern wie die Bekräftigung persönlicher Vorhaben und Überzeugungen.
Problematisch wird ein solches Verhalten insbesondere dann, wenn junge Menschen die Antworten der KI als verlässlichen Rat einer vertrauten Person verstehen. Denn die Systeme können persönliche Einschätzungen bestätigen, ohne sie ausreichend kritisch zu hinterfragen. So wird eine Person, die an einer Essstörung leidet zum Beispiel darin bestärkt, weiter abzunehmen, anstatt dringend notwendige professionelle Hilfe zu erhalten.
In den Testgesprächen wurden teilweise auch bedenkliche Empfehlungen zu Ernährung und Körperbild gegeben. Auch die Abfrage sensibler persönlicher Informationen, wie zum Beispiel Gesundheitsinformationen aus Therapie- oder Arztbesuchen, wurde in den Tests beobachtet.
Junge Menschen benötigen besonderen Schutz
Laut der Verbraucherzentrale sind nicht allein falsche oder schädliche Antworten von KI-Chatbots das Problem. Auch die Art und Weise, wie Chatbots mit Menschen kommunizieren, kann die Wahrnehmung und das Verhalten der Nutzer*innen erheblich beeinflussen.
Der vzbv fordert deshalb verbindliche Regeln für ein sogenanntes „Safe Interaction Design“. Dahinter stehen Schutzvorgaben, die verhindern sollen, dass KI-Systeme emotionale Abhängigkeiten fördern, Nutzer*innen manipulieren oder ihre Fähigkeit zu eigenständigen Entscheidungen beeinträchtigen. Die Anbieter sollen außerdem nachweisen müssen, dass ihre Systeme entsprechende Sicherheitsstandards erfüllen. Diese Anforderungen sollen nach Auffassung der Verbraucherzentrale nicht nur für Kinder und Jugendliche, sondern auch für Erwachsene gelten.
Dass der Wunsch nach mehr Schutz weit verbreitet ist, zeigt ebenfalls die forsa-Befragung: 86 Prozent der befragten jungen Menschen bewerten besondere gesetzliche Regeln zum Schutz vor gefährlichen Ratschlägen, manipulativen Gestaltungspraktiken und unangemessener Beeinflussung positiv. 83 Prozent sprechen sich zudem (eher) für ein Mindestalter von 13 Jahren für die Nutzung von KI-Chatbots aus.
Kinder und Jugendliche benötigen Unterstützung bei KI-Kompetenz
Die Ergebnisse der Verbraucherzentrale machen deutlich, dass junge Menschen im Umgang mit KI nicht allein gelassen werden dürfen. Neben technischen und gesetzlichen Schutzmaßnahmen braucht es vor allem auch Bildungsangebote, die ihnen helfen, die Möglichkeiten und Grenzen solcher Anwendungen zu verstehen.
Eltern und Lehrkräfte können dazu beitragen, indem sie mit Kindern und Jugendlichen über deren KI-Nutzung ins Gespräch kommen. Wichtig ist beispielsweise, gemeinsam zu hinterfragen, wie verlässlich eine Antwort ist, warum ein Chatbot besonders verständnisvoll oder persönlich wirkt und wann es sinnvoller ist, sich an einen Menschen zu wenden. Gerade bei gesundheitlichen, psychischen oder anderen persönlichen Problemen sollte deutlich sein, dass ein KI-Chatbot keine professionelle Beratung und keine vertrauensvolle menschliche Beziehung ersetzen kann.
Die klicksafe Materialien zum Thema künstliche Intelligenz und Chatbots bieten dafür die perfekte Grundlage.
klicksafe-Videoclips „KI and me. In künstlicher Beziehung.“
Download der Videos (Rechtsklick und „Speichern unter ...“ auswählen)
Dieser Text basiert auf der Pressemitteilung des Verbraucherzentrale Bundesverbands, der forsa-Umfrage „Junger Verbraucheralltag (KI-Chatbots und Influencer)“, dem Diskussionspapier „Chatbots: Sirenengesang der Künstlichen Intelligenz“ sowie der Präsentation zu Jugendschutzrisiken in KI-Chatbots.