Sich selbst als Superheld*in, Ritter oder Popstar sehen – für viele Kinder und Jugendliche ist das ein Traum, der sich mithilfe von KI-Tools zumindest optisch mit wenigen Klicks erfüllen lässt. Immer mehr Plattformen bieten an, ein personalisiertes 3D-Bild oder sogar eine digitale Actionfigur zu erstellen. Die fertigen Avatare sehen oft beeindruckend realistisch aus und enthalten viele, kreative Details.
Um eine möglichst realistische, digitale Figur zu erstellen, benötigen KI-Dienste jedoch eine Vielzahl personenbezogener Informationen. Neben einem oder mehreren Portraitfotos werden häufig auch Name, Beruf oder Schule abgefragt. Auch der Wohnort wird oft verlangt, um passende regionale Outfits oder Hintergründe auswählen zu können. Zusätzlich machen viele Nutzer*innen Angaben zu ihren Hobbys, Lieblingsfarben oder Lieblingstieren. In manchen Fällen ist es sogar möglich bzw. erwünscht, persönliche Lieblingssprüche anzugeben. Gerade Kinder und Jugendliche füllen solche Formulare oft bereitwillig aus, ohne zu bedenken, dass sie damit sehr persönliche und sensible Daten von sich oder anderen preisgeben.
Wie KI-Systeme mit den Daten umgehen
KI-gestützte Tools benötigen große Datenmengen, damit ihre Modelle trainiert werden und sich weiterentwickeln können. In den Nutzungsbedingungen vieler Dienste ist häufig festgelegt, dass hochgeladene Inhalte zur „Verbesserung der Dienste“ oder zum „Training von KI-Modellen“ verwendet werden dürfen. In der Praxis bedeutet das: Gesichter und andere personenbezogene Informationen können in große Datensätze einfließen, mit denen die KI trainiert wird. So erfasst das System beispielsweise, wie Menschen unterschiedlichen Alters und aus verschiedenen Regionen aussehen oder welche Hobbys in bestimmten Altersgruppen verbreitet sind. Auch Standortdaten oder Sprachaufnahmen können erfasst und analysiert werden, um regionale Unterschiede besser abzubilden. Selbst wenn die Daten nicht direkt weiterverkauft werden, besteht dennoch das Risiko, dass sie über technische Schnittstellen oder durch Sicherheitslücken ungewollt an Dritte gelangen.
Ein harmloser Klick kann teuer enden – besonders, wenn die „Actionfigur“ gegen Marken- oder Persönlichkeitsrechte verstößt. Mehr dazu finden Sie in dem Artikel von mimikama: Actionfigur mit KI: Ein Klick. Ein Bild. Eine Abmahnung.