Was gilt für Unternehmen und andere professionelle Nutzer*innen?
Die neuen Transparenzpflichten ergeben sich aus Artikel 50 des sogenannten AI Acts der Europäischen Union. Sie richten sich dabei in erster Linie an Unternehmen, Behörden, Medien und andere Organisationen, die KI-Systeme entwickeln oder nutzen. Dabei unterscheidet die KI-Verordnung zwischen Anbietern (Provider) und Betreibern (Deployer).
Als Anbieter gelten Unternehmen, die KI-Systeme entwickeln und auf den Markt bringen wie OpenAI, Google oder Midjourney. Sie müssen sicherstellen, dass ihre Systeme bestimmte Anforderungen erfüllen. Dazu gehört nun seit Anfang August auch, dass KI-Systeme, die Inhalte wie Texte, Bilder, Audio- oder Videodateien erzeugen, diese Inhalte technisch so kennzeichnen, dass sie als künstlich erzeugt oder manipuliert erkennbar sind. Diese Kennzeichnung richtet sich in vor allem an andere technische Systeme und Plattformen und muss nicht zwingend für Nutzer*innen sichtbar sein.
Als Betreiber werden diejenigen bezeichnet, die KI-Systeme in ihrer eigenen Tätigkeit einsetzen. Dazu zählen beispielsweise Unternehmen, die einen KI-Chatbot für ihren Kundenservice nutzen, Medienhäuser, die KI-generierte Inhalte veröffentlichen, sowie Organisationen, die KI-generierte Bilder oder Videos für ihre Kommunikation verwenden. Je nach Einsatzbereich gelten für sie nun neuerdings spezielle Offenlegungspflichten.
Ein besonderes Augenmerk liegt dabei auf sogenannten Deepfakes. Werden durch KI realistisch wirkende Bilder, Videos oder Audiodateien erzeugt oder manipuliert und anschließend veröffentlicht, muss offengelegt werden, dass diese Inhalte künstlich erstellt oder verändert wurden. Offensichtlich fiktive Werke fallen allerdings in der Regel nicht unter diese besondere Offenlegungspflicht. Ein Fantasy-Video mit Feen und Zwergen etwa ist leicht als künstlicher Inhalt zu erkennen und muss daher nicht mit einem zusätzlichen Hinweis versehen werden. Auch für künstlerische, kreative, satirische oder fiktionale Werke gelten zudem besondere Erleichterungen.
Auch bei KI-generierten Texten kommt es auf den Kontext an. Wenn ein Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss grundsätzlich offengelegt werden, wenn der Inhalt künstlich erzeugt oder manipuliert wurde. Dies kann beispielsweise politische Inhalte, Nachrichten oder andere öffentliche Informationen betreffen. Eine Ausnahme gilt, wenn die Inhalte vor der Veröffentlichung einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt. In diesem Fall kann der Hinweis auf den KI-Ursprung des Textes entfallen. Eine mit KI erstellte Kurzgeschichte, ein Gedicht oder ein Kochrezept fällt dagegen nicht unter diese spezielle Transparenzpflicht, da es sich dabei in der Regel nicht um Angelegenheiten von öffentlichem Interesse handelt.
Neben diesen Regelungen gibt es weitere Transparenzpflichten, etwa beim Einsatz von Emotionserkennung oder biometrischer Kategorisierung. Diese betreffen jedoch vor allem spezielle Anwendungen und sind für die meisten Unternehmen im Alltag weniger relevant. Eine informative Übersicht aller Transparenzpflichten wird von der Europäischen Kommission auf ihrer Website zur Verfügung gestellt.
Das Wichtigste auf einen Blick
- Die Transparenzpflichten betreffen vor allem Unternehmen und professionelle Nutzer*innen.
- Anbieter müssen KI-generierte Inhalte technisch kennzeichnen.
- Unternehmen und professionelle Nutzer*innen müssen bestimmte KI-Inhalte offenlegen.
- Vor allem betrifft das realistische Deepfakes und Texte zu Angelegenheiten von öffentlichem Interesse.
- Für fiktive Inhalte und redaktionell geprüfte Texte gelten Ausnahmen.
Was bedeuten die Transparenzpflichten für reguläre Nutzer*innen?
Für Menschen, die KI rein privat nutzen, ändern sich durch die neuen Transparenzpflichten nur wenige Dinge unmittelbar. Wer zu Hause ChatGPT verwendet, mit einer KI Bilder erstellt oder sich Videos generieren lässt, muss diese Inhalte nicht automatisch selbst kennzeichnen. Die Pflicht, KI-generierte Inhalte technisch erkennbar zu machen, richtet sich an die Anbieter der KI-Systeme.
Auch von der Offenlegungspflicht sind Privatpersonen nicht betroffen. Das gilt aber nur, wenn sie KI ausschließlich für persönliche und nicht berufliche Zwecke nutzen. In diesem privaten Rahmen dürfen sie weiterhin KI-generierte Inhalte erstellen und verbreiten, ohne diese entsprechend offenzulegen.
Trotzdem können Nutzer*innen die Auswirkungen der neuen Regeln im Internet künftig stärker wahrnehmen. Plattformen und andere digitale Dienste werden die technischen Kennzeichnungen der KI-Anbieter zukünftig nutzen, um Informationen über die Herkunft von Inhalten bereitzustellen. Dadurch wird beispielsweise in Social-Media-Diensten leichter erkennbar, ob ein Bild, ein Video oder eine Audiodatei mithilfe von KI erstellt wurde. Das bedeutet jedoch nicht, dass künftig jeder KI-generierte Inhalt automatisch mit einem sichtbaren Hinweis versehen wird. Entscheidend dafür ist die Art des Inhalts und der Kontext seiner Verwendung.
Das Wichtigste auf einen Blick
- Private Nutzer*innen müssen eigene KI-Inhalte grundsätzlich nicht offenlegen.
- KI-generierte Inhalte könnten im Internet künftig leichter erkennbar werden.
- Die neuen Regeln führen nicht dazu, dass alle KI-Inhalte sichtbar gekennzeichnet werden.
Was können die neuen Transparenzpflichten leisten?
Die neuen Transparenzpflichten werden nicht verhindern, dass weiterhin manipulierte oder irreführende Inhalte im Internet auftauchen. Wer gezielt Desinformationen verbreiten möchte, wird sich sicherlich nicht an Kennzeichnungspflichten halten. Zudem können technische Kennzeichnungen nicht verhindern, dass Inhalte kopiert, verändert oder ohne ursprüngliche Informationen weiterverbreitet werden.
Trotzdem erfüllen die neuen Regeln einen wichtigen Zweck: Sie schaffen mehr Transparenz bei einem großen Teil der alltäglichen KI-Nutzung. Denn ein erheblicher Anteil der heute erzeugten KI-Inhalte entsteht über bekannte und öffentlich zugängliche Dienste und Plattformen wie ChatGPT oder Meta AI. Wenn diese Anbieter verpflichtet werden, technische Kennzeichnungen einzubauen, können Plattformen und andere digitale Dienste KI-generierte Inhalte besser erkennen und Nutzer*innen über deren künstlichen Ursprung informieren.
Die Transparenzpflichten zielen also weniger auf diejenigen ab, die bewusst täuschen wollen. Sie sollen vielmehr dafür sorgen, dass künstlich erzeugte Inhalte im normalen digitalen Alltag nicht vollständig unsichtbar bleiben. Dadurch erhalten Nutzer*innen bessere Möglichkeiten, die Herkunft von Informationen einzuschätzen, auch wenn ein vollständiger Schutz vor Täuschung und Manipulation im Internet weiterhin nicht möglich sein wird.
Gerade deshalb bleibt Medienkompetenz ein zentraler Baustein im Umgang mit KI-generierten Inhalten. Transparenzpflichten und technische Kennzeichnungen können zwar dabei helfen, die Herkunft von Inhalten besser einzuschätzen, sie ersetzen jedoch nicht die Fähigkeit, Informationen kritisch zu prüfen. Insbesondere Kinder und Jugendliche müssen weiterhin lernen, Quellen zu hinterfragen, Informationen einzuordnen, Fakten zu überprüfen und seriöse von unseriösen Angeboten zu unterscheiden, um sich sicher und souverän im Internet bewegen zu können.