Nach oben

zurück zur Übersicht

22.03.2024 | Medienkompetenz

Künstliche Intelligenz als Herausforderung und Chance für den Kinder- und Jugendmedienschutz

Der Expert Summit „NextGen Media – Digitale Trends im Fokus des Kinder- und Jugendmedienschutzes“ fand am 19. März 2024 in Berlin statt. Ziel war es, alle wichtigen Akteure in die Diskussion über einen zeitgemäßen Kinder- und Jugendmedienschutz einzubinden. Dafür trafen sich rund 150 Expert*innen aus der Forschung, der Internetwirtschaft und dem Jugendmedienschutz. Die Fachtagung lieferte spannende Impulse bezüglich der Entwicklung und in der Diskussion über einen zeitgemäßen Kinder- und Jugendmedienschutz. Der Expert Summit wurde gemeinsam ausgerichtet von der Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) und den Mitgliedern des deutschen Safer Internet Centres – klicksafe, die Freiwillige Selbstkontrolle Multimedia-Diensteanbieter (FSM), der Verband der Internetwirtschaft eco, jugendschutz.net und der Nummer gegen Kummer.

Ob Deepfake-Tools oder immersives Gaming mit VR-Brillen – die digitalen Möglichkeiten sind vielfältig und meist mit wenig technischem Vorwissen nutzbar. Beim Expert Summit wurden aktuelle und zukünftige Digitaltrends praxisnah vorgestellt. Rund 150 interdisziplinäre Expert*innen, Anbieter und Jugendliche analysierten in insgesamt fünf Workshops die Folgen für die kindliche und jugendliche Mediennutzung. Abschließend diskutierten die Teilnehmenden die Konsequenzen neuer Trends und Entwicklungen für den Kinder- und Jugendmedienschutz. Dabei wurden die Chancen und Risiken gleichermaßen in den Blick genommen.

KI eröffnet neue Dimensionen der Täuschung, aber auch neue Möglichkeiten für Schutzmaßnahmen

Hohe Einigkeit bestand bei den Expert*innen hinsichtlich der Einschätzung, dass neue Technologien wie Künstliche Intelligenz (KI) und Virtual Reality (VR) große Herausforderungen im Bereich des Kinder- und Jugendmedienschutzes mit sich bringen. So zeigen sich im Bereich VR-Gaming zwar große Parallelen zum „herkömmlichen“ Spielen am Bildschirm, wenn es um Problemfelder wie Cybermobbing, Belästigung oder Gewaltdarstellung geht. Allerdings gibt es auch einige spezifischen Eigenschaften von VR, zum Beispiel das Gefühl des Eintauchens in die virtuelle Welt (Immersion), deren Auswirkungen auf junge Menschen bisher nur unzureichend erforscht sind.

Ein bestimmendes Thema des Expert Summits war die Künstliche Intelligenz. KI eröffne neue Dimensionen der Täuschung, sowohl qualitativ als auch quantitativ, und verändere somit die Landschaft des Kinder- und Jugendmedienschutzes nachhaltig, so der Tenor. KI biete im Gegenzug aber auch neue Möglichkeiten, die den digitalen Kinder- und Jugendmedienschutz unterstützen, beispielsweise durch verbesserte Altersverifikationsverfahren.

KI-gestützte Funktionen verständlich erklären und zur Prävention und Intervention einsetzen

Nach Einschätzung der Fachleute stünden Anbieter digitaler Plattformen vor der Aufgabe, die Nutzung von KI verantwortungsvoll zu gestalten. Dazu gehöre, dass KI-gestützte Funktionen klar erklärt und in einer Weise eingesetzt werden, die Prävention und Intervention unterstütze. Speziell für Kinder und Jugendliche entwickelte KI-Tools sowie transparente Meldewege seien essenziell, um eine sichere Online-Umgebung zu gewährleisten.

Eine gesamtgesellschaftliche Strategie bewerteten die Fachleute auf dem Expert Summit für den effektiven Schutz vor den Risiken neuer Technologien als unerlässlich. Diese Strategie sollte sowohl präventive Maßnahmen als auch die Stärkung digitaler Selbstbehauptungsfähigkeiten bei Kindern und Jugendlichen umfassen. Die Medienbildung müsse langfristig, frühzeitig und regelmäßig in den Alltag integriert werden. Für die Umsetzung sei auch ein Ausbau der Zusammenarbeit mit Anbietern, Beratungsstellen sowie Expert*innen nötig.

Mit innovativen Ansätzen wirkungsvollen Kinder- und Jugendmedienschutz gestalten

Der Expert Summit präsentierte eine Vielzahl digitaler Trends und ermöglichte eine eingehende Diskussion über deren Auswirkungen für Kinder. Hierdurch wurden wichtige Erkenntnisse und innovative Ansätze für die Gestaltung einer sichereren digitalen Umgebung für junge Menschen gewonnen.

Angesichts der Herausforderungen sich schnell wandelnder Nutzungsumgebungen kann die Umsetzung der Kinderrechte auf Schutz, Befähigung und Teilhabe nur gelingen, wenn die Möglichkeiten des gesetzlichen und erzieherischen Kinder- und Jugendmedienschutzes bestmöglich aufeinander abgestimmt sind.

Informationen zu den Veranstaltern

Das deutsche Safer Internet Centre

Seit 2008 koordiniert klicksafe das Safer Internet Centre Deutschland, dem die Internet-Hotlines von eco, FSM und jugendschutz.net sowie die Helpline Nummer gegen Kummer angehören. Die Safer Internet Centres in 27 europäischen Ländern werden unterstützt vom Digital Europe Programme (DIGITAL) der Europäischen Union mit dem Ziel, die Medienkompetenz von Kindern, Eltern und Lehrkräften zu fördern, für mögliche Risiken im Internet zu sensibilisieren und Beratungsstellen für Online-Problemen sowie Meldestellen für illegale Inhalte anzubieten.

Die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ)

Die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) setzt sich dafür ein, Kindern und Jugendlichen ein gutes Aufwachsen mit Medien zu ermöglichen. Dabei handelt sie im Auftrag des Jugendschutzgesetzes (JuSchG). Zu ihren Aufgaben gehören die Indizierung von jugendgefährdenden Medien und die Überwachung systemischer Vorsorgemaßnahmen (wie z.B. sichere Voreinstellungen, Melde- und Abhilfeverfahren etc.) von Medienanbietern. Zudem vernetzt sie alle im Kinder- und Jugendmedienschutz wichtigen Akteur*innen, fördert die kontinuierliche Weiterentwicklung des Kinder- und Jugendmedienschutzes und ermöglicht Eltern, Fachkräften, Kindern und Jugendlichen Orientierung für eine möglichst sichere Mediennutzung.

Zur Meldung bei der BzKJ


Haben Sie Fragen zu diesem Artikel?

Kontaktieren Sie uns, wir freuen uns, wenn wir ihnen weiterhelfen können.
[info]@klicksafe.de


Weitere Meldungen

Medienkompetenz |

Die Beschwerdestelle des Verbands der Internetwirtschaft eco stellte am 9.4.2024 ihren Bericht für das vergangene Jahr vor. Mit 17.493 berechtigten…

Weiterlesen
Medienkompetenz |

Mit dem Frühling wird es wieder Zeit für den traditionellen Frühjahrsputz im Haus. Wichtig ist es auch, unsere digitalen Geräte regelmäßig…

Weiterlesen