Extremistische Hetze und drastische Gewalt in Livestreams | Massenhafte Verbreitung von Missbrauchsdarstellungen | Risiken durch Dark Patterns in Spiele-Apps | Vorsorge zum Schutz auf vielen Plattformen nicht ausreichend | Konsequente Rechtsdurchsetzung wichtig
Mainz/Berlin, 06.07.2022 | Gewalt, Extremismus, Pornografie: Wenn junge User*innen beliebte Internetdienste nutzen, sind sie schnell beeinträchtigenden Inhalten ausgesetzt. Interaktionsmöglichkeiten bringen auf Plattformen zudem das Risiko mit sich, Opfer von Mobbing oder sexueller Belästigung zu werden. Im Netz finden sich immer mehr Darstellungen sexualisierter Gewalt gegen Minderjährige. In beliebten Spielen werden sogenannte Dark Patterns zur Falle für Kinder. Viele Betreiber*innen beliebter Angebote treffen jedoch keine ausreichenden Vorsorgemaßnahmen, um Minderjährige gut zu schützen. Zu diesem Ergebnis kommt jugendschutz.net in seinem Jahresbericht 2021.
„Kinder und Jugendliche lieben die Kurzvideos bei TikTok und Instagram, Challenges zum Mitmachen und Funktionen wie Livestreaming. Doch Spaß und Eventcharakter haben eine Kehrseite: Es lauern Gefahren wie extremistische Hetze, Anmache oder schockierende Gewaltinhalte, die verstören und ängstigen“, sagt Stefan Glaser, Leiter von jugendschutz.net. „Wir stoßen bei unseren Recherchen immer wieder auf Fälle, in denen Tötungsvideos verbreitet werden. In beliebten Formaten wie Let’s-Play-Videos werden Chats für Hassbeiträge und zur Beeinflussung mit antidemokratischen Verschwörungsideologien instrumentalisiert. Leider sind die Maßnahmen vieler Dienste zum Schutz vor solchen Gefahren nicht ausreichend“, so Glaser weiter. „Unser Bericht zeigt außerdem: Bilder und Videos von Missbrauchshandlungen an Minderjährigen werden massenhaft online geteilt und vervielfältigt. Vor allem die Verbreitung über Filehoster ist ein riesiges Problem.“
Bundesjugendministerin Lisa Paus sieht durch die Befunde von jugendschutz.net Handlungsbedarf: „Digitale Medien gehören längst zum Alltag von Kindern und Jugendlichen. Umso wichtiger ist ein wirksamer Kinder- und Jugendschutz im Internet. Der Jahresbericht 2021 von jugendschutz.net macht einmal mehr deutlich, dass viele Online-Anbieter nicht ausreichend vorsorgen, um Minderjährige vor Risiken im Netz zu schützen. Das muss sich ändern! Im vergangenen Jahr ist das reformierte Jugendschutzgesetz in Kraft getreten. Damit werden erstmals große Online-Anbieter verpflichtet, Kinder und Jugendliche vor Interaktionsrisiken zu bewahren. Die Bundeszentrale für Kinder- und Jugendmedienschutz entwickelt dafür gemeinsam mit Wissenschaft, Fachstellen und Unternehmen verbindliche Standards, die konsequent umgesetzt werden müssen. Wir dürfen nicht nachlassen, für mehr Sicherheit und Schutz von unseren Kindern im Netz zu sorgen.“
„Kinder und Jugendliche bewegen sich heute ganz selbstverständlich im Internet. Sie müssen es auch, denn das Internet wird sie im Leben begleiten, sei es in der Schule, der Ausbildung oder im Beruf,“ erklärt die für den Jugendschutz der Länder federführend zuständige rheinland-pfälzische Jugendministerin Katharina Binz. „Umso wichtiger ist der Bericht von jugendschutz.net für unsere politische Arbeit im Jugendschutz. Er zeigt uns deutlich, wo Gefahren liegen. Heranwachsende müssen im Umgang mit digitalen Angeboten, beispielsweise Spiele-Apps, begleitet werden. Denn oftmals werden sie dort mithilfe manipulativer Designs unter Druck gesetzt, Käufe zu tätigen, Werbung zu konsumieren oder private Daten preiszugeben. Diese Strategien sind häufig schwer zu durchschauen. Es gilt deshalb, Eltern und Heranwachsende gleichermaßen über diese Mechanismen aufzuklären, damit sie sich noch sicherer in der digitalen Welt bewegen können“, so Binz weiter. Anbieter*innen seien zudem gefordert, bei Apps für Kinder auf solche beeinflussenden Mechanismen zu verzichten. „Eine wichtige Orientierungsgröße für Erziehungsverantwortliche sind zum Beispiel Alterskennzeichen. Diese müssen verlässlich sein, daher sind darin zukünftig auch Risiken wie Kostenfallen oder Kommunikationsfunktionen zu berücksichtigen bzw. auf sämtliche Risiken ist deutlich hinzuweisen.“
Dr. Marc Jan Eumann, der Vorsitzende der Kommission für Jugendmedienschutz (KJM) betont, wie wichtig die konsequente Rechtsdurchsetzung für den Kinder- und Jugendmedienschutz ist. „Extremismus, Selbstgefährdung, Gewalt, Pornografie: All das findet sich in Social Media, in Games und auf anderen jugendaffinen Angeboten. Das Internet ist eine wunderbare Spielwiese, aber diese wimmelt vor Tretminen. Es steht viel auf dem Spiel: Es geht um den Schutz unserer Demokratie. Die KJM geht gegen Anbieter*innen vor, die keine Abhilfe schaffen und damit billigend in Kauf nehmen, Kindern und Jugendlichen zu schaden. Dies betrifft auch einschlägige Porno-Plattformen, die ihren Sitz im Ausland haben und gegen die wir erfolgreich Verfahren führen.“ Ein weiterer wichtiger Baustein zeitgemäßen Schutzes seien technische Lösungen. „Wie jugendschutz.net in seinem Bericht zeigt, fehlt es in vielen Diensten schon am Minimum, um Kinder und Jugendliche gut zu schützen: einer verlässlichen Altersprüfung. Noch zu selten werden moderne Techniken wie maschinelles Lernen für den Jugendschutz eingesetzt. Dabei sind die Potenziale enorm: So hat die KJM im Mai dieses Jahres Alterskontrollen auf Basis von biometrischer Alterserkennung positiv bewertet.“
2021 bearbeitete jugendschutz.net insgesamt 6.865 Verstoßfälle (2020: 5.056). 58 % waren thematisch sexualisierter Gewalt zuzuordnen. Politischer Extremismus folgte mit 15 %. Auf Pornografie entfielen 14 %, auf Selbstgefährdung 6 %, auf Gewalt 5 % und auf Cybermobbing 2 %. 132 Fälle hat jugendschutz.net zur Einleitung von Aufsichtsverfahren, 385 weitere zur Anregung einer Indizierung an die Kommission für Jugendmedienschutz abgegeben. Bei 84 % aller Fälle waren die Verstöße zum Jahresende beseitigt.
Der aktuelle Jahresbericht von jugendschutz.net steht zum Download bereit unter www.jugendschutz.net/bericht
