Auslöser für ernsthafte Suizidgedanken oder gar einen Suizidversuch können oft krisenhafte Situationen sein: Mobbing in der Schule, Liebeskummer, Konflikte mit Freund*innen, familiäre Probleme, Schulversagen oder generelle Versagensängste. Auch psychische Erkrankungen wie Depressionen können mit einem erhöhten Suizidrisiko einhergehen. In einer akuten Krise können Betroffene ihre Situation als ausweglos erleben und Schwierigkeiten besonders negativ bewerten. Häufig fällt es ihnen dann schwer, sich vorzustellen, dass sich ihre Situation wieder verändern kann. Der Suizid kann dadurch als einzige Möglichkeit erscheinen, einer als unüberwindbar empfundenen Situation zu entkommen.
In diesem Moment ist es wichtig, dass die Betroffenen Hilfe erfahren und Lösungsmöglichkeiten für ihre Probleme aufgezeigt bekommen. Besonders schädlich sind in dieser Situation hingegen Inhalte, die Betroffene in ihrer negativen Weltsicht bestätigen. Dazu können beispielsweise Videos anderer Betroffener gehören, die ihre eigene Krise schildern und dabei Suizid oder Selbstverletzung als Lösung darstellen oder verherrlichen. Problematisch sind auch Inhalte, die Selbstverletzung oder Suizid romantisieren, normalisieren oder gutheißen. Gleiches gilt für Inhalte, die professionelle Hilfsangebote, wie beispielsweise Beratungsstellen, Psychotherapien oder Medikamente, pauschal als nutzlos oder unwirksam darstellen. Besonders gefährlich sind schließlich Inhalte, die Suizid befürworten oder konkrete Anleitungen zur Selbsttötung enthalten.
Welche Rolle spielen Social-Media-Dienste?
Auf nahezu allen Plattformen gibt es Regeln zum Umgang mit Suizid und Selbstverletzung. TikTok erlaubt beispielsweise keine Inhalte, die Suizid oder Selbstverletzung fördern, verherrlichen oder entsprechende Anleitungen enthalten. Gleichzeitig sind Beiträge erlaubt, in denen Menschen über eigene Erfahrungen sprechen oder über Suizidprävention und Hilfsangebote informieren. Auch Instagram hat entsprechende Schutzmaßnahmen. Trotzdem sind solche Inhalte für Nutzer*innen vergleichsweise leicht auffindbar. Wie kann das sein?
Wie Plattformregeln umgangen werden
Ein Grund dafür ist, dass Nutzer*innen versuchen, die automatisierten Moderationssysteme der Plattformen zu umgehen. jugendschutz.net beobachtet beispielsweise, dass problematische Begriffe absichtlich verändert, verschleiert oder durch Codes ersetzt werden. Auch Text in Bildern oder Videos kann so gestaltet werden, dass die suizidale Botschaft für andere Nutzer*innen erkennbar bleibt, von automatisierten Filtersystemen aber nicht erkannt wird. Teilweise werden dafür auch Symbole, Anspielungen oder popkulturelle Referenzen verwendet. Solche Strategien erschweren die automatische Erkennung und Moderation.
Hinzu kommt, dass nicht alle Inhalte, die sich mit Suizid oder psychischen Krisen beschäftigen, auf den Plattformen grundsätzlich verboten sind. So können Beiträge, in denen Nutzer*innen beispielsweise über eigene Erfahrungen mit psychischen Problemen sprechen oder sich mit dem Thema Suizid auseinandersetzen, zulässig sein. Doch auch diese Inhalte können für Menschen in einer akuten Krise problematisch werden, insbesondere, wenn sie sich in großer Zahl ansammeln. So gibt es eine große Menge an Inhalten, die zwar nicht eindeutig gegen die Plattformregeln verstoßen, aber auf vulnerable Nutzer*innen dennoch belastend oder verstärkend wirken können.
jugendschutz.net-Report: Suizidale Inhalte im Netz
Den gesamten Report von jugendschutz.net mit zahlreichen weiteren Hintergrundinformationen zu suizidalen Inhalten in Social Media finden Sie hier.
Personalisierten Empfehlungssysteme
Ein weiterer Grund dafür, dass Nutzer*innen mit problematischen Inhalten konfrontiert werden können, sind die personalisierten Empfehlungssysteme (oft auch „Algorithmen“ genannt) der Plattformen. Diese analysieren unter anderem, welche Inhalte Nutzer*innen ansehen und mit welchen Beiträgen sie interagieren. Auf dieser Grundlage versuchen die Systeme vorherzusagen, welche Inhalte ebenfalls interessant sein könnten und spielen mehr davon aus. Wer sich also wiederholt mit Beiträgen zu psychischer Gesundheit, Depressionen oder anderen belastenden Themen beschäftigt, dem werden zunehmend ähnliche Inhalte angezeigt.
Wie schnell sich eine solche Entwicklung vollziehen kann, hat Amnesty International in einem Experiment auf TikTok untersucht. Dazu richtete die Organisation drei Test-Accounts ein, die das Nutzungsverhalten 13-jähriger Nutzer*innen mit Interesse an psychischer Gesundheit simulierten. Dabei zeigte sich, dass der Anteil entsprechender Inhalte im Feed innerhalb kurzer Zeit stark zunahm. Bereits nach weniger als 20 Minuten waren die Feeds der drei Test-Accounts nahezu ausschließlich mit Inhalten rund um psychische Gesundheit gefüllt. Rund die Hälfte dieser Videos enthielt depressive Inhalte. Bei zwei der drei Accounts wurden innerhalb von 45 Minuten auch Videos angezeigt, in denen Suizidgedanken geäußert wurden. Und nach drei bis vier Stunden wurden Videos angezeigt, die Suizid romantisierten, Suizidankündigungen enthielten und über Methoden zur Selbsttötung informierten.
Die Ergebnisse zeigen, wie schnell sich ein personalisierter Feed auf ein bestimmtes Themenfeld verengen kann. Für Menschen, die sich bereits in einer psychischen Krise befinden, kann eine solche Verdichtung problematischer Inhalte besonders belastend sein. Anstatt unterschiedliche Perspektiven und mögliche Hilfsangebote zu sehen, werden sie immer wieder mit ähnlichen, zunehmend belastenden Inhalten konfrontiert.
Mangelhafte Moderation und Löschung
Auch bei den weiteren Schutzmaßnahmen der Plattformen zeigen sich erhebliche Mängel. So lassen die Ergebnisse der Recherche von jugendschutz.net Zweifel daran aufkommen, wie wirksam Instagram und TikTok ihre eigenen Regeln tatsächlich durchsetzen. Bei einem Test wurden jugendgefährdende Inhalte zunächst über die regulären Meldefunktionen der Plattformen gemeldet. Instagram löschte daraufhin lediglich 29 Prozent der gemeldeten Inhalte, bei TikTok waren es sogar nur 5 Prozent. Erst nach einer offiziellen Meldung durch jugendschutz.net wurden insgesamt 91 Prozent der Fälle gelöscht.
Die Ergebnisse sind ernüchternd: Obwohl die Plattformen umfangreiche Maßnahmen zum Schutz ihrer Nutzer*innen vor problematischen Inhalten vorsehen, bleiben eindeutig jugendgefährdende Inhalte nach einer Meldung offenbar häufig online. Aus Sicht des Jugendmedienschutzes braucht es deshalb wirksamere Moderationssysteme, die problematische Inhalte frühzeitig erkennen, ihre Weiterverbreitung verhindern und auf Meldungen zuverlässig reagieren.
Wie kann ich Betroffenen helfen?
Wenn die Person gesprächsbereit ist, fragen Sie, was sie aktuell belastet und wie Sie dazu beitragen können, ihre Situation zu verbessern. Fragen Sie auch, wie ernst die Suizidgedanken oder -absichten sind. Versuchen Sie, der betroffenen Person zuzuhören und sie ernst zu nehmen, anstatt vorschnell Lösungen oder Ratschläge anzubieten.
Besteht eine akute Suizidgefahr, sollte die betroffene Person nicht allein gelassen werden. Holen Sie in diesem Fall umgehend professionelle Hilfe. Bei unmittelbarer Gefahr wählen Sie den Notruf 112. In weniger akuten Situationen können beispielsweise Erziehungs- und Familienberatungsstellen, schulpsychologische Beratungsstellen oder andere Fachberatungsstellen (siehe unten) unterstützen.
Wichtig ist: Die Nutzung sozialer Medien ist nicht zwangsläufig problematisch oder gefährlich. Im Gegenteil kann sie für Menschen in Krisensituationen auch hilfreich sein, da sie so etwa Kontakt zu Freund*innen halten, Unterstützung finden oder sich ablenken können.
Online-Beratungsstellen zum Thema Suizid
Online-Beratungsstellen zum Thema Suizid