Was sind Deepfakes?
Der Papst in dicker weißen Daunenjacke, Donald Trump in Handschellen gewaltsam abgeführt und Olaf Scholz beantragt ein AfD-Verbot. Gefälschte Bilder und Videos von bekannten Personen, sogenannte Deepfakes, gibt es viele. Bei einigen Aufnahmen fällt es den Betrachtenden leichter zu erkennen, dass es sich um Fälschungen handelt. Zum Beispiel weil eine Person zu viele Finger oder Zähne hat. Bei anderen ist die Fälschung jedoch kaum zu erkennen. Denn: Deepfakes, die mithilfe generativer KI erstellt werden können, werden immer besser. Dr. Bernd Zywietz von jugendschutz.net erklärt, was wir unter Deepfakes verstehen können und was wir zu ihrem Ursprung wissen sollten.
→ Das Video steht auch zum kostenlosen Download als mp4-Datei zur Verfügung.
Wie können Deepfakes von extremistischen Gruppen eingesetzt werden?
Nicht jeder Deepfake dient im Ursprung der gezielten Verbreitung von Desinformation. Problematisch und zum Risiko für die Gesellschaft werden solche Aufnahmen aber genau dann, wenn u.a. extremistische Gruppen solche Inhalte teilen, um die Gesellschaft beispielsweise gegen einzelne Personen aufzubringen und gezielt Hass zu schüren. Dr. Bernd Zywietz beschäftigt sich mit politischem Extremismus und weiß, wie Deepfakes in diesem Kontext eingesetzt werden.
→ Das Video steht auch zum kostenlosen Download als mp4-Datei zur Verfügung.
Welche Wirkung können Deepfakes haben?
Deepfakes können starke Emotionen hervorrufen, beispielsweise Empörung oder Hass gegen einzelne Personen oder Bevölkerungsgruppen schüren. Und gerade vor Wahlen können Deepfakes gezielt verbreitet werden, um die Gesellschaft zu polarisieren, wie Dr. Bernd Zywietz von jugendschutz.net beobachtet hat.
→ Das Video steht auch zum kostenlosen Download als mp4-Datei zur Verfügung.
Wie können Jugendliche mit extremistischen Deepfakes in Kontakt kommen?
Extremistische Deepfakes werden häufig zunächst in Gruppen zum Beispiel bei dem Messenger Telegram geteilt, bevor sie auf den großen Social-Media-Plattformen wie Instagram und TikTok landen. Einmal verbreitet, sind extremistische Inhalte schwer wieder einzufangen. So können auch Kinder und Jugendliche mit Deepfakes in Berührung kommen, die extremistische Ziele verfolgen. Im Video erklärt Dr. Bernd Zywietz von jugendschutz.net, warum junge Menschen auf der einen Seite schneller als ältere Generationen manipulierte Inhalte erkennen können, auf der anderen Seite jedoch die Gefahr besteht, dass sie die Inhalte dennoch nicht richtig einordnen.
→ Das Video steht auch zum kostenlosen Download als mp4-Datei zur Verfügung.
Wie können wir mit Deepfakes umgehen?
Zukünftig wird es immer schwieriger zu erkennen, ob es sich bei einem Foto, Video oder einer Audioaufnahme um einen Deepfake handeln könnte. Einige Dienste sehen vor, dass KI-generierte Inhalte grundsätzlich gekennzeichnet sein müssen. Nicht alle Deepfakes werden aber tatsächlich auch als solche markiert. Dr. Bernd Zywietz gibt uns wichtige Hinweise, wie wir mit Deepfakes im Netz heute und in Zukunft umgehen können.
→ Das Video steht auch zum kostenlosen Download als mp4-Datei zur Verfügung.
Weitere Informationen zu „Keine Likes für Lügen“
Der klicksafe Expert*innen-Talk zum Thema „Deepfakes und Extremismus“ ist Teil der klicksafe-Kampagne „Keine Likes für Lügen“ zum Safer Internet Day 2025. Ziel der Kampagne ist es, junge Menschen für Extremismus und Populismus im Internet zu sensibilisieren. Alle Informationen zum SID 2025 gibt es auf unserer SID-Landingpage.
Nutzen Sie auch gerne die weitere Materialien rund um den Safer Internet Day: