Deepfakes und das Gesetz: Kein digitaler Wilder Westen mehr?

Der schnelle Fortschritt der KI hat eine tiefgreifende Frage in unser tägliches Leben gebracht: Was ist real? Da generative künstliche Intelligenz mittlerweile in der Lage ist, Bilder, Audio- und Videoinhalte zu erstellen, die praktisch nicht von echtem Inhalt zu unterscheiden sind, wird das Konzept der digitalen Wahrheit selbst angegriffen. Dies ist nicht nur eine akademische Debatte; es hat greifbare, oft verheerende Folgen, von Wahleinmischung bis zur Verbreitung nicht-konsensueller intimer Bilder, die die Gesellschaft zwingen, sich in einem beispiellosen Tempo mit neuen rechtlichen und ethischen Problemen auseinanderzusetzen.

Deepfake-Vorfälle stiegen 2024 um erstaunliche 257 %, wobei allein im ersten Quartal 2025 19 % mehr Vorfälle zu verzeichnen waren als im gesamten Vorjahr. Diese Verbreitung geht nicht nur um ausgeklügelte Falschmeldungen; es geht darum, die Wahrnehmung auf einer grundlegenden Ebene zu verändern und das grundlegende Vertrauen in das, was wir sehen und hören, zu untergraben. Das Rechtssystem, das traditionell langsam in der Anpassung ist, versucht nun, Schutzmechanismen gegen diese sich schnell entwickelnde Bedrohung zu errichten, doch der Weg ist voller Herausforderungen und ethischer Dilemmata.

Wahrnehmung als Waffe: Deepfakes in der Politik

Die politische Arena hat sich als fruchtbarer Boden für Deepfakes erwiesen, wo gefälschte Inhalte Misstrauen säen und die öffentliche Meinung mit alarmierender Geschwindigkeit beeinflussen können. Generative KI kann gewählte Politiker überzeugend imitieren, Audio mit der Stimme jeder Person synthetisieren und realistische Bilder oder Videos generieren. Diese trügerischen Inhalte sind besonders gefährlich im Vorfeld einer Wahl, wenn wenig Zeit bleibt, sie zu entlarven, bevor die Wähler zu den Urnen gehen. Die jüngste Geschichte bietet deutliche Warnungen.

In den Tagen vor der slowakischen Wahl im Oktober 2023 gingen Deepfake-Audioaufnahmen, die Michal Šimečka, den Vorsitzenden der pro-westlichen Partei Progressive Slowakei, offenbar beim Diskutieren über Wahlbetrug und die Verdoppelung der Bierpreise zeigten, in den sozialen Medien viral. Obwohl einige Clips Haftungsausschlüsse enthielten, erschienen diese oft erst 15 Sekunden in 20-sekündigen Audioinhalten, was Forscher zu der Annahme einer bewussten Täuschung führte. Šimečkas Partei verlor letztlich eine knappe Wahl, was Spekulationen aufkommen ließ, dass diese spät zirkulierenden Deepfakes das Ergebnis beeinflusst haben könnten – ein besorgniserregender Präzedenzfall für Demokratien weltweit.

Die Vereinigten Staaten sehen bereits den Einfluss von KI in Wahlkämpfen. Im Wahlzyklus 2024 beispielsweise setzten republikanische Vorwahlkandidaten KI in Wahlwerbung ein. Die Kampagne des Gouverneurs von Florida, Ron DeSantis, veröffentlichte bekanntermaßen KI-generierte Bilder des ehemaligen Präsidenten Donald Trump, der Anthony Fauci umarmte, eine Figur, die bei vielen republikanischen Wählern zu einem Zankapfel geworden ist. Da KI-Tools immer ausgefeilter werden, können wir einen noch größeren Zustrom betrügerischer Kommunikation in politischen Auseinandersetzungen erwarten, was eine robuste rechtliche und gesellschaftliche Reaktion erfordert.

Die Geißel nicht-konsensueller Bilder

Jenseits der politischen Manipulation ist eine der weit verbreitetsten und abscheulichsten Anwendungen der Deepfake-Technologie die Erstellung nicht-konsensueller intimer Bilder (NCII). Erschreckende 96 % der Deepfake-Videos im Internet sind nicht-konsensuelle Pornografie, wobei Frauen überproportional oft Opfer sind. Dies stellt eine entsetzliche neue Form geschlechtsspezifischen Missbrauchs dar, der Individuen ihrer Privatsphäre und Würde beraubt und es den Opfern oft nahezu unmöglich macht, diese gefälschten expliziten Videos aus dem Internet entfernen zu lassen. Dieses Problem hat die Gesetzgeber zum Handeln bewogen, was zu einigen der konkretsten Deepfake-Gesetze bis heute geführt hat.

In den USA wurde der TAKE IT DOWN Act (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act) am 19. Mai 2025 von Präsident Donald Trump unterzeichnet. Dieses parteiübergreifende Gesetz, das von Senator Ted Cruz nach einem Vorfall mit texanischen Gymnasiasten vorangetrieben wurde, kriminalisiert die Veröffentlichung von NCII mit Strafen von bis zu zwei Jahren Haft für erwachsene Opfer und härteren Strafen für Bilder, die Minderjährige betreffen. Das Gesetz verpflichtet auch Websites und soziale Mediendienste, solche Bilder innerhalb von 48 Stunden nach Aufforderung eines Opfers zu entfernen. Die erste Verurteilung im Rahmen des Gesetzes erfolgte im April 2026, wobei ein Mann aus Ohio zu 15 Jahren Haft verurteilt wurde, weil er NCII von Erwachsenen und Kindern erstellt und geteilt hatte.

Das Flickwerk von Gesetzen und drohende Herausforderungen

Während der TAKE IT DOWN Act einen bedeutenden bundesweiten Schritt darstellt, bleibt der gesamte US-Ansatz zur Deepfake-Regulierung komplex