Sex-Deepfakes nehmen zu und Pornoseiten tun kaum was dagegen

137
Deepfake-Pornos

Im Internet tauchen immer mehr Erotikvideo-Montagen auf, in denen das Gesicht von Pornodarstellerinnen per KI-Technologie durch das anderer Personen ersetzt wurde. Anfangs gehörten nur Prominente zu den Opfern der sogenannten Sex-Deepfakes, inzwischen sind häufig auch Privatpersonen betroffen. Und die großen Pornoseiten schauen tatenlos zu.

Alles begann mit Fakepornos von Schauspielerinnen

Ob Schauspielerinnen, Musiker, Politiker oder Privatpersonen, sie alle sind einer miesen Masche namens „Deepfake“ schutzlos ausgeliefert. Es handelt sich dabei um per KI-Tricktechnik erzeugte Fälschungen von Videos. Bei Sex-Deepfakes wird genaugenommen das Gesicht eines Pornodarstellers durch das einer anderen Person ersetzt. Die betroffene Person wird auf diese Weise quasi unfreiwillig zum Protagonisten eines Sexfilms.

Ihren Ursprung haben Sex-Deepfakes im Jahr 2007, als ein anonymer Nutzer der Online-Plattform „Reddit“ unter dem Pseudonym „deepfakes“ Porno-Fälschungen berühmter Hollywood-Schauspielerinnen wie Scarlett Johansson, Emma Watson oder Gal Gadot veröffentlichte. Das perfide: Die Fakes waren kaum von ihren realen Vorbildern zu unterscheiden. Ein Porno mit Emma Watson, der natürlich eigentlich gar kein Porno mit Emma Watson ist, wurde somit für einen Porno mit Emma Watson gehalten. Man braucht nicht viel Fantasie, um sich zumindest annähernd die verheerenden Konsequenzen für Betroffene vorstellen zu können.

Deepfakes, die wegen des Profilnamens des Reddit-Nutzers fortan so genannt wurden, wurden weltweit in den Medien rauf und runter diskutiert. Gleichzeitig bildeten sich im Internet Deepfaker-Communitys, die einschlägige Videos erstellten und verbreiteten. In den meisten Fällen, um Personen zu schaden oder sich einen billigen Spaß zu erlauben. So waren es oftmals Männer, die sich an ihrer Ex-Freundin rächen wollten – eben mit einer Porno-Fälschung.

Deepfake-Videos haben mehr als 134 Millionen Aufrufe

Inzwischen ist es ruhiger um die Deepfake-Thematik geworden – zumindest was die mediale Berichterstattung angeht. Allerdings kann nicht die Rede davon sein, dass sich das Problem gelegt hat. Ganz im Gegenteil. Ob man es glaubt oder nicht, aber die Herstellung von Video-Fälschungen und deren Verbreitung übers Internet genießt weiterhin Hochkonjunktur. Genaueren Aufschluss geben die Zahlen des Startups Sensity.

Laut dem Unternehmen wurden 2020 bisher rund 1.000 Deepfake-Pornos pro Monat ins Netz hochgeladen. Und 2019 verzeichneten die Videos auf den beliebtesten vier Deepfake-Pornoseiten mehr als 134 Millionen Aufrufe. Eine unglaubliche Gesamtzahl.

Die Ausmaße werden noch deutlicher, wenn man einen Blick auf die Aufrufzahlen von Deepfakes auf gängigen Porno-Plattformen wie xHamster, Xvideos oder Xnxx wirft. Dort wurden derartige Videos teilweise mehrere Millionen Mal angeklickt. Bedeutet: Deepfake-Pornos sind nach wie vor sehr beliebt. Es ist zu befürchten, dass dieser unmoralische Trend nicht so schnell abreißt.

Auch Privatpersonen im Visier von Deepfakern

Das Online-Magazin Wired.com hat mit Sensity-CEO Giorgio Patrini gesprochen. „Einige Technologien entwickeln sich so schnell, weil die Gesellschaft auf einem extrem fortschrittlichen Level angelangt ist. In gewisser Hinsicht ist das bedauerlich“, sagt Patrini. „Ich denke wir werden das, was wir bisher größtenteils bei Prominenten [mit Deepfakes] gesehen haben, sehr bald in einem noch viel größeren Ausmaß bei Privatpersonen sehen.“

Sensity-Deepfake-Statistik
Anzahl identifizierter Deepfakes (Grafik: Sensity)

Auch die statistischen Erhebungen von Sensity legen diesen Schluss nahe. So fand das Unternehmen im Juli 2019 rund 15.000 Deepfakes im Internet, ein Jahr später im Juni 2020 waren es mit fast 50.000 mehr als dreimal so viele. Unwahrscheinlich, dass es sich dabei ausschließlich um Prominenten-Deepfakes handelt.

Polit-Deepfakes als Gefahr für die Gesellschaft

Deepfakes von berühmten Schauspielern und Sängern sind das eine. Werden hingegen Statements von Politikern mit moderner KI-Technologie gefaket, nimmt das Thema eine ganz andere Dimension an. Es wird auf einmal zu einem Problem von politischer Relevanz. Ganze Wahlkämpfe könnten durch Deepfakes beeinflusst und die Wähler manipuliert werden. Stichwort: Propaganda und Fake-News.

Diese Gefahren für die Gesellschaft werden auch aktuell im Vorfeld der US-Präsidentschaftswahlen diskutiert. Zwar wurden in einzelnen Bundesstaaten bereits Gesetze erlassen, die die Verbreitung von KI-Fake-Videos verbieten, allerdings gibt es in den USA diesbezüglich keine flächendeckenden Regelungen. Außerdem befürchten Kritiker trotz der guten Absicht von Anti-Deepfake-Gesetzen eine Unterdrückung der Meinungsfreiheit.

Herstellung von KI-Fälschungen immer leichter

Deepfakes können also erheblichen Schaden anrichten – sogar auf politischer Ebene. Und die Zahlen zeigen, dass jedes Jahr mehr gefakte Videos und Bilder auftauchen. Diese Kombination lässt Schlimmes befürchten.

Facebook-Deepfake-AI
Facebook kämpft mit einer eigenen AI gegen Deepfakes

Zumal es immer leichter wird, Deepfakes herzustellen. Waren es anfangs nur eine handvoll gewiefter Technik-Tüftler, die dazu in der Lage waren, sind KI-Fälschungen inzwischen nur noch wenige Mausklicks entfernt. Es gibt sogar Softwareanwendungen eigens zur Deepfake-Herstellung – die noch dazu einfach zu bedienen sind. Außerdem findet man im Internet haufenweise Anleitungen zur schnellen Anfertigung von Deepfakes.

KI-Experten schlagen deshalb Alarm. Ihre Kernaussage: Wenn die Entwicklung in der Geschwindigkeit weitergeht, steht uns ein neues Medienzeitalter bevor, in dem Aufnahmen jeglicher Art (Bilder, Videos, Audio) keine Beweiskraft mehr haben.

Pornoseiten halten sich zurück

Da Sex-Deepfakes am weitesten verbreitet sind, fragt man sich natürlich: Warum tun Pornoseiten nichts gegen den Deepfakes-Trend? Gegenüber Wired erklärt Patrini: „Bis es einen starken Grund für Porno-Websites gibt, KI-Fälschungen zu löschen, bin ich mir absolut sicher, dass nichts passieren wird.“

Was der CEO damit impliziert ist klar: Deepfakes werden von Millionen von Menschen geschaut und Klickzahlen sind gleichbedeutend mit Einnahmen. Schließlich handelt es sich bei vielen Pornoseiten um kostenlose Tube-Portale, die Werbung auf ihre Clips schalten. Und auch Deepfake-Videos enthalten Werbung.

Porno-Deepfakes auf xHamster

Hinzu kommt, dass viele Deepfakes mittlerweile so ausgeklügelt sind, dass deren Filterung einen erheblichen Mehraufwand bedeuten würde. Sie lassen sich nämlich nur mit spezieller Deepfake-Erkennungssoftware identifizieren. Pornoseiten profitieren also in doppelter Hinsicht davon, nicht gegen Deepfakes vorzugehen.

Dennoch: Strenggenommen sind Pornoseiten rechtlich dazu verpflichtet, Deepfakes zu löschen. Denn die Video-Fakes wurden – zumindest in den meisten Fällen – ohne Zustimmung der darauf zu sehenden Personen angefertigt. Und die Verbreitung von uneinvernehmlichen Aufnahmen ist gemäß der Richtlinien der meisten Portale verboten.

Es bleibt abzuwarten, ob sich die Handlungsbereitschaft von Pornoseiten bei Deepfakes in Zukunft ändert und/oder der Gesetzgeber irgendwann härter durchgreift. So manch einer würde sich das sicherlich wünschen.