Seit einigen Jahren tauchen immer wieder Berichte von Personen auf, die per Deepfakes unfreiwillig zu Pornodarstellern gemacht wurden. Die neue Folge der MDR-Reportagereihe „exactly” beleuchtet die Gefahren der KI-Technologie nun genauer.
Wie gefährlich sind Deepfakes? MDR-Reportage liefert Einblicke
Ob Scarlett Johansson, Gal Gadot oder Tom Cruise, alle drei US-Schauspieler sind schon mal Opfer von sogenannten Deepfakes geworden. Eine perfide Cyber-Masche, bei der das Gesicht einer Person inklusive der Mimik gescannt und anschließend auf einen anderen Körper übertragen wird.
Vor allem pornografische Deepfakes von Prominenten und Nicht-Prominenten wurden zuletzt vermehrt verbreitet, da sich die gefälschten Videoaufnahmen inzwischen ganz einfach per Smartphone-App erstellen lassen. Der MDR hat die immer stärkere Relevanz des Themas nun zum Anlass genommen, eine Folge der Reportagereihe „exactly” der tückischen KI-Technologie zu widmen und Aufklärung zu schaffen, wie gefährlich Deepfakes eigentlich für die Gesellschaft sind.
Mit Sophie kommt in der Sendung auch eine unmittelbar Betroffene zu Wort, die mit solch gefälschten Inhalten erpresst wurde. Sie erzählt: „Irgendwann hatte ich keine Kraft mehr, dagegen zu kämpfen. Ich habe dann alle meine Social Media-Profile gelöscht.”
Gefahr durch Deepfake-Porn: Wie Frauen durch Face-Swap-Apps ungewollt zu Erotikdarstellern werden
Streamerin berichtet von mangelnder Unterstützung durch die Justiz
Ähnlich wie Sophie erging es der bekannten Twitch-Streamerin Shurjoka (bürgerlicher Name Pia Scholz). Sie schildert: „Menschen übernehmen Macht über mich als Person, über meinen Körper, gegen meinen Willen und zwingen mir ihre Fantasien auf.” Die große Menge an Material würde in ihr ein Gefühl der Ohnmacht auslösen.
Zudem betont Shurjoka, dass sie sich von der Justiz im Stich gelassen fühlt – und das ist kein Zufall, wie Josephine Ballon weiß. Die Anwältin, die in der Reportage die rechtliche Seite von Deepfakes beleuchtet, sagt: „Es wird suggeriert, dass es den Staat nicht interessiert, dass vermeintliche Nacktfotos von dir in aller Öffentlichkeit kursieren. Man kann es anzeigen, und irgendwie wird es im Gesetz auch abgebildet, aber es wird so gut wie nie verfolgt.“
Denn in Deutschland gibt es lediglich Gesetze, die indirekt auf pornografische Deepfakes angewandt werden können, zum Beispiel das Recht am eigenen Bild. Ein Gesetz, das explizit die Erstellung und Verbreitung von Deepfakes verbietet, gibt es hingegen nicht. Ballon hält das für eine Gesetzeslücke.
Die Deepfake-Reportage von „exactly” ist seit dem 18. September 2023 in der ARD-Mediathek abrufbar. Außerdem ist der Film auf dem YouTube-Channel „MDR investigativ” zu sehen.
AI Porn: Die 20 besten Generatoren für KI-Porno-Videos & -Pics
Sex-Deepfakes nehmen zu und Pornoseiten tun kaum was dagegen
