Promi-Pornos mit Kim Kardashian und Emma Watson: Deepfakes erobern das Internet

Stefan Bubeck

Face-Swap-Fotos waren erst der Anfang: Hochmoderne Software kann mittlerweile Gesichter in Videos durch beliebige andere Gesichter ersetzten. Es war nur eine Frage der Zeit, bis das Unheil seinen Lauf nimmt – nun spielen Prominente wie Scarlett Johansson, Natalie Portman, Gal Gadot oder Daisy Ridley unfreiwillig in sogenannten Deepfakes-Sex-Clips mit. Wie funktioniert das und ist das legal?

Promi-Pornos mit Kim Kardashian und Emma Watson: Deepfakes erobern das Internet
Bildquelle: Getty Images / Pascal Le Segretain .

Der Körper und die Handlung sind echt – das Gesicht nicht. Den Begriff „Face-Swap Porn“ dürfen wir uns fortan merken, denn Technologie macht ja bekanntermaßen nie einen Schritt zurück – was da ist, ist da. Nachdem klar wurde, dass künstliche Intelligenz allerlei Wunder bewirken kann, was Bildanalyse und -bearbeitung angeht, wird diese Entdeckung eifrig genutzt und weiterentwickelt. Beispiele für die Leistungsfähigkeit sind Googles Doppelgänger-Finder oder die populäre Funktion Face Swap in Snapchat. Das macht unheimlich Spaß und sieht verblüffend echt aus – nur beginnt hier bereits eine Grauzone des Anstands: Wenn man Gesichter in Videos austauschen kann, dann könnte man Menschen Handlungen unterjubeln, die sie nie durchgeführt haben.

Pornhub und Reddit sagen Face-Swap-Pornos den Kampf an

Prominente Versuchskaninchen der digitalen Bildmanipulation waren schnell Politiker wie Ex-US-Präsident Obama. Computerwissenschaftler warnen bereits vor folgenschwerem Missbrauch: „Man denke an die Alptraum-Situation von jemandem, der ein Video von Trump erstellt, in dem es heißt:“Ich habe Atomwaffen gegen Nordkorea gestartet“, und dieses Video wird viral, und bevor irgendjemandem klar wird, dass es eine Fälschung ist,“ erläutert Prof. Hany Farid (Dartmouth College).

Wie Motherboard im Dezember berichtete, hat auf Reddit ein User namens „deepfakes“ die Ergebnisse seines schlüpfrigen Hobbys geteilt: Er montierte die Gesichter von Gal Gadot, Maisie Williams, Taylor Swift und anderen prominenten Frauen in Ausschnitte aus Pornofilmen. Innerhalb kürzester Zeit versammelte der Subreddit „r/deepfakes“ über 90.000 Follower, die sich einen Blick auf Kreationen wie „Emma Watson sex tape demo“ werfen wollten.

Letzte Woche hat Reddit die Reißleine in Sachen „unfreiwillige Pornografie“ gezogen und Foren wie „/deepfakes“ „r/CelebFakes“ und „r/YouTubeFakes“ gesperrt. Auch die Plattform PornHub sowie beliebte Dienste wie Twitter und Gfycat schließen sich dem Kampf gegen den Missbrauch prominenter Gesichter in Erwachsenenunterhaltung an. „Benutzer haben begonnen, Inhalte wie diesen zu kennzeichnen, und wir löschen sie, sobald wir auf die Markierungen stoßen“, sagte Corey Price, Vizepräsident von PornHub gegenüber Mashable. „Wir ermutigen jeden, der auf dieses Problem stößt, unsere Seite zur Entfernung von Inhalten zu besuchen, damit er offiziell eine Anfrage stellen kann.“

Die Software dazu und die Praxis an sich bleiben wohl leider erhalten. Das Promi-Bildmaterial stammt aus YouTube-Clips, Stock-Foto-Diensten oder schlichtweg der Google Bildersuche, verarbeitet wird es dann mit Programmen wie „FakeApp“. Die „Magie“ der Software bedient sich bei Googles Machine-Learning-Werkzeug TensorFlow, das auch Teil von Android 8.0 ist. Zudem sind Java, FFmpeg, CUDA 8 und eine Nvidia-Grafikkarte erforderlich – sind alle Bedingungen erfüllt, kann der fragwürdige Spaß losgehen.

Unfreiwilliger Auftritt in Pornos: Das sagt der Gesetzgeber

Der Hype um Face-Swap Porn zeigt auf verstörende Weise, wie schnell sich aus faszinierendem technischem Fortschritt wie Bildmanipulation per AI plötzlich ein unmoralisches Hobby entwickeln kann. Die Büchse der Pandora ist geöffnet, die Folgen noch nicht abzusehen. Klar ist allerdings, dass das Anfertigen der gefälschter (Promi-)Pornos aus juristischer Sicht nicht in Ordnung geht: Es werde „das Persönlichkeitsrecht der abgebildeten Person aus Art. 2 Abs. 1, Art. 1 Grundgesetz (GG) verletzt. Eine solche Montage ist eine schwere Verletzung der persönlichen Ehre und betrifft sogar die sog. Intimsphäre, also den absolut geschützten Kern des Persönlichkeitsrechts,“ erklärt der deutsche Rechtsanwalt Christian Solmecke. Die Nutzung von Bildnissen einer Person ohne deren Einwilligung ist gemäß Kunsturheberrechtsgesetz nicht zulässig.

Fazit: Es gilt also alte Weisheit, dass man nicht alles tun sollte, nur weil es technisch möglich ist. Das zeigt nicht nur Respekt gegenüber den Promis, sondern ist letzten Endes im Sinne aller Menschen.

Quellen: Motherboard, The Outline, Mashable, CNBC, Heise

Zu den Kommentaren

Kommentare zu dieser News

* gesponsorter Link