Das eigene Gesicht auf den Körper von Beyoncé legen, die Köpfe von Schauspieler:innen durch die Gesichter von Freundinnen und Freunden ersetzen – all das geht mit sogenannten Face-Swap-Apps. Eine davon ist Face Magic, ein Produkt der britischen Firma Insight Technology LTD.
Face-Swap-App Face Magic: Mehr als nur Unterhaltung?
„Mit nur einem Selfie zum Star werden“, so wirbt Face Magic beispielsweise im Google-Play-Store. Die App, die dort im Bereich „Unterhaltung“ gelistet ist, verzeichnet bereits mehr als eine Million Downloads. Sie bietet ihren Usern die Möglichkeit, Gesichter auf Fotos und in Videos mithilfe von künstlicher Intelligenz auszutauschen. Die Bewertungen der App sind durchwachsen, freigegeben ist Face Magic ab 16 Jahren, weil Insight Technology mit In-App-Käufen arbeitet. Die Hauptfunktionen werden durch eine monatliche Gebühr von zehn Dollar freigeschaltet.
Der Tausch der Gesichter soll mit Face Magic „in nur wenigen Sekunden“ durchführbar sein, heißt es im Text zur App. Genau diese Formulierung taucht aber nicht nur in der harmlos gestalteten App-Store-Beschreibung auf – sondern auch in Face-Magic-Werbung, die auf mehreren Pornoseiten geschaltet worden ist. Ein Rechercheteam von Motherboard, der Tech-Abteilung bei Vice, hat sich eben diese Werbung genauer angeschaut.
Deepfakes in Pornos: Kein harmloser Spaß
„Erstellen Sie Deepfake-Pornos in nur einer Sekunde“, so das Versprechen einer entsprechenden Anzeige, dazu die Aufforderung: „Jetzt erstellen!“ Zu sehen ist dabei laut Schilderung der Motherboard-Journalist:innen, wie das Gesicht einer bekannten Pornodarstellerin durch das eines anderen Models ersetzt wird.
Das perfide an diesem Geschäftszweig von Face Magic: Im pornographischen Kontext werden Deepfakes und Face-Swaps häufig genutzt, um Personen ohne deren Einvernehmen in expliziten Szenen darzustellen. Die Werbung auf entsprechenden Seiten würde dabei die Hemmschwelle noch einmal deutlich senken, nicht-einvernehmliche Pornos zu erstellen, so Adam Dodge gegenüber Motherboard.
Dodge ist Gründer einer Organisation, die sich gegen technologisch ermöglichten Missbrauch einsetzt. „Diese Anzeigen beseitigen die letzten Barrieren, auf die wir uns verlassen haben, um zu verhindern, dass nicht-einvernehmliche Deepfake-Pornos zum Mainstream werden.“
Motherboard berichtet von insgesamt vier Pornoseiten, auf denen im Laufe der Recherche Anzeigen von Face Magic sichergestellt wurden. Im Selbstversuch habe die App beim Upload von erstellten Deepfake-Pornos lediglich einen Hinweis darauf gegeben, man solle Face-Swap-Kreationen nicht für illegale Zwecke nutzen. Wer in Deutschland allerdings Deepfake-Pornos ohne das Einvernehmen der dargestellten Person erstellt und verbreitet, verstößt damit häufig gleich gegen mehrere Gesetze.
Andere Betreiber, wie beispielsweise Reface, verhindern im Gegensatz zu Face Magic schon den Upload bestimmter Inhalte, die als „möglicherweise unangemessen“ eingestuft werden.
Face Magic: Face-Swap-App mit dubiosen Strukturen
Die Urheber von Face Magic waren auf Anfragen von Motherboard nicht eingegangen. Aus der Recherche der Journalist:innen geht allerdings hervor, dass das Unternehmen teils dubiose Inhalte und Praktiken an den Tag legt, und neben Face Magic noch einen weiteren, nahezu identischen Deepfake-Service unter anderem Namen anzubieten scheint. Auch der wird auf einer Pornoseite beworben – mit dem gleichen Videomaterial wie Face Magic.
Genau dieses Material ist übrigens ohne das Wissen der gezeigten Darstellerin, Ella Hughes, verwendet worden. Auf Anfrage von Motherboard sagt sie: „Wir werden für diesen Deepfake-Ersteller nicht extra bezahlt, [und] ich bin mit dem ganzen Konzept des Gesichtstauschs in Pornovideos nicht einverstanden, da die Gefahr besteht, dass das für Rachepornos verwendet wird.“ Die Rechte am Videomaterial gehören allerdings nicht der Schauspielerin, sondern liegen bei der Produktionsfirma Vixen Group, die sich zu den Werbeanzeigen nicht äußern wollte.
Motherboard hatte auch die Betreiber der betroffenen Porno-Seiten um ein Statement gebeten. Zwei Plattformen hatten sich darauf explizit gegen Deepfake-Content ausgesprochen – die Verwaltung der Werbeanzeigen liege aber bei externen Partnern.
