Anzeige
Anzeige
News
Artikel merken

App „Face Magic“ wirbt auf Porno-Plattformen für Deepfakes

Laut den App-Stores von Google und Apple ist „Face Magic“ ein kreatives Spaß-Tool. Mit der App lassen sich Gesichter in Fotos und Videos austauschen. Sie wirbt aber auch in einem Bereich, in dem Deepfakes längst kein lustiges Experiment mehr sind.

3 Min. Lesezeit
Anzeige
Anzeige
Gesichtserkennung und Deepfakes können praktisch oder unterhaltsam sein - aber auch zur Gefahr oder Demütigung werden. (Foto: Shutterstock/Mihai Surdu)

Das eigene Gesicht auf den Körper von Beyoncé legen, die Köpfe von Schauspieler:innen durch die Gesichter von Freundinnen und Freunden ersetzen – all das geht mit sogenannten Face-Swap-Apps. Eine davon ist Face Magic, ein Produkt der britischen Firma Insight Technology LTD.

Face-Swap-App Face Magic: Mehr als nur Unterhaltung?

Anzeige
Anzeige

„Mit nur einem Selfie zum Star werden“, so wirbt Face Magic beispielsweise im Google-Play-Store. Die App, die dort im Bereich „Unterhaltung“ gelistet ist, verzeichnet bereits mehr als eine Million Downloads. Sie bietet ihren Usern die Möglichkeit, Gesichter auf Fotos und in Videos mithilfe von künstlicher Intelligenz auszutauschen. Die Bewertungen der App sind durchwachsen, freigegeben ist Face Magic ab 16 Jahren, weil Insight Technology mit In-App-Käufen arbeitet. Die Hauptfunktionen werden durch eine monatliche Gebühr von zehn Dollar freigeschaltet.

Der Tausch der Gesichter soll mit Face Magic „in nur wenigen Sekunden“ durchführbar sein, heißt es im Text zur App. Genau diese Formulierung taucht aber nicht nur in der harmlos gestalteten App-Store-Beschreibung auf – sondern auch in Face-Magic-Werbung, die auf mehreren Pornoseiten geschaltet worden ist. Ein Rechercheteam von Motherboard, der Tech-Abteilung bei Vice, hat sich eben diese Werbung genauer angeschaut.

Anzeige
Anzeige

Deepfakes in Pornos: Kein harmloser Spaß

„Erstellen Sie Deepfake-Pornos in nur einer Sekunde“, so das Versprechen einer entsprechenden Anzeige, dazu die Aufforderung: „Jetzt erstellen!“ Zu sehen ist dabei laut Schilderung der Motherboard-Journalist:innen, wie das Gesicht einer bekannten Pornodarstellerin durch das eines anderen Models ersetzt wird.

Anzeige
Anzeige

Das perfide an diesem Geschäftszweig von Face Magic: Im pornographischen Kontext werden Deepfakes und Face-Swaps häufig genutzt, um Personen ohne deren Einvernehmen in expliziten Szenen darzustellen. Die Werbung auf entsprechenden Seiten würde dabei die Hemmschwelle noch einmal deutlich senken, nicht-einvernehmliche Pornos zu erstellen, so Adam Dodge gegenüber Motherboard.

Dodge ist Gründer einer Organisation, die sich gegen technologisch ermöglichten Missbrauch einsetzt. „Diese Anzeigen beseitigen die letzten Barrieren, auf die wir uns verlassen haben, um zu verhindern, dass nicht-einvernehmliche Deepfake-Pornos zum Mainstream werden.“

Anzeige
Anzeige

Motherboard berichtet von insgesamt vier Pornoseiten, auf denen im Laufe der Recherche Anzeigen von Face Magic sichergestellt wurden. Im Selbstversuch habe die App beim Upload von erstellten Deepfake-Pornos lediglich einen Hinweis darauf gegeben, man solle Face-Swap-Kreationen nicht für illegale Zwecke nutzen. Wer in Deutschland allerdings Deepfake-Pornos ohne das Einvernehmen der dargestellten Person erstellt und verbreitet, verstößt damit häufig gleich gegen mehrere Gesetze.

Andere Betreiber, wie beispielsweise Reface, verhindern im Gegensatz zu Face Magic schon den Upload bestimmter Inhalte, die als „möglicherweise unangemessen“ eingestuft werden.

Face Magic: Face-Swap-App mit dubiosen Strukturen

Die Urheber von Face Magic waren auf Anfragen von Motherboard nicht eingegangen. Aus der Recherche der Journalist:innen geht allerdings hervor, dass das Unternehmen teils dubiose Inhalte und Praktiken an den Tag legt, und neben Face Magic noch einen weiteren, nahezu identischen Deepfake-Service unter anderem Namen anzubieten scheint. Auch der wird auf einer Pornoseite beworben – mit dem gleichen Videomaterial wie Face Magic.

Anzeige
Anzeige

Genau dieses Material ist übrigens ohne das Wissen der gezeigten Darstellerin, Ella Hughes, verwendet worden. Auf Anfrage von Motherboard sagt sie: „Wir werden für diesen Deepfake-Ersteller nicht extra bezahlt, [und] ich bin mit dem ganzen Konzept des Gesichtstauschs in Pornovideos nicht einverstanden, da die Gefahr besteht, dass das für Rachepornos verwendet wird.“ Die Rechte am Videomaterial gehören allerdings nicht der Schauspielerin, sondern liegen bei der Produktionsfirma Vixen Group, die sich zu den Werbeanzeigen nicht äußern wollte.

Motherboard hatte auch die Betreiber der betroffenen Porno-Seiten um ein Statement gebeten. Zwei Plattformen hatten sich darauf explizit gegen Deepfake-Content ausgesprochen – die Verwaltung der Werbeanzeigen liege aber bei externen Partnern.

Mehr zu diesem Thema
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Schreib den ersten Kommentar!
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige