Anzeige
Anzeige
News

Deepfake-Pornos: Petition fordert stärkere Regulierung von KI-Apps

Hate Aid hat mit Prominenten und Betroffenen eine Petition gestartet, die einen engeren Rechtsrahmen für KI-Apps fordert. Diese Tools sollen interne Sperren gegen die Erstellung von Pornografie erhalten.

2 Min.
Artikel merken
Anzeige
Anzeige
Hate Aid will Deepfake-Pornos nachhaltig stoppen. (Bild: Hate Aid)

Die Organisation Hate Aid, die ursprünglich als Unterstützungsorgan für Betroffene von Hass-Rede und Diskriminierung gegründet worden war, sieht sich immer stärker auch in den Kampf gegen sogenannte Deepfake-Pornos involviert. Darunter sind pornografische Darstellungen zu verstehen, bei denen die Gesichter Betroffener in eindeutige sexuelle Aktivitäten einmontiert werden.

Anzeige
Anzeige

Kranke Fantasien mit KI täuschend echt umgesetzt

So wirkt es auf Betrachtende, als wären die Betroffenen tatsächlich Akteure dieser Aktivitäten. Mit modernen KI-Tools gelangen solche Montagen sogar in Bewegtbildern täuschend echt. Natürlich ist die Verbreitung solcher Darstellungen ohne die Zustimmung der angeblich Gezeigten eine Verletzung geltenden Rechts.

Das hält Internetnutzende nicht davon ab, solches Material in großer Zahl zu posten. Zahlen der Analysefirma Sensity AI, die in einem Bericht des Europaparlaments aus dem Juni 2021 (PDF)veröffentlicht wurden, zeigen, dass rund neun von zehn aller Deepfakes Porno-Aufnahmen – meist von Frauen – betreffen.

Anzeige
Anzeige

Das zeigt, dass die Diskussion um Deepfakes in den vergangenen Jahren in die falsche Richtung zielte. Zumeist wurden Deepfakes eher wegen ihrer potenziellen Gefährdung demokratischer Strukturen angegriffen. Sicherlich sind Falschmeldungen, die angeblich von echten Politikerinnen und Politikern vorgetragen werden, immer noch ein Risiko.

Nun aber stellen insbesondere Politikerinnen fest, dass sie zu häufig unfreiwillig zu Darstellerinnen in KI-Pornos avancieren. Dieses Schicksal teilen sie mit vielen weiblichen Personen, von denen es eine Fülle von Bildmaterialien gibt, wie etwa bei Influencerinnen oder Schauspielerinnen.

Anzeige
Anzeige

Bundesregierung soll scharfe Regeln für KI-Tools erlassen

Das will Hate Aid nicht länger akzeptieren und fordert die Bundesregierung, allen voran Digitalminister Volker Wissing (FDP), mit einer jüngst gestarteten Petition zum Handeln auf. Der solle regulatorisch sicherstellen, dass keine Apps zum Erstellen manipulierter Nacktaufnahmen mehr angeboten und beworben werden können.

KI-Apps mit entsprechenden Fähigkeiten sollten vielmehr nur noch dann in den App-Stores erhältlich sein, wenn deren Hersteller ausdrücklich Schutzmaßnahmen einbauen, die die Verwendung der Tools für die Generierung von Pornos verhindern.

Anzeige
Anzeige

Erst diese Woche hatte der Hersteller des Open-Source-KI-Text-zu-Bild-Generators Stable Diffusion eine neue Version seiner Software veröffentlicht, die Nutzenden erschwert, Nacktdarstellungen und pornografische Bilder zu erzeugen. Der Hersteller sah sich daraufhin einer Welle der Kritik ausgesetzt – wie The Verge berichtet.

Das dürfte wohl – nüchtern betrachtet – beweisen, dass die Petition genau das Richtige fordert.

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Kommentare

Community-Richtlinien

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Kommentar abgeben

Melde dich an, um Kommentare schreiben und mit anderen Leser:innen und unseren Autor:innen diskutieren zu können.

Anmelden und kommentieren

Du hast noch keinen t3n-Account? Hier registrieren

Anzeige
Anzeige