Deepfakes von Taylor Swift: X schränkt Suche ein – und das Weiße Haus zeigt sich alarmiert
Über das Wochenende war es über Stunden nicht möglich, auf dem ehemals als Twitter bekannten Kurznachrichtendienst X nach Taylor Swift zu suchen. Zuvor hatte es eine Welle an Beiträgen gegeben, die von KI gefälschte Nacktbilder der Popsängerin enthielten.
Gegenüber US-Medien erklärte Joe Benarroch, Leiter des Geschäftsbetriebs bei X, dass es sich um eine temporäre Maßnahme handele. Mittlerweile ist die Suche nach der Sängerin wieder möglich.
Elon Musk hat seit der Übernahme Tausenden Moderatoren gekündigt
Kurz nach der Übernahme von Twitter im Jahr 2022 hatte Elon Musk rund der Hälfte der Belegschaft gekündigt. Einem Medienbericht zufolge hat Musk damals auch rund 3.000 externe Moderator:innen entlassen, die zuvor die Einhaltung der Plattformregeln überwacht hatten.
Anfang 2023 hat Elon Musk weitere Angestellte entlassen, die für die Eindämmung von Desinformationen zuständig waren. Mittlerweile untersucht auch die EU-Kommission, ob X ausreichend gegen die Verbreitung solcher Inhalte vorgeht.
Vergangenen Freitag hat Benarroch in einem Blogbeitrag angekündigt, dass X rund 100 neue Stellen zur Überwachung und Einhaltung der Plattformregeln schaffen will. Allerdings soll sich diese Abteilung laut Benarroch auf Fälle von Kindesmissbrauch konzentrieren.
Deepfake-Vorfall um Taylor Swift alarmiert auch das Weiße Haus
Gegenüber dem US-Sender ABC erklärte die Pressesprecherin des Weißen Hauses, Karine Jean-Pierre, man sei alarmiert über die Verbreitung von Deepfakes. „Obwohl Social-Media-Unternehmen ihre eigenen unabhängigen Entscheidungen über die Verwaltung von Inhalten treffen, sind wir der Meinung, dass sie eine wichtige Rolle bei der Durchsetzung ihrer eigenen Regeln spielen müssen, um die Verbreitung von Fehlinformationen und nicht einvernehmlichen, intimen Bildern von realen Personen zu verhindern“, so Jean-Pierre.
Neben mehreren US-Politiker:innen äußerte sich auch Microsoft-Chef Satya Nadella öffentlich zu dem Vorgang. „Wir müssen handeln“, erklärte Nadella gegenüber dem US-Sender NBC. Die Branche müsse jetzt schnell handeln und Systeme entwickeln, um für „sichere Inhalte“ zu sorgen.
Microsoft hat insgesamt 13 Milliarden US-Dollar in das KI-Startup OpenAI investiert und ist damit eng mit einem der wichtigsten Unternehmen in dem Sektor verbunden. Einem Bericht von 404 Media zufolge könnten die Swift-Bilder tatsächlich zum Teil mit einem auf OpenAI-basierten Microsoft-Tool erstellt worden sein.
