Deepfakes sind echt wirkende, manipulierte Bild-, Audio- oder Videoaufnahmen, die mithilfe künstlicher Intelligenz erzeugt werden.
Mit dem neuen KI-Generator Sora 2 ist fast alles möglich. Während Nutzer:innen das Video-Tool genau dafür lieben, wird es für Erkennungssoftware allerdings immer schwieriger, Deepfakes zu identifizieren.
Deepfakes sind ein relativ neues Phänomen, der Begriff tauchte erstmals 2017 auf, hat aber bereits eine breite Debatte über ihren Einsatz und die Gefahren für Politik und Gesellschaft ausgelöst. Es werden Anstrengungen unternommen, um Deepfakes leichter identifizieren zu können, ihre Verwendung einzuschränken und ihre unbefugte Erstellung zu kriminalisieren.
Die häufigste Anwendung von Deepfakes ist das sogenannte Face-Swapping. Dabei wird das Gesicht einer Person in Bildmaterial auf einen fremden Körper gesetzt, um diese Person in einem anderen Kontext zu präsentieren. Deepfakes können beispielsweise auch für das sogenannte Voice-Swapping verwendet werden. Die resultierenden Inhalte haben ein großes Zerstörungspotenzial: Deepfakes werden zum Beispiel für politische Zwecke und Pornographie verwendet.
