Aus technischer Sicht macht Infinity AI im Grunde nichts Bemerkenswertes. Deepfake-Videos gibt es schon seit einigen Jahren und auch das realistische Klonen von Stimmen ist mit KI seit geraumer Zeit möglich. Erstaunlich an der Web-App ist aber, wie niedrigschwellig das Ganze hier angeboten wird.
Ihr legt einen Dialog fest. Entscheidet dann, welche der bei Infinity AI hinterlegten Promis die jeweilige Zeile sprechen soll. Und schon habt ihr ein fertiges Video, in dem sich beispielsweise Jeff Bezos mit Elon Musk unterhält.
Tatsächlich geht es sogar noch einfacher, denn statt selbst einen Dialog zu schreiben und die Sprecher:innen auszuwählen, könnt ihr bei Infinity AI auch das einer KI überlassen.
In wenigen Sekunden zum Deepfake-Video mit verschiedenen Promis: Mit Infinity AI ist das gar kein Problem. (Screenshot: studio.infinity.ai / t3n)
Deepfake-Videos sind nicht perfekt – Stimmen aber nah dran
Auf den ersten Blick wirken die mit Infinity AI erzeugten Video-Clips durchaus überzeugend. Beim genaueren Hinschauen zeigen sich aber die üblichen Fehler in einigen der erzeugten Frames: kurzzeitig verzerrte Münder oder andere unnatürliche Veränderungen im Gesicht.
Bei den geklonten Stimmen der Promis lassen sich derlei Fehler hingegen nicht ausmachen. Egal ob Elon Musk, Lewis Hamilton oder Snoop Dogg: Sie alle klingen völlig natürlich. Zumal ihr mit Infinity AI jede Zeile bei Bedarf von der KI neu berechnen lassen könnt, falls euch die Betonung nicht passen sollte.
Missbrauchspotenzial und rechtliche Fragen
Auch wenn die Infinity-AI-Nutzer das Tool vor allem für unterhaltsame Clips mit Meme-Charakter nutzen, ist das Missbrauchspotenzial offensichtlich. In der Vergangenheit gab es beispielsweise bereits Fälle, in denen Deepfake-Videos von Elon Musk für Kryptobetrügereien genutzt wurden. Auch wir konnten uns ohne Probleme ähnliche Video von Infinity AI erzeugen lassen.
Hinzu kommen ethische wie auch juristische Fragen. Es ist äußerst unwahrscheinlich, dass ein Tim Cook oder Joe Biden (der hier immerhin nur als vergleichsweise junger Mann zu sehen ist) die Nutzung der eigenen Bilder und Stimmen abgesegnet haben. Von dem verstorbenen Steve Jobs ganz zu schweigen.
Infinity AI: Diese Promis sagen für euch jeden Text auf – ob sie wollen oder nicht. (Screenshot: studio.infinity.ai / t3n)
Infinity-AI-Team hat große Pläne
Das dreiköpfige Team hinter Infinity AI scheint das jedoch nicht zu stören. Tatsächlich wird das Startup auch von dem bekannten US-amerikanischen Gründerzentrum Y Combinator unterstützt.
Langfristig soll es aber nicht bei kurzen Deepfake-Videos bleiben. Das Unternehmen will nach eigenen Angaben eine Plattform schaffen, die Drehbücher in fertige Filme verwandelt.
„Wir glauben, dass ein Team von drei Autoren – ohne Schauspieler, Regisseure oder andere Mitarbeiter – in den nächsten sieben Jahren einen Oscar gewinnen wird“, heißt es im Frage-Antwort-Bereich der Plattform. Selbst wenn das Team damit recht behalten sollte, dürfte ein solcher Film aber vermutlich eher mit einem KI-Modell wie OpenAIs Sora entstehen – und nicht mit der hier gezeigten Deepfake-Technik.
