Anzeige
Anzeige
News

Promi-Deepfakes in Sekunden: Infinity AI wirft Fragen auf

Mit Infinity AI erstellt ihr innerhalb von wenigen Minuten Deepfake-Videos bekannter Persönlichkeiten. Das wirft ethische und juristische Fragen auf – zeigt aber auch, wo die Entwicklung hingeht.

2 Min.
Artikel merken
Anzeige
Anzeige
Das Deepfake-Tool Infinity AI. (Screenshot: studio.infinity.ai / t3n)

Aus technischer Sicht macht Infinity AI im Grunde nichts Bemerkenswertes. Deepfake-Videos gibt es schon seit einigen Jahren und auch das realistische Klonen von Stimmen ist mit KI seit geraumer Zeit möglich. Erstaunlich an der Web-App ist aber, wie niedrigschwellig das Ganze hier angeboten wird.

Anzeige
Anzeige

Ihr legt einen Dialog fest. Entscheidet dann, welche der bei Infinity AI hinterlegten Promis die jeweilige Zeile sprechen soll. Und schon habt ihr ein fertiges Video, in dem sich beispielsweise Jeff Bezos mit Elon Musk unterhält.

Tatsächlich geht es sogar noch einfacher, denn statt selbst einen Dialog zu schreiben und die Sprecher:innen auszuwählen, könnt ihr bei Infinity AI auch das einer KI überlassen.

Anzeige
Anzeige

In wenigen Sekunden zum Deepfake-Video mit verschiedenen Promis: Mit Infinity AI ist das gar kein Problem. (Screenshot: studio.infinity.ai / t3n)

Deepfake-Videos sind nicht perfekt – Stimmen aber nah dran

Auf den ersten Blick wirken die mit Infinity AI erzeugten Video-Clips durchaus überzeugend. Beim genaueren Hinschauen zeigen sich aber die üblichen Fehler in einigen der erzeugten Frames: kurzzeitig verzerrte Münder oder andere unnatürliche Veränderungen im Gesicht.

Bei den geklonten Stimmen der Promis lassen sich derlei Fehler hingegen nicht ausmachen. Egal ob Elon Musk, Lewis Hamilton oder Snoop Dogg: Sie alle klingen völlig natürlich. Zumal ihr mit Infinity AI jede Zeile bei Bedarf von der KI neu berechnen lassen könnt, falls euch die Betonung nicht passen sollte.

Anzeige
Anzeige

Missbrauchspotenzial und rechtliche Fragen

Auch wenn die Infinity-AI-Nutzer das Tool vor allem für unterhaltsame Clips mit Meme-Charakter nutzen, ist das Missbrauchspotenzial offensichtlich. In der Vergangenheit gab es beispielsweise bereits Fälle, in denen Deepfake-Videos von Elon Musk für Kryptobetrügereien genutzt wurden. Auch wir konnten uns ohne Probleme ähnliche Video von Infinity AI erzeugen lassen.

Hinzu kommen ethische wie auch juristische Fragen. Es ist äußerst unwahrscheinlich, dass ein Tim Cook oder Joe Biden (der hier immerhin nur als vergleichsweise junger Mann zu sehen ist) die Nutzung der eigenen Bilder und Stimmen abgesegnet haben. Von dem verstorbenen Steve Jobs ganz zu schweigen.

Anzeige
Anzeige

Infinity AI: Diese Promis sagen für euch jeden Text auf – ob sie wollen oder nicht. (Screenshot: studio.infinity.ai / t3n)

Infinity-AI-Team hat große Pläne

Das dreiköpfige Team hinter Infinity AI scheint das jedoch nicht zu stören. Tatsächlich wird das Startup auch von dem bekannten US-amerikanischen Gründerzentrum Y Combinator unterstützt.

Langfristig soll es aber nicht bei kurzen Deepfake-Videos bleiben. Das Unternehmen will nach eigenen Angaben eine Plattform schaffen, die Drehbücher in fertige Filme verwandelt.

„Wir glauben, dass ein Team von drei Autoren – ohne Schauspieler, Regisseure oder andere Mitarbeiter – in den nächsten sieben Jahren einen Oscar gewinnen wird“, heißt es im Frage-Antwort-Bereich der Plattform. Selbst wenn das Team damit recht behalten sollte, dürfte ein solcher Film aber vermutlich eher mit einem KI-Modell wie OpenAIs Sora entstehen – und nicht mit der hier gezeigten Deepfake-Technik.

Sora: Das sind die besten Clips von OpenAIs Video-KI

Sora: Das sind die besten Clips von OpenAIs Video-KI Quelle:
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Kommentare

Community-Richtlinien

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Kommentar abgeben

Melde dich an, um Kommentare schreiben und mit anderen Leser:innen und unseren Autor:innen diskutieren zu können.

Anmelden und kommentieren

Du hast noch keinen t3n-Account? Hier registrieren

Anzeige
Anzeige