Beeindruckend und bedrohlich: Diese KI kopiert eure Stimme, während ihr mit ihr redet
Ein mit Künstlicher Intelligenz operierender Chatbot, der eure Stimme annimmt, während ihr mit ihm redet – das klingt beängstigend, oder? Und genau diesen Effekt will der Bot namens TerifAI erreichen. Sein Name wird wie „terrify“ ausgesprochen – das englische Wort für „erschrecken“ oder „beängstigen“ also.
TerifAI-Schöpfer will Öffentlichkeit aufschrecken
„Terrify“ kann aber auch „aufschrecken“ bedeuten. Und genau dies will TerifAI-Schöpfer Aman Ibrahim mit seinem Chatbot erreichen. Ibrahim ist der Gründer des Unternehmen DeepTrust. Mit der gleichnamigen Software will das Start-up Nutzer:innen von Videokonferenzdiensten vor Vishing via Audio-Deepfakes schützen. DeepTrust lässt sich in Zoom, Microsoft Teams und Co. integrieren, um die Stimme des Gegenübers zu verifizieren und Deepfakes auszuschließen.
Seinen KI-Chatbot beschreibt Aman Ibrahim bei Linkedin als „aufklärerische Lektion“. Sie soll demonstrieren, dass Künstliche Intelligenz zu „einem Katalysator für Voice Phishing geworden ist“.
TerifAI: So funktioniert der KI-Sprachkopierer
Bei dem Experiment kann jeder teilnehmen. Auf der Pipecat-Seite von TerifAI kannst du den angeblich schnellsten derzeit verfügbaren Chatbot ausprobieren. Du musst nur erlauben, dass das Programm auf dein Mikro zugreifen kann. Einmal gestartet, fragt dich der Bot zunächst nach deinem Namen.
Später will TerifAI ein paar Informationen über dich wissen. Dies tut er nicht nur, um deine Stimme zu hören, sondern auch, um sich Fakten über dich für spätere Konversationen zu merken.
Aman Ibrahim hat bei LinkedIn ein Video gepostet, in dem er die Funktion seines Programms demonstriert. Es zeigt durchaus beeindruckend, wie sich die anfangs eher robotische Stimme mit jedem Input deutlich anpasst und sich dem Duktus des menschlichen Gesprächspartners annähert.
OpenAI hält ähnliche Stimmenklon-KI zurück
TerifAI ist nicht der einzige Chatbot, der deine Stimme klonen kann. So hat der ChatGPT-Schöpfer OpenAI vor wenigen Monaten sein Sprach-KI-Modell Voice Engine vorgestellt. Anhand einer 15-sekündigen Sprachprobe soll es eine Stimme so
Veröffentlicht hat OpenAI sein neues Tool noch nicht. Die Angst vor Missbrauch scheint noch zu hoch. Wie das Unternehmen um Sam Altman in einem Blogeintrag schreibt, soll der Zivilgesellschaft Zeit gelassen werden, Maßnahmen dagegen zu starten.
Ähnliches hat auch Aman Ibrahim mit seinem abschreckenden Projekt im Sinn. Doch in der Welt ist TerifAI nun.
