Virtuelle Entführungen mit KI: Wie der perfide Deepfake-Betrug funktioniert
„Hören sie zu. Ich habe ihre Tochter“, mit diesen Worten meldete sich am 20. Januar 2023 ein vermeintlicher Entführer bei der US-Amerikanerin Jennifer DeStefano. Laut einem CNN-Bericht hörte die Mutter im Verlauf des Gesprächs die Stimme ihrer weinenden Tochter im Hintergrund. Nur: Der 15-Jährigen ging es gut. Was die Mutter hörte, war ein per Deepfake-Technologie erstelltes Abbild der Stimme ihrer Tochter.
Auf diese Art gefälschte Entführungen sind kein Einzelfall. Während DeStefano noch rechtzeitig erfuhr, dass es ihrer Tochter in Wahrheit gut ging, haben andere Betroffene weniger Glück. Laut dem FBI nehmen Kriminelle in den USA im Schnitt 11.000 US-Dollar mit jeder getürkten Entführung ein.
Virtuelle Entführungen: So gehen die Betrüger vor
Darauf ausgerichtete KI-Systeme brauchen heute nur noch wenige Sekunden Audiomaterial, um eine Stimme realistisch zu klonen. Die dafür notwendigen Aufnahmen besorgen sich Kriminelle meist in den sozialen Netzen.
„Vor zwei Jahren, sogar noch vor einem Jahr, brauchte man eine Menge Audio, um die Stimme einer Person zu klonen“, erläutert der Experte für Digitalforensik Hany Farid gegenüber der Washington Post. Heute hingegen reiche oft ein einziges Tiktok-Video aus.
Auch für den Rest der Betrugsmasche sind Kriminelle auf soziale Medien angewiesen. Laut den Sicherheitsexperten Craig Gibson und Josiah Hagen wählen Kriminelle auch den Zeitpunkt ihres Angriffs oft anhand von Social-Media-Posts, aus denen hervorgeht, dass die vermeintlich entführte Person im Urlaub ist oder aus einem anderen Grund länger nicht zu Hause verweilt.
Experten warnen: Zusätzliche KI-Tools könnten Betrugsmasche effizienter machen
„Die für die Suche nach Opfern erforderliche Datenverarbeitung erfordert die Filterung großer Mengen von Opferdaten“, geben Gibson und Hagen in einem Blogbeitrag über virtuelle Entführungen zu bedenken. Genau dafür könnten ihrer Meinung nach KI-Chatbots zum Einsatz kommen, um den Prozess zu beschleunigen.
„All dies kann zu einem risikobasierten Punktesystem für die Auswahl der Opfer führen, das diese Art von Angriffen noch profitabler und skalierbarer macht, als sie es derzeit ist“, erklären Gibson und Hagen. Und mit zunehmender Profitabilität dürfte auch die Anzahl an virtuellen Entführungen steigen.
