Virtuelle Entführungen mit KI: Wie der perfide Deepfake-Betrug funktioniert

„Hören sie zu. Ich habe ihre Tochter“, mit diesen Worten meldete sich am 20. Januar 2023 ein vermeintlicher Entführer bei der US-Amerikanerin Jennifer DeStefano. Laut einem CNN-Bericht hörte die Mutter im Verlauf des Gesprächs die Stimme ihrer weinenden Tochter im Hintergrund. Nur: Der 15-Jährigen ging es gut. Was die Mutter hörte, war ein per Deepfake-Technologie erstelltes Abbild der Stimme ihrer Tochter.
Auf diese Art gefälschte Entführungen sind kein Einzelfall. Während DeStefano noch rechtzeitig erfuhr, dass es ihrer Tochter in Wahrheit gut ging, haben andere Betroffene weniger Glück. Laut dem FBI nehmen Kriminelle in den USA im Schnitt 11.000 US-Dollar mit jeder getürkten Entführung ein.
Darauf ausgerichtete KI-Systeme brauchen heute nur noch wenige Sekunden Audiomaterial, um eine Stimme realistisch zu klonen. Die dafür notwendigen Aufnahmen besorgen sich Kriminelle meist in den sozialen Netzen.
„Vor zwei Jahren, sogar noch vor einem Jahr, brauchte man eine Menge Audio, um die Stimme einer Person zu klonen“, erläutert der Experte für Digitalforensik Hany Farid gegenüber der Washington Post. Heute hingegen reiche oft ein einziges Tiktok-Video aus.
Auch für den Rest der Betrugsmasche sind Kriminelle auf soziale Medien angewiesen. Laut den Sicherheitsexperten Craig Gibson und Josiah Hagen wählen Kriminelle auch den Zeitpunkt ihres Angriffs oft anhand von Social-Media-Posts, aus denen hervorgeht, dass die vermeintlich entführte Person im Urlaub ist oder aus einem anderen Grund länger nicht zu Hause verweilt.
„Die für die Suche nach Opfern erforderliche Datenverarbeitung erfordert die Filterung großer Mengen von Opferdaten“, geben Gibson und Hagen in einem Blogbeitrag über virtuelle Entführungen zu bedenken. Genau dafür könnten ihrer Meinung nach KI-Chatbots zum Einsatz kommen, um den Prozess zu beschleunigen.
„All dies kann zu einem risikobasierten Punktesystem für die Auswahl der Opfer führen, das diese Art von Angriffen noch profitabler und skalierbarer macht, als sie es derzeit ist“, erklären Gibson und Hagen. Und mit zunehmender Profitabilität dürfte auch die Anzahl an virtuellen Entführungen steigen.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team