KI-Spracherzeugungssoftware hat sich in den letzten Jahren enorm weiterentwickelt. Klang es am Anfang noch nach einer blechernen, monotonen Computerstimme, sind heutige KI-Stimmen nicht mehr vom menschlichen Original zu unterscheiden. Das machen sich Betrüger zunutze.

Wie die Washington Post berichtet, werden immer mehr Menschen Opfer von Telefonbetrügern, die auf Sprach-KIs zurückgreifen. Besonders gefährdet sind dabei ältere Personen, bei denen sich als Familienmitglied in Not ausgegeben wird. Dabei sind die Geschichten der Betrüger teilweise schon sehr unglaubwürdig.

Wie die Washington Post darstellt, überwies ein älteres Ehepaar 15.000 US-Dollar über ein Bitcoin-Terminal an einen Betrüger, weil es glaubte, mit dem eigenen Sohn gesprochen zu haben. Die von der KI generierte Stimme teilte ihnen mit, dass er Anwaltskosten begleichen müsse, nachdem er in einen Autounfall verwickelt war, bei dem ein US-Diplomat ums Leben kam.

Wie die Federal Trade Commission mitteilt, sind sogenannte Impostor-Scams weit verbreitet. Mehr als 5.000 Personen wurden 2022 in den Vereinigten Staaten auf diese Art und Weise betrogen. Dabei verloren die Opfer insgesamt um die elf Millionen US-Dollar.

Ursprünglich wurden die KI-Sprachmodelle entwickelt, um die Generierung Sprache aus Text voranzutreiben. So wurden neue Möglichkeiten der Sprachverarbeitung erschaffen, die zum Beispiel auch in der Filmindustrie zum Einsatz kommen, da berühmte Stimmen einfach imitiert werden können.

Die nahezu echt wirkenden Stimmen nutzen jedoch auch Betrüger, was die FTC schon 2021 dazu animierte, KI-Leitlinien zu veröffentlichten, in denen sie Unternehmen mitteilte, dass die Sprachmodelle mehr nützen als schaden sollten und die Unternehmen bereit sein sollten, sich für Risiken bei der Verwendung von Produkten zur Verantwortung zu ziehen. Denn aktuell weiß niemand, wer die Schuld trägt, wenn die Technologie missbraucht wird.