Immer wieder setzen Scammer:innen Deepfakes von Donald Trump, dem ukrainischen Präsidenten Wolodymyr Selenskyj oder anderen Prominenten ein, um ahnungslose Menschen um ihr Geld zu prellen.

Ein Mann aus Baotou in der Autonomen Region Innere Mongolei hat an eben solche Betrüger:innen 4,3 Millionen Yuan – umgerechnet etwas mehr als 622.000 US-Dollar – verloren. Er fiel allerdings nicht auf einen Promi-Deepfake herein, sondern auf eine täuschend echte Kopie eines seiner Freunde.

Wie Reuters berichtet, haben Hacker:innen mithilfe von künstlicher Intelligenz Stimme und Aussehen des Freundes geklont und in einem Videocall eingesetzt. Dem Opfer wurde so vorgespielt, seinem Freund finanziell unter die Arme zu greifen.

Der jedoch wusste von gar nichts – auch nicht, dass er digital geklont worden war. Daraufhin erstattete das Opfer Anzeige. Der Polizei gelang es, den Großteil des Geldes zurückzuholen; auch den Rest wollen die Behörden noch nachverfolgen.

Auf der chinesischen Mikrobloggingplattform Weibo hat der Vorfall eine große Diskussion ausgelöst. Der dazugehörige Hashtag, der sinngemäß übersetzt „KI-Scams werden landesweit zu einem immer größeren Problem“ bedeutet, brachte es bis Montagabend auf 120 Millionen Aufrufe.

Nutzer:innen stellten dort auch die Frage, ob Gesetze und Regulierungen in der Lage sind, mit den Vorgehensweisen der Scammer:innen Schritt zu halten.

Nicht zuletzt durch Dall-E, Midjourney, Stable Diffusionen und andere KI-Bild- und Videogeneratoren sind Deepfakes und daraus resultierende Betrugsfälle zu einem immer größer werdenden Problem geworden.

Es gibt jedoch einige Hinweise, auf die man achten sollte. Dazu gehören beispielsweise Artefakte bei Gesichtsübergängen, verwaschene Konturen, eine eingeschränkte Mimik oder deutlich verschiedene Lichtverhältnisse. Wer sich unsicher ist, kann den vermuteten Deepfake auch bitten, das Gesicht zu drehen.