Künstliche Intelligenz wird immer mächtiger. Mittlerweile beruhen zahlreiche Betrugsmaschen auf KI. Beispielsweise verbreitete sich auf Facebook ein Werbevideo für eine angebliche Finanzplattform, die ein monatliches Einkommen von bis zu 21.000 Euro verspricht. Als Testimonial musste Tagesschau-Sprecher André Schünke herhalten, dessen Stimme per KI imitiert wurde – ein Betrug, den nicht jeder als solchen erkannte.

Wie in einer Studie des Londoner University College Anfang August nachgewiesen werden konnte, sind KI-generierte Stimmen bereits so gut, dass es Menschen selbst dann schwerfällt, sie zu erkennen, wenn sie wissen, dass es sich um KI handeln könnte. In Zukunft könnten Hacker im Zuge von KI-gestützten Cyberangriffen sogar noch einen Schritt weitergehen.

Einige Cybersicherheitsexperten befürchten, dass Hacker bald in der Lage sein werden, mithilfe von KI beispielsweise eine überzeugende Version eines Geschäftsführers zu erstellen, der im Zuge eines Deepfake-Videocalls Passwörter von Mitarbeitern herausfindet. KI-Software kann mittlerweile praktisch in Echtzeit auf Gespräche reagieren. Laut Udi Mokady, Vorsitzender des Informationssicherheitsunternehmens Cyberark Software Ltd, müssen sich vor allem Mitarbeiter von große Unternehmen in Zukunft darauf einstellen, KI-generierte Anrufe zu erhalten.

So geschehen im Jahr 2019. Damals überwies der Vorstandsvorsitzende eines britischen Energieversorgers 220.000 Euro an einen Betrüger, nachdem er einen vermeintlichen Anruf des Chefs der deutschen Muttergesellschaft des Unternehmens erhalten hatte. Die Stimme wurde mit künstlicher Intelligenz erzeugt und forderte ihn auf, Geld an einen ungarischen Anbieter zu überweisen. In Zukunft könnten ähnliche Betrugsfälle per Deepfake-Videocall abgewickelt werden.

Am 17. August dokumentierten Forscher des zu Google gehörenden Cybersicherheitsunternehmens Mandiant erste Fälle von Deepfake-Videotechnologien, die aktuell für Phishing-Betrug entwickelt und verkauft werden. Diese sollen angeblich das Abbild einer Person täuschend echt replizieren. Der Preis für ein komplettes Video soll aktuell bei über 200 Euro liegen. Eine Entwicklung, die deutlich macht, dass Unternehmen in Zukunft in Tools zur Erkennung von Deepfakes investieren müssen, um sich vor derartigen Angriffen zu schützen.