Phishing ist eine Betrugsmethode, bei der Kriminelle versuchen, durch gefälschte Nachrichten sensible Daten wie Passwörter oder Bankinformationen zu erbeuten. Beim E-Mail-Phishing geschieht dies über täuschend echt wirkende E-Mails. Darin missbrauchen Kriminelle die Namen großer Marken, um ihre Täuschungsversuche möglichst glaubwürdig wirken zu lassen: Das können Namen von Onlinehandel, Streamingdiensten oder sogar Behörden sein. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) benennt Phishing-Angriffe als eine der größten digitalen Herausforderungen unserer Zeit.

Die Angreifer:innen setzen inzwischen verstärkt auf Künstliche Intelligenz, um ihre Nachrichten professioneller wirken zu lassen. Während diese noch vor einiger Zeit mühsam per Hand formuliert werden mussten – ein zeitaufwändiger und fehleranfälliger Prozess –, übernehmen heute große Sprachmodelle die Arbeit. Die KI-Modelle können die menschliche Sprache täuschend echt nachahmen und damit glaubwürdige Texte erzeugen.

WormGPT war einer der ersten Bots, der speziell darauf zugeschnitten wurde, Phishing-Nachrichten zu generieren. WormGPT konnte zwar erfolgreich aus dem Netz entfernt werden, Nachahmer-Modelle gibt es jedoch weiterhin reichlich. Darunter: FraudGPT, EvilGPT und Darkbart. Angeboten werden die Bots im Darknet oder auf Telegram. Eine Reuters-Untersuchung in Zusammenarbeit mit der Harvard University zeigt, dass sich die Sicherheitsvorkehrungen aktueller KI-Chatbots vergleichsweise leicht umgehen lassen, um sie für Phishing-Zwecke zu missbrauchen. Demnach konnten alle getesteten Systeme dazu gebracht werden, überzeugende Phishing-Mails zu verfassen – darunter ChatGPT und Gemini.

Neben der Möglichkeit, Phishing-Texte zu generieren, soll KI auch dabei helfen, die perfekt zugeschnittene personalisierte Nachricht an die Opfer zu versenden: Angreifer:innen sammeln große Datenmengen, zum Beispiel aus Datenlecks und den sozialen Medien, um Opferprofile zu erstellen. Mit diesen Daten trainieren sie die KI schließlich – eine Phishing-Mail enthält dann mitunter eine direkte Ansprache oder erweckt den Anschein, von einem:r Kollegen:in zu stammen. Die Erfolgswahrscheinlichkeit eines Angriffs erhöht sich.

Für Verbraucher:innen spitzt sich die Lage zu. Durch den Einsatz von KI werden Phishing-Angriffe raffinierter – es wird immer schwerer, sie von vertrauenswürdigen Nachrichten zu unterscheiden. Wie können sich Verbraucher:innen wirksam vor ihnen schützen und Angriffe erkennen?

• Sensibler Umgang mit persönlichen Daten: Sowohl Einzelpersonen als auch Unternehmen sollten verantwortungsvoll mit der Weitergabe persönlicher Daten umgehen. Klingt banal – ist aber schon sehr effektiv. Je weniger persönliche Informationen im Netz zu finden sind, desto geringer ist die Wahrscheinlichkeit, dass überhaupt ein Opferprofil erstellt wird.
• Auf sprachliche Fehler achten: Auch wenn große Sprachmodelle helfen können, Grammatik und Rechtschreibung von einem Text zu verbessern, sind sie trotzdem fehleranfällig. Sprachliche Mängel sind demnach ein guter Hinweisgeber, um Phishing auf die Spur zu kommen.
• Absender und Adressfeld prüfen: Außerdem sollte die Absender- und Empfängeradresse geprüft werden. Dabei ist auf Auffälligkeiten wie Zahlen oder kryptisch klingende Domains zu achten. Taucht die eigene Mailadresse nicht im Empfänger-Feld auf, ist dies ebenfalls ein Warnsignal. Bei seriösen Zusendungen, wie Newslettern, sollte ebenfalls im Empfänger-Feld die eigene Mailadresse zu sehen sein. Zusätzlich sollte man sich vergewissern, dass in die E-Mail keine gefälschten Adressfelder eingebaut wurden. E-Mail-Spoofing bezeichnet die Praxis, Absenderfelder und Kopfzeilen so zu fälschen, dass Nachrichten scheinbar von vertrauenswürdigen Firmen oder Personen stammen. So wollen Cyberkriminelle ihre Angriffe noch besser tarnen – auch mit der Unterstützung von KI.
• Keine Klicks auf Links und Anhänge: Bei Verdacht auf Phishing sollten in keinem Fall beigefügte Links und Anhänge heruntergeladen werden. Das Öffnen einer Nachricht ist oft unbedenklich, wobei Mails im HTML-Format bereits Schadprogramme im Quellcode enthalten können. Das BSI empfiehlt Verbraucher:innen daher, die HTML-Anzeige im Mailprogramm zu deaktivieren.
• Aufbau einer Phishing-Mail: Ein weiteres Indiz für einen Phishing-Angriff ist gemäß der Verbraucherzentrale der Aufbau. Die verschickten E-Mails folgen dabei üblicherweise einem typischen Muster: 

• • Anrede, 
  • Grund der Mailverschickung, 
  • Notwendigkeit zum Handeln, 
  • Zeitdruck, 
  • Konsequenzen, wenn nicht gehandelt wird, 
  • Beigefügter Link oder Anhang

Dienste wie Yahoo und Outlook setzen auf spezielle Sicherheitsfilter, um Cyberangriffe aufzuspüren. So sollen verdächtige Mails ihren Weg gar nicht erst ins Postfach finden und schon vorher herausgefiltert werden. Diese Erkennungsmechanismen haben jedoch ihre Schwachstellen: So zeigen zum Beispiel die Ergebnisse einer Studie, dass Gmail und Outlook im Vergleich zu Yahoo mehr KI-generierte Phishing-Inhalte durch ihre Filter lassen. Für die Studienzwecke haben die Forschenden insgesamt 63 Phishing-Mails mit GPT-4o erstellt und die Leistung der E-Mail-Dienste Gmail, Yahoo und Outlook auf die Probe gestellt.

Solche Sicherheitsfilter bieten also nur bedingt eine Lösung, um sich vor Phishing zu schützen. Umso wichtiger ist es, sich selbst aktiv vor den Cyberattacken zu schützen und aufmerksam zu sein.

Von sinnfreien Sicherheitsfragen zu Klartextpasswörtern: Die 10 dümmsten Security-Patzer