Wissenschaftler zeigen, wie Viren ChatGPT nutzen können, um sich unentdeckt weiterzuverbreiten

ChatGPT kann Malware dabei helfen, sich weiterzuverbreiten. (Bild: Shutterstock/Visuals6x)
Künstliche Intelligenzen wie ChatGPT können uns im Alltag viele Aufgaben erleichtern. Allerdings können die KI-Tools auch gegen uns verwendet werden, wie die Wissenschaftler David Zollikofer von der ETH Zürich und Benjamin Zimmerman der Ohio State University zeigen. Sie haben ein Virus entworfen, das ChatGPT nutzt, um noch einfacher Schaden anzurichten.
So nutzt die Malware ChatGPT
Zunächst muss die Malware über Phishing auf einem Computer eingeschleust werden, wie New Scientist berichtet. Das passiert häufig über einen Mailanhang, der als eine unscheinbare Datei getarnt ist. Sobald das Virus auf dem Computer ist, kann es ChatGPT im Hintergrund aufrufen und seinen eigenen Code anpassen lassen. Das KI-Tool soll beispielsweise einige Variablen umbenennen und die Logik im Code leicht verändern. So entgeht das Virus routinemäßigen Scans von Antivirenprogrammen und kann ungestört weiter Schaden anrichten.
Noch perfider ist der zweite Schritt. Das Virus ruft auf Windows-PCs das Mailprogramm Outlook auf, ohne dass es Nutzer:innen mitbekommen. Anschließend scannt die Malware die kürzlich erhaltenen Mails. Die gescannten Mails werden erneut ChatGPT gegeben, das passende Antworten formulieren soll. Die Vorgabe sieht dabei auch vor, dass beiläufig eine Datei erwähnt werden soll, die sich im Anhang befindet.
Wurdet ihr beispielsweise zu einem Geburtstag per Mail eingeladen, nimmt das Virus diese Mail, gibt sie ChatGPT und die KI formuliert eine Antwort. In dieser könnte ChatGPT für euch zusagen und behaupten, ihr hättet bereits eine Auswahl an Musik für die Feier zusammengestellt. Der:die Empfänger:in müsste nur noch die Dateien im Anhang öffnen. Tatsächlich verbirgt sich darin aber das Virus, das sich so schnell über mehrere Rechner verbreiten kann.
Die ersten Tests mit der KI-Malware zeigen, dass diese Art der Malware zu einem großen Problem werden könnte. In etwa der Hälfte der Fälle hat ChatGPT den Code des Virus verändert und passende E‑Mails verfasst. In den anderen Fällen hat die KI erkannt, dass sie für schädliche Zwecke genutzt wird. Die beiden Wissenschaftler raten den KI-Entwickler:innen, entsprechende Sicherheitsmaßnahmen zu ergreifen und ihre Programme gegen diesen Missbrauch zu schützen.