Trotz diverser Spam-Filter landen sie immer wieder in unserem E-Mail-Postfach: Nachrichten über einen angeblichen Lottogewinn, Wunder vollbringende Heilmittel oder ähnlich abstruse Informationen – die immerhin auf den ersten Blick als Spam erkennbar sind.

Expert:innen warnen nun aber vor einer neuen Spam-Welle, die in Zukunft Inhalte in unsere Postfächer spülen könnte, die mittels KI generiert wurden – und als solche über eine andere, höhere Qualität verfügen.

Mit den jüngsten Entwicklungsfortschritten in der KI ChatGPT könnten Spammer:innen neue Tools an der Hand haben, die beispielsweise Filter umgehen können oder mit maßgeschneiderten personalisierten Inhalten nicht nur die Aufmerksamkeit der Mail-Empfänger:innen erregen, sondern sie auch dazu bringen, persönliche Informationen preiszugeben oder etwas zu kaufen.

Als Spam werden unerwünschte kommerzielle E-Mails definiert, die von einer unbekannten Entität gesendet werden. Der Begriff schließt Textnachrichten, Direktnachrichten in sozialen Medien und gefälschte Produktbewertungen ein, mit denen Spammer:innen die Mail-Empfänger:innen zum Handeln anregen möchten: etwas kaufen, auf Phishing-Links klicken, Malware installieren, Newsletter abonnieren.

Fakt ist: Spam ist profitabel. Eine Spam-Welle kann in nur wenigen Stunden 1.000 US-Dollar einbringen; mit einer pharmazeutischen Online-Spam-Kampagne können etwa 7.000 US-Dollar pro Tag generiert werden, wie Gizmodo berichtet.

KI könnte es Spammer:innen nun ermöglichen, Einzelpersonen direkt und personalisiert anzusprechen, um so ihre Inhalte überzeugender zu gestalten, basierend auf leicht zugänglichen Informationen wie zum Beispiel Social-Media-Beiträgen. Auf der US-Website Reddit sollen etwa Nacktfotos von imaginären Frauen verkauft worden sein, die mit einer generativen KI erzeugt wurden.

Auch die europäische Polizeibehörde Europol warnt davor, dass Kriminelle die künstliche Intelligenz (KI) für ihre Straftaten nutzen könnten. Mit Programmen wie ChatGPT könnten fehlerfrei formulierte Phishing-Mails erzeugt werden, die dadurch noch schwerer erkennbar werden.

John Licato, Direktor des Advancing Human and Machine Reasoning Lab an der University of South Florida, forscht an der Schnittstelle von künstlicher Intelligenz, Verarbeitung natürlicher Sprache und menschlichem Denken und weist auf die Gefahren von „intelligentem Spam“ hin: Sprachmodelle (Large Language Model, LLM), die als Grundlage für Dienste wie ChatGPT dienen, können beispielsweise von Spammer:innen dazu genutzt werden, aus einer Linkedin-Seite ziemlich genaue Vermutungen über die politischen Neigungen, den Familienstand oder persönliche Lebensprioritäten zu filtern.

„Unsere Forschung hat gezeigt, dass LLM verwendet werden können, um vorherzusagen, welches Wort eine Person als Nächstes sagen wird, mit einer Genauigkeit, die andere KI-Ansätze bei Weitem übertrifft, in einer Wortbildungsaufgabe, die als semantische Fluency-Aufgabe bezeichnet wird“, so Licato gegenüber Gizmodo. Dies deute darauf hin, dass LLM bereits einige Kenntnisse darüber haben, wie die typische menschliche Denkfähigkeit aussieht.

Trotz wachsender Besorgnis über KI – wie sie unter anderem Elon Musk, Apple-Gründer Steve Wozniak und andere Technologieführer äußerten und die eine Pause in der KI-Entwicklung forderten – könnten Fortschritte in der Technologie viel Gutes bewirken. KI kann uns helfen zu verstehen, wie Schwächen im menschlichen Denken ausgenutzt werden können, und Wege finden, um böswilligen Aktivitäten entgegenzuwirken.

Wie (fast) alle neuen Technologien kann auch KI neben Gutem auch Gefahren mit sich bringen – der Unterschied liegt darin, wer die Tools erstellt und kontrolliert und wie sie genutzt werden.