Anzeige
Anzeige
News
Artikel merken

KI: Wieso eure Email-Inboxen bald von Spam überquellen könnten

Das Wettrüsten zwischen Spam-Blockern und Spam-Versendern droht mit dem Aufkommen einer neuen Waffe zu eskalieren: der generativen künstlichen Intelligenz.

Von Hannah Klaiber
2 Min. Lesezeit
Anzeige
Anzeige
Die KI könnte dabei helfen, intelligenten Spam zu versenden. (Bild: Shutterstock/Song_about_summer)

Trotz diverser Spam-Filter landen sie immer wieder in unserem E-Mail-Postfach: Nachrichten über einen angeblichen Lottogewinn, Wunder vollbringende Heilmittel oder ähnlich abstruse Informationen – die immerhin auf den ersten Blick als Spam erkennbar sind.

Anzeige
Anzeige

Expert:innen warnen nun aber vor einer neuen Spam-Welle, die in Zukunft Inhalte in unsere Postfächer spülen könnte, die mittels KI generiert wurden – und als solche über eine andere, höhere Qualität verfügen.

Mit den jüngsten Entwicklungsfortschritten in der KI ChatGPT könnten Spammer:innen neue Tools an der Hand haben, die beispielsweise Filter umgehen können oder mit maßgeschneiderten personalisierten Inhalten nicht nur die Aufmerksamkeit der Mail-Empfänger:innen erregen, sondern sie auch dazu bringen, persönliche Informationen preiszugeben oder etwas zu kaufen.

Anzeige
Anzeige

Intelligenter Spam: Phishing-Mails schwerer erkennbar

Als Spam werden unerwünschte kommerzielle E-Mails definiert, die von einer unbekannten Entität gesendet werden. Der Begriff schließt Textnachrichten, Direktnachrichten in sozialen Medien und gefälschte Produktbewertungen ein, mit denen Spammer:innen die Mail-Empfänger:innen zum Handeln anregen möchten: etwas kaufen, auf Phishing-Links klicken, Malware installieren, Newsletter abonnieren.

Fakt ist: Spam ist profitabel. Eine Spam-Welle kann in nur wenigen Stunden 1.000 US-Dollar einbringen; mit einer pharmazeutischen Online-Spam-Kampagne können etwa 7.000 US-Dollar pro Tag generiert werden, wie Gizmodo berichtet.

Anzeige
Anzeige

KI könnte es Spammer:innen nun ermöglichen, Einzelpersonen direkt und personalisiert anzusprechen, um so ihre Inhalte überzeugender zu gestalten, basierend auf leicht zugänglichen Informationen wie zum Beispiel Social-Media-Beiträgen. Auf der US-Website Reddit sollen etwa Nacktfotos von imaginären Frauen verkauft worden sein, die mit einer generativen KI erzeugt wurden.

Europol warnt: Betrüger nutzen KI-generierte realistische E-Mails

Auch die europäische Polizeibehörde Europol warnt davor, dass Kriminelle die künstliche Intelligenz (KI) für ihre Straftaten nutzen könnten. Mit Programmen wie ChatGPT könnten fehlerfrei formulierte Phishing-Mails erzeugt werden, die dadurch noch schwerer erkennbar werden.

Anzeige
Anzeige

John Licato, Direktor des Advancing Human and Machine Reasoning Lab an der University of South Florida, forscht an der Schnittstelle von künstlicher Intelligenz, Verarbeitung natürlicher Sprache und menschlichem Denken und weist auf die Gefahren von „intelligentem Spam“ hin: Sprachmodelle (Large Language Model, LLM), die als Grundlage für Dienste wie ChatGPT dienen, können beispielsweise von Spammer:innen dazu genutzt werden, aus einer Linkedin-Seite ziemlich genaue Vermutungen über die politischen Neigungen, den Familienstand oder persönliche Lebensprioritäten zu filtern.

„Unsere Forschung hat gezeigt, dass LLM verwendet werden können, um vorherzusagen, welches Wort eine Person als Nächstes sagen wird, mit einer Genauigkeit, die andere KI-Ansätze bei Weitem übertrifft, in einer Wortbildungsaufgabe, die als semantische Fluency-Aufgabe bezeichnet wird“, so Licato gegenüber Gizmodo. Dies deute darauf hin, dass LLM bereits einige Kenntnisse darüber haben, wie die typische menschliche Denkfähigkeit aussieht.

Anzeige
Anzeige

Vor- und Nachteile neuer Technologien

Trotz wachsender Besorgnis über KI – wie sie unter anderem Elon Musk, Apple-Gründer Steve Wozniak und andere Technologieführer äußerten und die eine Pause in der KI-Entwicklung forderten – könnten Fortschritte in der Technologie viel Gutes bewirken. KI kann uns helfen zu verstehen, wie Schwächen im menschlichen Denken ausgenutzt werden können, und Wege finden, um böswilligen Aktivitäten entgegenzuwirken.

Wie (fast) alle neuen Technologien kann auch KI neben Gutem auch Gefahren mit sich bringen – der Unterschied liegt darin, wer die Tools erstellt und kontrolliert und wie sie genutzt werden.

Mehr zu diesem Thema
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Schreib den ersten Kommentar!
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige