Anzeige Sponsored Post
Verpasse keine News mehr!

Mythen und Fakten: Der wahre Einfluss von KI auf deine Unternehmenssicherheit

Künstliche Intelligenz und LLMs sind seit ChatGPT und DeepSeek nicht mehr wegzudenken. Fakten, Mythen und Visionen mischen sich munter durcheinander und machen so eine professionelle Einschätzung, welchen Einfluss die Technologie auf die Sicherheit des Unternehmens hat, besonders schwer.

3 Min.
Artikel merken

Eines der wichtigsten Themen der Zukunft: Cybersicherheit und Künstliche Intelligenz. (Bild: Shutterstock)

Die Sicherheitsforschenden des Sophos X-Ops-Teams haben sich deshalb in zwei Analysen den aktuellen Stand beim Einsatz von KI in der Cyberkriminalität näher angesehen und einen Leitfaden erstellt, der den Hype rund um künstliche Intelligenz kritisch unter die Lupe nimmt.

Der Report „The Dark Side of AI: Large-scale scam campaigns made possible by Generative AI“ untersucht anhand eines konkreten Fallbeispiels, wie Kriminelle in Zukunft Technologien wie ChatGPT nutzen könnten, um mit minimalen technischen Fähigkeiten Betrugsattacken im großem Stil durchzuführen.

Der zweite Bericht, „Cybercriminals can’t agree on GPTs“, beleuchtet den Einsatz verschiedener Dark-Web-Foren. Die Ergebnisse zeigen, dass einige Cyberkriminelle trotz des Potenzials der neuen Technologie skeptisch gegenüber dem aktuellen Einsatz von Chatbots und anderen KI-Technologien sind.

Last but not least klärt der Report „KI-gestützte Cybersicherheit: Was Unternehmen wirklich erwarten (können)“, darüber auf, was wiederum auf der „guten Seite“ der Macht zu tun ist, um Gefahren effektiv vorzubeugen.

Die dunkle Seite der KI: Ein Versuch

Mit einer einfachen E-Commerce-Vorlage und großen Sprachmodellen wie GPT-4 konnte Sophos X-Ops eine voll funktionsfähige Website mit KI-generierten Bildern, Audio- und Produktbeschreibungen inklusive einer gefälschten Checkout-Seite sowie eine gefälschte Facebook-Anmeldeseite erstellen, um persönliche Anmelde- und Kreditkartendaten abzuschöpfen. Für die Erstellung und den Betrieb der Website waren nur minimale technische Kenntnisse erforderlich. Mit demselben Tool war es zudem möglich, innerhalb von Minuten Hunderte ähnlicher Websites zu erstellen.

„Es ist selbstverständlich, dass Kriminelle zur Automatisierung ihrer Machenschaften auf neue Technologien zurückgreifen, um so effektiv wie möglich agieren zu können“, so Ben Gelman, Senior-Data-Scientist bei Sophos. „Die ursprüngliche Erstellung von Spam-E-Mails war ein entscheidender Schritt in der Betrugshistorie, da er das Ausmaß des kriminellen Spielfelds maßgeblich veränderte. Die aktuelle Entwicklung in Sachen Künstlicher Intelligenz hat ein ähnliches Potential: Sobald es eine KI-Technologie gibt, die vollständige, automatisierte Bedrohungen erzeugen kann, wird sie zum Einsatz kommen. Die aktuell zu beobachtende Integration generativer KI-Elemente in klassische Betrügereien, etwa durch KI-generierte Texte oder Fotos, um potentielle Opfer anzulocken, ist dabei nur der Anfang.“

Cyberkriminelle stellen Potential von GPTs und Co. (noch) in Frage

Im zweiten Teil seiner KI-Forschungsoffensive untersuchte Sophos’ X-Ops-Team die Einstellung von Angreifenden gegenüber dem Einsatz von KI-Technologien und analysierte dazu vier prominente Dark-Web-Foren hinsichtlich auf große Sprachmodelle bezogener Diskussionen. Während der Einsatz von KI durch Cyberkriminelle offenbar noch in den Kinderschuhen steckt, diskutieren Bedrohungsakteure auf diesen Plattformen bereits intensiv über das Potenzial für Social Engineering. 

Darüber hinaus stellten die Forschenden fest, dass sich die meisten Beiträge auf zum Verkauf stehende kompromittierte ChatGPT-Konten und „Jailbreaks“ bezogen – Möglichkeiten zur Umgehung der in LLMs integrierten Schutzmaßnahmen, sodass Cyberkriminelle die Tools für böswillige Zwecke missbrauchen können. Das Forscherteam fand außerdem zehn ChatGPT-Anwendungen, von denen die Entwickelnde behaupteten, dass sie für Cyberangriffe und die Entwicklung von Malware verwendet werden könnten. Allerdings wurde die Effektivität solcher Tools von Teilen der Dark-Web-Gemeinde stark angezweifelt und zum Teil sogar als Versuch gewertet, mit nutzlosen Programmen zu betrügen.

Wie Organisationen KI-Technologie sinnvoll nutzen

Wenn es darum geht, die Cybersicherheit im Unternehmen zu erhöhen, ist der Einsatz von generativen LLMs hingegen bereits in vollem Gange. DeepSeek, ChatGPT und Co. sorgen dafür, dass das Thema in den IT-Abteilungen aktuell viel Aufmerksamkeit erfährt. Unternehmen werden mit verlockenden Versprechungen einer KI-gestützten Transformation der Cybersecurity geradezu bombardiert: mehr Schutz, niedrigere Kosten, ein geringerer Bedarf an Fachkräften. Gleichzeitig wird davor gewarnt, dass KI eine völlig neue Ära von Cyberangriffen einläuten wird. 

Umso wichtiger ist es, sich ein klares Bild über den Status Quo und eine potentielle Strategie in Sachen Künstlicher Intelligenz zu machen. Sophos hat hierzu einen Leitfaden erstellt, der Unternehmen dabei hilft, den Hype und die Missverständnisse rund um KI in der Cybersicherheit besser einzuschätzen. 

In diesem Leitfaden erfährst du, was KI leistet und was nicht, um die Cyberabwehr im Unternehmen zu optimieren, und welche Risiken KI für die Cybersicherheit und Betriebsabläufe mit sich bringt. Dazu gibt es Tipps, wie Organisationen mögliche Gefahren minimieren und so die Vorteile von KI sicher nutzen können, um sowohl Ihren Cyberschutz als auch Ihren Return on Investment zu verbessern. 

Zudem liefert der Guide Einblicke in die Praxis: Wie sieht die KI-Nutzung in der Realität aus? Welche Erwartungen und Bedenken bestehen? Die Erkenntnisse hierzu beruhen auf den Ergebnissen einer unabhängigen, Ende 2024 durchgeführten Befragung von 400 IT- und Cybersecurity-Entscheider:innen. Diese direkten Erfahrungsberichte bieten eine wertvolle Orientierungshilfe für Unternehmen, die über Einsatzmöglichkeiten von KI nachdenken.

Den vollständigen Report „KI-gestützte Cybersicherheit: Was Unternehmen wirklich erwarten (können)“ findest du über den folgenden Button.

Jetzt Report kostenlos lesen

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Kommentar abgeben

Melde dich an, um Kommentare schreiben und mit anderen Leser:innen und unseren Autor:innen diskutieren zu können.

Anmelden und kommentieren

Du hast noch keinen t3n-Account? Hier registrieren