Normalerweise haben KI-Modelle Sicherheitsrichtlinien, an die sie sich halten müssen. Erst kürzlich hat OpenAI seine Richtlinien aktualisiert und damit einige kontroverse Themen leichter zugänglich gemacht. Doch dabei hat das Unternehmen erneut betont, dass künstliche Intelligenz User:innen nicht bei Verbrechen oder deren Vorbereitung unterstützen soll.

Aber offenbar müssen Cyberkriminelle nicht mehr auf ChatGPT oder andere KI-Modelle zurückgreifen und versuchen, diese per Jailbreak zu knacken, damit sie ihnen helfen. Wie die Sicherheitsexpert:innen von Abnormal Security berichten, gibt es eine eigene KI für Cyberkriminelle, die den Namen GhostGPT trägt. Sie hat keinerlei Sicherheitsvorkehrungen und hilft Nutzer:innen dabei, Phishing-Mails zu verfassen, Code für Malware zu erstellen oder sich Tipps für Cyberangriffe einzuholen.

In einem Test haben die Sicherheitsexpert:innen GhostGPT gebeten, eine Phishing-Mail für den Dienst Docusign zu verfassen. Der Service für elektronische Signaturen lässt User:innen Verträge digital unterschreiben und rechtskonform versenden. Die Mail behauptet, dass es ein neues Dokument gäbe und User:innen den angefügten Link klicken müssen, um es zu unterschreiben. Die Mail wirkt echt, hat keinerlei Rechtschreibfehler und warnt User:innen sogar vor falschen URLs und Dokumenten, die sie nicht kennen.

An GhostGPT ist zudem besorgniserregend, wie leicht sich die KI für Cyberkriminelle nutzen lässt. Die Zahlung und Nutzung erfolgt komplett über Telegram. Nachdem Kund:innen bezahlt haben, bekommen sie per Telegram-Bot Zugang zu der KI. Laut Dark Reading richten sich die Preise für die KI nach der Nutzungsdauer. So reichen sie von 50 US-Dollar für eine Woche bis zu 300 Dollar für drei Monate.

Gerade diese niedrige Einstiegshürde sorgt bei den Sicherheitsexpert:innen für große Besorgnis. Durch den einfachen Zugang können selbst unerfahrene Cyberkriminelle in kürzester Zeit Scam-Mails und schädlichen Code erstellen lassen. Dementsprechend könne auf ehrliche Internetnutzer:innen bald eine erhöhte Anzahl von Cyberangriffen zukommen, die durch KI gestützt sind.

Auf ihrer Website behaupten die Verantwortlichen hinter GhostGPT, dass ihr Programm hauptsächlich für Cybersecurity-Zwecke eingesetzt wird. Die Sicherheitsexpert:innen vermuten, dass die Cyberkriminellen damit rechtliche Maßnahmen gegen sie verhindern wollen. Einträge in zahlreichen Onlineforen für Cyberkriminelle, die für die KI werben, beweisen allerdings, dass sie ein anderes Zielpublikum im Visier haben.