Kriminelle gelten als besonders schnell, wenn es darum geht, neue Technologien für ihre Machenschaften zu missbrauchen. Bei dem seit November 2022 frei zugänglichen KI-Chatbot ChatGPT ist das nicht anders.

Das noch in den Kinderschuhen steckende, aber spätestens seit dem Upgrade des zugrundeliegenden Sprachmodells GPT auf Version vier noch mächtigere System erfreut sich bei Kriminellen einer großen Beliebtheit. Das geht aus einem neuen Bericht von Europol hervor.

Demnach sei ChatGPT schon im Einsatz, etwa um Anweisungen zum Bau einer Rohrbombe oder zum Herstellen von Crack zu geben. Dazu seien die eingebauten Filtermechanismen des Chatbots überwunden worden. Normalerweise verhindern diese Filter, dass ChatGPT Auskunft zu solchen Themen gibt.

Europol warnt, dass ChatGPT in der Lage sei, Schritt-für-Schritt-Anleitungen zum Begehen bestimmter Straftaten zu liefern. Zwar würden die meisten Informationen dazu ohnehin frei im Netz verfügbar sein. ChatGPT könne aber den Rechercheprozess erheblich beschleunigen, so Europol.

„Dadurch lässt sich ChatGPT verwenden, um sich ohne Vorkenntnisse über eine große Anzahl potenzieller Kriminalitätsbereiche zu informieren, die von Einbrüchen bis hin zu Terrorismus, Cyberkriminalität und sexuellem Missbrauch von Kindern reichen“, zitiert The Register aus dem Europol-Bericht.

Darüber hinaus könne der Chatbot auch dazu verwendet werden, um Betrug oder Phishing zu erleichtern sowie Propaganda und Desinformationen zu verbreiten. Beobachter:innen hatten schon zuvor zu bedenken gegeben, dass etwa die Qualität von Phishing-Mail-Anschreiben und dadurch deren Erfolgsrate durch ChatGPT gesteigert werden könne.

Auf ähnliche Weise würden die Fähigkeiten des Chatbots die Hürden für kriminelle Programmierer:innen beim Erstellen von Malware senken. Fähige Programmier:innen wiederum könnten bestimmte Vorgehensweisen automatisieren.

Europol zufolge könne zudem der Roll-out von Features und Services für KI-Chatbots, etwa die Möglichkeit, Deepfakes zu erstellen oder Zugriff auf Sensoren zu bekommen, die Durchschlagskraft krimineller Machenschaften noch erhöhen.

Nicht ausgeschlossen sei zudem, dass eigens mit krimineller Absicht trainierte Chatbots ohne Filtereinschränkungen im Darknet auftauchen. Und: Die KI-Chatbots selbst bieten eine Angriffsfläche, wenn Kriminelle an den dort gespeicherten sensiblen Daten der Nutzer:innen interessiert seien.

Die ohnehin in Sachen IT-Fertigkeiten entwicklungsfähigen Behörden – auch in Deutschland – dürfte das in den kommenden Monaten und Jahren vor weitere große Herausforderungen stellen. Ein wenig Hoffnung gibt derzeit noch die Fehleranfälligkeit des Chatbots – Stichwort: Halluzination.