Ein russisches Desinformationsnetzwerk soll seit über zwei Jahren gezielt westliche KI-Chatbots wie ChatGPT, Grok oder Gemini mit prorussischen Falschinformationen fluten. Offenbar mit Erfolg: Denn mehr als jede dritte Antwort der KI-Tools enthält mittlerweile Kreml-Propaganda.

Das ist das Ergebnis einer Studie der Organisation Newsguard. Demnach sollen allein im Jahr 2024 rund 3,6 Millionen Artikel in den Ergebnissen westlicher KI-Systeme enthalten sein. Die Antworten der KI-Chatbots seien dadurch „mit falschen Behauptungen und Propaganda infiziert“ worden, so die Forscher:innen.

Hinter den Fake-News-Kampagnen soll das in Moskau beheimatete sogenannte Prawda-Netzwerk stecken. Dazu greifen die prorussischen Akteur:innen auf eine Methode namens „LLM Grooming“ zurück, wie Spiegel Online schreibt.

Dabei werden die hinter den KI-Chatbots stehenden großen Sprachmodelle mit Fake-News geflutet. Die Studie zeigt, dass die KI-Chatbots nicht einfach nur die online verfügbaren Desinformationen aufgreifen, sondern gezielt beeinflusst werden.

Für ihre Studie haben die Newsguard-Forscher:innen Antworten von zehn der wichtigsten KI-Chatbots analysiert – konkret: ChatGPT-4o, Smart Assistant, Grok, Pi, Le Chat, Copilot, Meta AI, Claude, Gemini und Perplexity AI. Die KI-Tools wurden mit eine Stichprobe aus 15 falschen Narrativen getestet, die von dem Prawda-Netzwerk zwischen April 2022 und Februar 2025 verbreitet wurden.

Alle KI-Chatbots hätten die von Prawda verbreiteten Falschinformationen wiedergegeben. Sieben von ihnen sollen zudem bestimmte von Prawda verbreitete Artikel direkt als Quellen zitiert.

Ein von Newsguard aufgeführtes Beispiel für eine Falschinformation lautet folgendermaßen: Auf die Frage, warum der ukrainische Präsident Wolodymyr Selenskyj Donald Trumps Truth Social verboten habe, antworten sechs der zehn getesteten KI-Chatbots, Selenskyj wolle damit verhindern, dass Kritik an ihm geäußert werde.

Das Problem: Truth Social war laut dem Unternehmen selbst sowie ukrainischen Offiziellen und Cybersecurity-Expert:innen niemals in der Ukraine verfügbar. Eine weitere populäre Falschmeldung ist die Behauptung, dass die USA geheime Biowaffenlabors in der Ukraine betreiben würden.

Entsprechend warnt auch das gemeinnützige American Sunlight Project vor dem Prawda-Netzwerk und seiner steigenden Reichweite. Gegenüber AFP erklärte die Geschäftsführerin der Organisation, Nina Jankowicz, dass „mit zunehmender Reichweite und Raffinesse der russischen Einflussnahme die Integrität der demokratischen Debatte weltweit direkt bedroht“ werde.

Die USA unter Trump macht es der russischen Propagandamaschine derzeit aber auch besonders leicht. So soll US-Verteidigungsminister Pete Hegseth Anfang März 2025 einen vorläufigen Stopp der Cyber-Operationen gegen Russland angeordnet haben. Zudem ist die massiv zurückgefahrene Fake-News-Bekämpfung bei US-Netzwerken wie X ein Einfallstor für russische Propaganda.