„Von KI geschriebene Texte können potenziell schädlich sein, wenn sie zur Verbreitung von Fehlinformationen oder zur Manipulation der Überzeugungen oder des Verhaltens von Menschen verwendet werden.“ Dieses Zitat stammt nicht von einem Experten, sondern von ChatGPT. Die Text-KI von OpenAI hat damit tatsächlich recht. Leider ist das aber längst nicht immer der Fall.

ChatGPT kann zwar zu jedem Thema einen Text schreiben, da die KI aber nicht wirklich versteht, was sie da schreibt, produziert sie prinzipbedingt leider häufig Unfug. Der kann aber durchaus glaubwürdig klingen. Das merkten die Betreiber:innen der Entwickler:innen-Plattform Stack Overflow vergleichsweise früh. Als Reaktion darauf wurden KI-generierte Texte auf der Plattform Anfang Dezember 2022 verboten.

Wie genau das Verbot von Stack Overflow kontrolliert wird, verrät die Plattform nicht. Laut Angaben der Firma sollen aber automatisierte Erkennungssysteme zum Einsatz kommen. Das ist schon aufgrund der Menge an potenziell KI-generierten Texten notwendig. Aber auch, weil Menschen schlicht nicht sehr gut darin sind, KI-Texte als solche zu erkennen.

„In einer Untersuchung über die menschliche Bewertung von maschinell erzeugtem Text wurde festgestellt, dass ungeschulte menschliche Prüfer maschinell erzeugten Text aus GPT-3 in einem Maße korrekt identifizieren konnten, das dem Zufall entspricht“, heißt es in einer aktuellen Untersuchung. Sprich: Man könnte genauso gut per Münzwurf entscheiden, ob ein Text von einer KI generiert wurde.

Immerhin konnte die Erkennungsrate durch etwas Training auf 55 Prozent erhöht werden. Wirklich großartig ist die Trefferquote allerdings nicht. Mit dem Giant Language Model Test Room (GLTR) gibt es aber immerhin ein von Forscher:innen von Harvard und IBM entwickeltes Hilfswerkzeug, mit dessen Hilfe Menschen dabei unterstützt werden sollen, KI-generierte Texte zu erkennen.

GLTR wurde anhand des Sprachmodells von GPT-2 trainiert und zeigt an, wie wahrscheinlich es ist, dass ein Text von diesem KI-Modell erzeugt wurde. Aber auch die Macher:innen des Tools geben zu bedenken, dass GLTR nur zur Erkennung einzelner Verdachtsfälle sinnvoll eingesetzt werden kann.

Erfolgversprechender ist die KI-gestützte Erkennung maschinell erzeugter Texte. Dabei wird die Technik gegen sich selbst eingesetzt. Abhängig von verschiedenen Faktoren kann dabei eine Erkennungsrate von über 90 Prozent erreicht werden.

Allerdings dürfte es in der Realität deutlich schwieriger sein. Wer wirklich verhindern will, dass ein KI-generierter Text als solcher erkannt wird, kann seine Modelle entsprechend anpassen. Selbst OpenAI erklärt in einem Paper über die Problematik, dass die automatisierte Erkennung von KI-Texten letztlich auf ein Katz-und-Maus-Spiel hinauslaufen dürfte, bei dem beide Seiten immer wieder nachbessern müssen.

Eine dauerhafte Lösung für das Problem gibt es vorerst nicht. In Anbetracht der Tatsache, wie unkritisch schon jetzt menschgemachte Fake News in vielen Fällen im Netz geteilt werden, lässt sich erahnen, welches Gefahrenpotenzial in automatisierten Desinformationskampagnen steckt. Zwar werden Erkennungssysteme immer besser, aber das gilt eben auch für die Text-Generatoren.