Sogenannte Content Farms sind nichts Neues: Websites, auf denen in großer Masse Nachrichtenartikel produzieren, die mit Clickbait-Schlagzeilen Werbeeinnahmen generieren sollen.

Für diese Websites ist Text-generierende KI-Technologie offenbar ein gefundenes Fressen. Die US-Organisation Newsguard, die auf Falschinformationen im Internet spezialisiert ist, hat in einer neuen Studie bislang 49 Seiten identifiziert, bei denen Künstliche Intelligenz für die Texterstellung genutzt wird.

Die tatsächliche Zahl liegt ohne Zweifel weitaus höher, denn Newsguard hat sich zunächst auf sieben Sprachen beschränkt: Englisch, Chinesisch, Tschechisch, Französisch, Portugiesisch, Tagalog und Thai. Die 49 gefundenen Seiten hätten das Format regulärer Nachrichten-Websites, hätten aber Inhalte, die vollständig oder teilweise von KI generiert worden seien.

Für Newsguard ist dies eine bedenkliche Entwicklung: „Während in den vergangenen Monaten zahlreiche und immer mächtigere KI-Tools für die Öffentlichkeit zugänglich werden, sind Sorgen, dass sie ganze Nachrichtenagenturen erschaffen – was einst lediglich Spekulation der Medienwissenschaften war – nun zur Realität geworden“, schreibt die Organisation auf ihrer Website.

Die von Newsguard untersuchten Seiten haben harmlose und unauffällige Namen, die auf einen seriösen Herausgeber im Hintergrund schließen lassen, beispielsweise Market News Reports oder Biz Breaking News. Oft fehle jedoch ein Impressum oder sonstige Angaben zum Herausgeber.

Von 29 von der Organisation angeschrieben Betreibern haben lediglich zwei bestätigt, dass sie Künstliche Intelligenzen benutzen. 17 hätten gar nicht erst auf die Anfragen reagiert.

Oft sei jedoch schon am Artikel erkennbar, ob er von einer KI stammt. Oft würde ein entscheidender Bestandteil des Textes eine Mitteilung des jeweiligen Chatbots sein, dass dieser den Prompt nicht umsetzen könne.

Die britische Zeitung The Guardian hat selbst mehrere der Seiten getestet und auf Celebritiesdeaths.com unter anderem einen Nachruf auf den quicklebendigen US-Präsidenten Joe Biden gefunden. Auf eine Erklärung, dass er friedlich im Schlaf dahingeschieden sei und seine Vize Kamala Harris nun übernehmen würde, folgte ein Hinweis, dass „irreführende Inhalte gegen die Richtlinien von OpenAI verstoßen“ würden.

The Guardian berichtet auch von grammatikalisch kuriosen – aber SEO-freundlichen – Überschriften, ständigen Wiederholungen in den Texten und übermäßig simplen Formulierungen in vermeintlich wissenschaftlichen Texten. Nicht immer ist es allerdings derart offensichtlich, KI-generierte Inhalte zu erkennen.

Newsguard verweist neben dem fehlenden Impressum auf einige Merkmale, auf die man achten kann. So würden einige der Seiten Hunderte Artikel pro Tag generieren, was in einer regulären Redaktion kaum möglich ist. Zudem würde es auf vielen der Websites von Werbeanzeigen wimmeln, da die Einnahmen daraus der einzige Grund für ihre Existenz ist.

Noch steht diese Nutzung von Künstlichen Intelligenzen an ihrem Anfang. Wie The Guardian anmerkt, werden die KI künftig von jenen Texten lernen, die andere ihrer Art erzeugt haben.