Der Algorithmus von Instagram soll den Nutzerinnen und Nutzern Fake News und Desinformationskampagnen zu Covid-19 und anderen Themen aktiv empfehlen, so ein aktueller Bericht aus Großbritannien. Mitarbeitende des Center for Countering Digital Hate (CCDH), einer gemeinnützigen Gesellschaft gegen Hass und Hetze im Netz, haben dafür mehrere Instagram-Accounts erstellt, um die Empfehlungsalgorithmen des sozialen Netzwerks zu testen.
Dabei kommen sie zu einem deutlichen Ergebnis: Der Algorithmus von Instagram spiele Userinnen und Usern aktiv radikalisierende und extremistische Falschinformationen aus. Nutzerinnen und Nutzer würden ermutigt, radikale Inhalte zu konsumieren. Und seien sie einmal „angefüttert“, spiele der Algorithmus wie bei einer Kreuzkontamination Inhalte aus anderen Bereichen der radikalen Weltsicht aus. Folge ein User Impfgegnern, dauere es nicht lange, bis Instagram QAnon-Verschwörungserzählungen oder antisemitischen Content empfehle. Es werde immer schwieriger, sich dieser Spirale zu entziehen, so das CCDH.
Instagram soll die Notbremse ziehen und den Algorithmus abschalten
Das Problem sei längst bekannt und auch die Weltgesundheitsorganisation WHO habe schon Warnungen ausgesprochen und darauf hingewiesen, dass Desinformation die nationale und globale Sicherheit bedroht. Weil Instagram und Facebook als dahinterstehender Mutterkonzern von den Mechanismen profitieren, können sie sich laut CCDH nicht darauf berufen, lediglich neutrale Plattformen zu sein. Sie müssten deshalb die Notbremse ziehen und den Algorithmus abschalten. Erst wenn der „Social-Media-Gigant“ beweisen kann, dass er die Verbreitung von Fake News und Desinformation gezielt unterbinden kann, dürfe er den Dienst wieder aufnehmen, so Imran Ahmed, CCDHs CEO, in einem Statement und einem offenen Brief an Mark Zuckerberg. Sollten sich die sozialen Medien dem weiterhin verweigern, so Ahmed weiter, dann sei es an den Regierungen, unter Einsatz aller Kräfte inklusive Gesetzgebung und Strafverfolgung tätig zu werden.
Für die Untersuchung folgten extra angelegte Accounts verschiedenen Instagrammern – von Gesundheitsbehörden bis zu Impfgegnerinnen und Impfgegnern. Dabei zeigte sich schnell, wie der Empfehlungsalgorithmus eine Radikalisierung vorantreiben kann: Ein Test-Account, der Wellness-Influencern „mit Verbindungen zu Impfgegnern“ folgt, bekam schnell „härteren Impfgegner-Content“ empfohlen; teilweise sogar von führenden Impfgegnerinnen und Impfgegnern, deren Accounts sogar von Instagram verifiziert worden waren. Diese Beobachtungen wiederholten sich auch in anderen Bereichen wie QAnon-Verschwörungserzählungen und Corona-Falschinformationen.
Moderate Einstellungen werden radikaler: Instagrams Algorithmus spielt den Nutzerinnen und Nutzern immer extremere und extremistischere Inhalte aus. (Screenshot: CCDH/t3n)
Facebook scheint jedoch keinen Handlungsbedarf zu sehen: Wie The Next Web berichtet, äußerte sich eine unternehmensangehörende Person dahingehend, dass CCDHs Versuche schon fünf Monate alt seien und außerdem auf einem „extrem kleinen Sample“ von 104 Postings beruhe.
Zumindest das Argument, die Recherche sei veraltet, dürfte nicht ziehen, wie ein Journalist auf Twitter anschaulich demonstriert:
