Der Algorithmus von Instagram soll den Nutzerinnen und Nutzern Fake News und Desinformationskampagnen zu Covid-19 und anderen Themen aktiv empfehlen, so ein aktueller Bericht aus Großbritannien. Mitarbeitende des Center for Countering Digital Hate (CCDH), einer gemeinnützigen Gesellschaft gegen Hass und Hetze im Netz, haben dafür mehrere Instagram-Accounts erstellt, um die Empfehlungsalgorithmen des sozialen Netzwerks zu testen.
Dabei kommen sie zu einem deutlichen Ergebnis: Der Algorithmus von Instagram spiele Userinnen und Usern aktiv radikalisierende und extremistische Falschinformationen aus. Nutzerinnen und Nutzer würden ermutigt, radikale Inhalte zu konsumieren. Und seien sie einmal „angefüttert“, spiele der Algorithmus wie bei einer Kreuzkontamination Inhalte aus anderen Bereichen der radikalen Weltsicht aus. Folge ein User Impfgegnern, dauere es nicht lange, bis Instagram QAnon-Verschwörungserzählungen oder antisemitischen Content empfehle. Es werde immer schwieriger, sich dieser Spirale zu entziehen, so das CCDH.
Instagram soll die Notbremse ziehen und den Algorithmus abschalten
Das Problem sei längst bekannt und auch die Weltgesundheitsorganisation WHO habe schon Warnungen ausgesprochen und darauf hingewiesen, dass Desinformation die nationale und globale Sicherheit bedroht. Weil Instagram und Facebook als dahinterstehender Mutterkonzern von den Mechanismen profitieren, können sie sich laut CCDH nicht darauf berufen, lediglich neutrale Plattformen zu sein. Sie müssten deshalb die Notbremse ziehen und den Algorithmus abschalten. Erst wenn der „Social-Media-Gigant“ beweisen kann, dass er die Verbreitung von Fake News und Desinformation gezielt unterbinden kann, dürfe er den Dienst wieder aufnehmen, so Imran Ahmed, CCDHs CEO, in einem Statement und einem offenen Brief an Mark Zuckerberg. Sollten sich die sozialen Medien dem weiterhin verweigern, so Ahmed weiter, dann sei es an den Regierungen, unter Einsatz aller Kräfte inklusive Gesetzgebung und Strafverfolgung tätig zu werden.
Für die Untersuchung folgten extra angelegte Accounts verschiedenen Instagrammern – von Gesundheitsbehörden bis zu Impfgegnerinnen und Impfgegnern. Dabei zeigte sich schnell, wie der Empfehlungsalgorithmus eine Radikalisierung vorantreiben kann: Ein Test-Account, der Wellness-Influencern „mit Verbindungen zu Impfgegnern“ folgt, bekam schnell „härteren Impfgegner-Content“ empfohlen; teilweise sogar von führenden Impfgegnerinnen und Impfgegnern, deren Accounts sogar von Instagram verifiziert worden waren. Diese Beobachtungen wiederholten sich auch in anderen Bereichen wie QAnon-Verschwörungserzählungen und Corona-Falschinformationen.
Moderate Einstellungen werden radikaler: Instagrams Algorithmus spielt den Nutzerinnen und Nutzern immer extremere und extremistischere Inhalte aus. (Screenshot: CCDH/t3n)
Facebook scheint jedoch keinen Handlungsbedarf zu sehen: Wie The Next Web berichtet, äußerte sich eine unternehmensangehörende Person dahingehend, dass CCDHs Versuche schon fünf Monate alt seien und außerdem auf einem „extrem kleinen Sample“ von 104 Postings beruhe.
Zumindest das Argument, die Recherche sei veraltet, dürfte nicht ziehen, wie ein Journalist auf Twitter anschaulich demonstriert:
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team