Die Aufarbeitung der von der Whistleblowerin und ehemaligen Facebook-Produktmanagerin Frances Haugen vorgelegten internen Dokumente, die unter dem Sammelbegriff „The Facebook Papers“ gefasst sind, fördert immer neue erschreckende Erkenntnisse zutage. Immer schneller werden Enthüllungen veröffentlicht, die Facebook am Ende sogar die Existenz kosten könnten.

Es zeigt sich immer deutlicher, dass die bisher schon berichtete Zurückhaltung Facebooks in der Umsetzung seiner eigenen Studien nur die Spitze eines Eisbergs markiert hat. Dabei schienen Studien, die den psychologischen Schaden von Instagram für einige junge Mädchen zeigen, oder die Kinder als „kostbares“ Gut, das noch „ungenutzt“ ist, bezeichnen, schon erschreckend genug. Nicht auszudenken, was hätte geschehen können, wäre es auf öffentlichen Druck nicht gelungen wäre, Facebook vorerst von der Idee eines Kinder-Instagram abzubringen.

Besonders erschreckend dürfte auch Facebooks Programm namens XCheck sein. Dessen Aufgabe besteht darin, Nutzende zu indentifizieren, die einen Status erhalten, der sie „über die Regeln“ stellt. Gerade an XCheck lässt sich eine Grundhaltung des Unternehmens von Mark Zuckerberg festmachen.

Das Programm soll nämlich laut Politico von dem ehemaligen republikanischen Polit-Lobbyisten und Rechtsanwalt Joel Kaplan geleitet werden, der heutzutage als Vizechef des globalen Richtlinien-Teams bei Facebook arbeitet. Als solcher soll Kaplan für alle möglichen, sich teils widersprechenden Aufgaben zuständig sein. So ist er etwa zusätzlich Leiter von Facebooks Lobbying- und Government-Relations-Team, das geradezu routinemäßig andere Mitarbeiter bei politischen Entscheidungen überstimmen soll. Kaplans Team beaufsichtigt aber ebenso alle Inhaltsregeln.

Das ist ungewöhnlich. Typischerweise sind Politik- und Sicherheitsteams laut Politico bei Konkurrenten wie Twitter und Google unabhängige Abteilungen. Bloomberg berichtet, dass der übergroße Einfluss Kaplans regelmäßig das Integritätsteam von Facebook entmutigt. So würden regelmäßig deren Initiativen torpediert, sodass sie letztlich keinen Erfolg entfalten könnten. Besonders frustrierend soll die Erfahrung gewesen sein, dass selbst eine Herabsetzung der Sichtbarkeit einiger schädlicher Inhalte um 90 Prozent deren Verbreitung nicht stoppen konnte. Schuld daran sollen Facebook-Manager sein, die ständig intervenierten, um solche Initiativen zu stoppen oder zu begrenzen. Auch Mark Zuckerberg wird in den Facebook-Papers ein Hang zum Mikromanagement nachgewiesen.

So verwundert es nicht, dass die Haugen-Unterlagen das Bild eines Unternehmens zeigen, das von internen Konflikten erschüttert wird, wobei die eigenen Mitarbeiter oft in offener Opposition zum Management um Mark Zuckerberg stehen. Viele Dokumente zeigen, wie Facebooks eigene Forscher entsetzt auf ihre eigenen Erkenntnisse über die tatsächliche Funktionsweise der Website reagieren und wie Untätigkeit oder Einmischung des Managements ihre Bemühungen um Lösungen torpediert.

Diese Einmischung soll zu einer hohen Fluktuation führen. Laut Politico beschwerte sich ein Mitarbeiter im Dezember 2020 in einem internen Posting über die Fluktuation in den Sicherheitsteams: „Es ist nicht normal, dass eine große Anzahl von Leuten aus dem Sicherheitsteam das Unternehmen verlässt und sagt: ‚Hey, wir machen die Welt aktiv schlechter, zu deiner Information‘. Jedes Mal, wenn dies angesprochen wird, wird es mit ‚Hey, Leute wechseln ständig den Job‘ abgetan, aber das ist NICHT normal.“ Im selben Monat schrieb ein anderer: „In mehreren Fällen wird die endgültige Entscheidung darüber, ob ein prominenter Beitrag gegen eine bestimmte schriftliche Richtlinie verstößt, von leitenden Angestellten getroffen, manchmal von Mark Zuckerberg. Wenn unsere Entscheidungen als Anwendung einer schriftlichen Richtlinie gedacht sind, dann ist es unklar, warum Führungskräfte konsultiert werden.“

„Die inhaltlichen Entscheidungen von Facebook werden routinemäßig von politischen Erwägungen beeinflusst“, schrieb ein anderer Mitarbeiter in einem Beitrag, in dem er seinen Weggang ankündigte, so Politico. „Wir vermeiden es insbesondere, mächtige politische Akteure zu verärgern. Es gibt viele Fälle, in denen dies der Fall ist“.

In einem Artikel der Washington Post wird ein ehemaliger Mitarbeiter des Teams, dass die Sicherheit und Integrität der Seite sicherstellen soll, wie folgt zitiert:

„Unsere bloße Existenz widerspricht grundsätzlich den Zielen des Unternehmens, den Zielen von Mark Zuckerberg.”

Facebook hat einen schönen Euphemismus für Menschen, die sich mehrere Facebook-Accounts einrichten, nämlich „Single User Multi Account“ (SUMA). Ein interner Beitrag aus dem Jahr 2021 schätzt, dass bis zu 40 Prozent der Neuanmeldungen auf diese SUMAs entfallen, schreibt Politico. Dabei soll der Algorithmus von Facebook den Einfluss von SUMAs auf der Website sowohl quantitativ unterschätzen als auch qualitativ unterbewerten.

Laut Politico ist sich Facebook seit Jahren darüber im Klaren, dass eine relativ kleine Anzahl von Personen in der Lage ist, bösartige Desinformationen und gewalttätige Inhalte zu verbreiten, indem sie mehrere Konten zum Spammen verwenden.

Interne Untersuchungen aus dem März 2018 sollen zeigen, dass SUMAs täglich etwa 11 Millionen Aufrufe und etwa 14 Prozent des politischen Publikums in den USA erreichen. Diese Nutzenden verwendeten oft ihren echten Namen für mehrere Konten, um nicht gegen die Facebook-Regeln für „gefälschte Konten“ zu verstoßen. Dabei nutzen etliche User ihre SUMA-Konten, um eine Flut an Inhalten freizusetzen, ohne dabei Facebooks Spam-Team zu triggern.

Die ehemalige Facebook-Direktorin für Öffentlichkeitsarbeit, Katie Harbath, sagte gegenüber Politico, dass das Unternehmen zwar gegen solche SUMAs vorgehen könne, dass aber „andere Teile des Unternehmens stark darauf drängten, dass jede Intervention individuell gerechtfertigt und jeder Regelverstoß einzeln erklärt werden müsse“. So fehle es den Führungskräften an „Mut zu stumpfen Aktionen“, weil die zu Beschwerden führen könnten.

Facebook erklärt umgekehrt, warum SUMAs kein Problem sein können. Gäbe es nämlich wirklich so viele wie behauptet, würden Werbetreibende irgendwann merken, dass ihr Aufwand nicht die erwarteten Früchte trägt – typisch für die technokratische Betrachtungsweise des Unternehmens.

Bevor wir uns anderen erschreckenden Enthüllungen zuwenden, betrachten wir, warum wir diese sehen werden. Es ist alles eine Frage des Fokus.

Der Washington Post zufolge zeige eine interne Zusammenfassung aus dem Jahr 2020, dass 84 Prozent des Facebook-Budgets für die Bekämpfung von Fehlinformationen auf die USA entfallen. Für den Rest der Welt blieben gerade einmal 16 Prozent übrig. Diese Unterfinanzierung könnte der Grund dafür sein, dass Facebook noch keine Algorithmen entwickelt hat, die in der Lage sind, Hassreden in Hindi oder Bengali (einige der meistgesprochenen Sprachen der Welt) zu erkennen. Überhaupt soll Facebook bislang nur zur Erkennung von rund 70 Sprachen weltweit in der Lage sein. So wundert es nicht, dass es schwer einzudämmenden Spam, Desinformation und Hassrede in vielen Teilen der Welt gibt.

Der deutliche USA-Fokus zeigt sich in der alltäglichen Arbeit der Facebook-Manager laut Wall Street Journal (WSJ) besonders deutlich. So würden ranghöhere Mitarbeiter des Unternehmens systematisch rechtsgerichtete Verleger vor Strafen oder anderen Konsequenzen für Inhalte schützen. Viele Mitarbeitende des Unternehmens sehen gar eine Art Freifahrtschein für rechtsgerichtete Websites und sonstige Inhalte. Sie würden selbst bei Verstößen nicht belangt, um Anschuldigungen wegen politischer Voreingenommenheit zu vermeiden.

Auf diese Weise soll Facebook einige der größten Desinformations-Kampagnen selbst befördert haben, darunter die Wahlbetrugskampagne „Stop the Steal“, QAnon und andere Verschwörungsmythen. Um das zu beweisen, hatten Facebook-Forschende neue Konten ohne weitere Inhalte erstellt. Laut WSJ soll ihnen der Facebook-Algorithmus sehr schnell polarisierende Inhalte in der jeweiligen Timeline vorgeschlagen haben, darunter alle Arten von Verschwörungsmythen.

Noch eindeutiger seien die Ergebnisse gewesen, wenn sie dem Konto eine Richtung gegeben haben, etwa die einer „konservativen Mutter“. Innerhalb von drei Wochen, so sein Facebook-Forscher, wurde das Konto „zu einem konstanten Fluss von irreführenden, polarisierenden und minderwertigen Inhalten“.

Nachdem die Dokumente recht klar zeigen, wo Facebooks Fokus liegt, sowohl vom finanziellen wie auch vom inhaltlichen Einsatz her, verwundert es nicht, dass die Plattform in anderen Teilen der Welt geradezu katastrophale Entwicklungen fördern kann.

Überall da, wo das Unternehmen in einem fremden Markt die lokalen Bedingungen nicht versteht und auch keine Mitarbeitenden einstellt, die sich um auftretende Probleme kümmern könnten, geraten die Dinge aus den Fugen. Das gilt besonders für Länder wie Indien und Äthiopien, wo Facebook für viele Nutzer das Internet schlechthin ist, während der Social-Media-Riese gleichzeitig keine Erkennung für Hindi hat. Aber auch Facebooks Rolle beim Völkermord in Myanmar sollte nicht unterschlagen werden.

In Indien, so schreibt die New York Times, belegen Dutzende von Berichten und Memos das Versagen des Unternehmens bei der Eindämmung von Hassreden und Gewaltverherrlichung. Hier sei Facebook „voll von aufrührerischen und irreführenden antimuslimischen Inhalten“.

Laut CNN veröffentlichte ein Facebook-Team im März 2021 einen Bericht, in dem es auf „koordinierten sozialen Schaden“ in Äthiopien hinwies und davor warnte, dass bewaffnete Gruppen im „Kontext des Bürgerkriegs“ das Vorgehen gegen Minderheiten befürworten. Der Forscher Berhan Taye erklärte gegenüber CNN, dass die Moderation von Inhalten in Äthiopien in hohem Maße von Freiwilligen aus Menschenrechtsgruppen abhänge, an die Facebook die „Drecksarbeit“ delegiere.

Interne Dokumente zeigen, dass Facebook seit mindestens 2018 über das Ausmaß des Menschenhandels und des Handels mit „Hausangestellten“ auf der Website Bescheid weiß, wie CNN berichtet. So habe es erst einer Drohung Apples bedurft, damit sich Facebook des Problems annahm. Apple hatte gedroht, die Facebook-App aus dem App-Store zu werfen, sollte das Unternehmen nicht deutlicher gegen Menschenhandel auf seiner Plattform vorgehen.

Nach wie vor soll es indes trivial sein, Konten zu finden, die Menschen zum Verkauf anbieten. Unter Verwendung von Suchbegriffen aus einem Facebook-Bericht gelang es CNN, „aktive Instagram-Konten“ zu finden, die vorgeben, „Hausangestellte zum Verkauf anzubieten“. Einer dieser „Anbieter“ soll die zum Kauf angebotenen Frauen nach „Alter, Größe, Gewicht, Länge des verfügbaren Vertrags und anderen persönlichen Informationen“ kategorisiert haben, schreibt CNN.

Ein internes Dokument vom November 2019 liest sich so: „War dieses Problem Facebook vor der BBC-Anfrage und der Apple-Eskalation bekannt? Ja.“ Facebook soll sogar Geld mit entsprechenden Anzeigenschaltungen verdient haben.

In einem internen Dokument vom Januar 2020 schreibt Facebook: „Unsere Plattform ermöglicht alle drei Phasen des Lebenszyklus der menschlichen Ausbeutung über komplexe Netzwerke in der realen Welt.“ In einem Dokument vom Februar 2021, das sich auf die Philippinen konzentrierte, wurde gewarnt, dass Facebook „robuste proaktive Erkennungsmethoden … für häusliche Sklaverei in Englisch und Tagalog“ fehlen. Associated Press bestätigt, dass Suchanfragen nach dem Wort „khadima“, was auf Arabisch „Dienstmädchen“ bedeutet, zahlreiche Verkaufsangebote für afrikanische und südasiatische Frauen zutage fördern.

Interne Facebook-Dokumente zeigen, dass die Popularität der Website bei jungen Menschen einbricht. Laut The Verge stellte ein Facebook-Forscher Anfang des Jahres Statistiken zusammen, die zeigten, dass die Nutzerzahlen bei Teenagern in den USA im Jahr 2019 um 13 Prozent zurückgegangen waren und in den nächsten zwei Jahren wahrscheinlich um 45 Prozent sinken würden. Bei den Nutzenden zwischen 20 und 30 Jahren soll ein Rückgang um vier Prozent zu messen sein. Das Fazit des Forschers: „Immer weniger Teenager wählen Facebook, wenn sie älter werden“.

Chris Cox, Chief Product Officer von Facebook, soll laut The Verge Anfang des Jahres eine alarmierende Präsentation gezeigt haben:

„Die meisten jungen Erwachsenen nehmen Facebook als einen Ort für Menschen in ihren 40ern und 50ern wahr. Inhalte werden als langweilig, irreführend und negativ empfunden.”

Zudem würden oft irrelevante Inhalte den Weg zu wichtigen Inhalten blockieren. Das führe insgesamt dazu, dass junge Erwachsene „eine breite Palette negativer Assoziationen mit Facebook haben, einschließlich Bedenken hinsichtlich der Privatsphäre, Auswirkungen auf ihr Wohlbefinden und ein geringes Bewusstsein für relevante Dienste“.

Die Daten zeigten, dass die Neuanmeldungen von Nutzenden unter 18 Jahren in den fünf wichtigsten Ländern der App im Vergleich zum Vorjahr um 26 Prozent zurückgingen, schreibt The Verge. Zudem soll das Engagement junger Menschen stagnieren, teils abnehmen. Menschen, die älter als 30 Jahre sind, verbringen indes im Durchschnitt deutlich mehr Zeit auf der Website.

In einer der Beschwerden, die Frances Haugen bei der SEC eingereicht hat, behauptet sie, dass Facebook jahrelang die wichtigsten Kennzahlen für Investoren und Werbetreibende falsch dargestellt habe. Das Unternehmen habe bewusst Statistiken ausgeschlossen, die eine Verlangsamung bei demografischen Gruppen wie jungen Menschen zeigten. Zudem sei das Nutzerwachstum insgesamt übertrieben worden, indem in Wachstumsberichten der erhebliche Anteil der sogenannten SUMAs nicht berücksichtigt worden sei.

Facebook hat einige der Anschuldigungen dementiert und andere als falsche Darstellungen dessen, was in den internen Dokumenten tatsächlich steht, dargestellt. Das Unternehmen hat indes nicht viele Argumente anzubieten. So beschränkt sich der Social-Media-Riese auf seine konsequent technokratische Linie, indem er behauptet: „Die Wahrheit ist, dass wir 13 Milliarden Dollar investiert haben und über 40.000 Mitarbeiter haben, um eine Aufgabe zu erfüllen: die Sicherheit der Menschen auf Facebook zu gewährleisten.“ Wenn dem so ist, stellt sich allerdings tatsächlich die Frage, warum Facebook die „eine Aufgabe“ dennoch so schlecht erfüllt.

Das Projekt „Facebook Papers“ bezeichnet zwei Kooperationen. In den USA kooperierten mehr als ein Dutzend Nachrichtenorganisationen bei der Analyse von mehr als 10.000 internen Facebook-Dokumenten. Journalisten aus einer Vielzahl von großen und kleinen Redaktionen arbeiteten sich durch interne Unternehmensdokumente, die Frances Haugen, die ehemalige Facebook-Produktmanagerin und heutige Whistleblowerin, der US-Börsenaufsicht SEC offenbart hatte.

Ebenso hatte sich ein Konsortium europäischer Nachrichtenagenturen gebildet und sich mit denselben Dokumenten befasst. Beide Gruppen hatten vereinbart, ab Montag, dem 25. Oktober, mit der Veröffentlichung von Inhalten, die sich auf ihre Analyse des Materials bezogen, zu beginnen. Vorausgegangen war dem ein Zeitraum, in dem auch Stellungnahmen Facebooks von den Konsortien eingeholt worden waren.

Jedes Mitglied des Konsortiums verfolgte seine eigene unabhängige Berichterstattung über den Inhalt der Dokumente und deren Bedeutung. Jedes Mitglied hatte außerdem die Möglichkeit, an Gruppenbriefings teilzunehmen, um Informationen und Zusammenhänge über die Dokumente zu erfahren.

Der Start des Projekts „The Facebook Papers“ ist die Fortführung eines initialen Berichts des Wall Street Journal, der sich auf dieselben Dokumente stützt. Ebenso nimmt das Projekt die Erkenntnisse aus Haugens Auftritt in der CBS-Fernsehsendung „60 Minutes“ und ihrer Aussage vor einem Unterausschuss des US-Senats am 5. Oktober auf.

Bei den Papieren selbst handelt es sich um redigierte Fassungen von Dokumenten, die Haugen über Monate hinweg bei der Börsenaufsichtsbehörde eingereicht hatte. Sie wirft Facebook vor, das eigenen Profitstreben über die Menschen zu stellen und seine eigenen Untersuchungen, die zu denselben Ergebnissen führen würden, vor Investoren und der Öffentlichkeit zu verbergen.

Dabei hatten die Medien bislang noch gar nicht die Möglichkeit, alle Dokumente einzusehen. Haugens Anwaltsteam arbeitet noch immer daran, weitere Dokumente zu redigieren. Das ist erforderlich, um die Namen von Facebook-Nutzenden und Mitarbeitenden der unteren Ebene zu entfernen, bevor die Unterlagen dem Kongress übergeben werden. Es dürften also noch einige Enthüllungen auf Facebook zukommen.