Reporter Sam Biddle, der das Facebook-Register gefährlicher Menschen und Organisationen bei The Intercept veröffentlicht hat, gibt in seinem Artikel kritische Stimmen zur Einstufung und den Restriktionen durch Facebook wieder: „Die DIO-Richtlinie von Facebook hat sich zu einem nicht nachvollziehbaren System entwickelt, das bestimmte Gemeinschaften unverhältnismäßig stark bestraft.“

Die Liste selbst sei von The Intercept geprüft worden und wurde mit „geringfügigen Schwärzungen und Änderungen zur Verbesserung der Klarheit“ sowie einem ergänzenden Grundsatzdokument, das Facebook-Moderator:innen bei ihren Lösch-Entscheidungen helfen soll, veröffentlicht. 

2012 hatte Facebook als Reaktion auf die wachsende Besorgnis bezüglich der Online-Rekrutierung von Terrorist:innen ein Verbot von „Organisationen mit einer Vorgeschichte von terroristischen oder gewalttätigen kriminellen Aktivitäten“ in seine Gemeinschaftsstandards aufgenommen. Dieses Verbot stellt den Ausgangspunkt für die Regulierungen dar, die sich in der Liste widerspiegeln. 

Wer durch seine Aktivitäten auf der Liste landet, wird in eine von drei Gruppen eingeteilt. Diese unterscheiden sich nach dem vermuteten Gefährdungsgrad und werden dementsprechend unterschiedlich gehandhabt. Einen eigenen Facebook-Auftritt erlaubt die Plattform niemandem, der auf der Liste steht, Nutzer:innen dürfen sich in ihren Profilen auch nicht als Mitglied einer der aufgeführten Gruppen darstellen. Reguliert wird allerdings anhand der Einteilung, was andere Facebook-Nutzer über die verbotenen Organisationen sagen dürfen.

Am meisten Restriktionen gibt es dabei bezüglich Gruppen und Personen, die auf der ersten Ebene stehen; hier werden beispielsweise terroristische, kriminelle und hassverbreitende Gruppen eingeordnet. Im Bereich „Hass” finden sich hier auch einige deutsche Namen, darunter verstorbene Persönlichkeiten des Nationalsozialismus wie Jospeh Goebbels und Julius Streicher, aber beispielsweise auch aktuell agierende Neo-Nazis. 

Biddle kritisiert die Liste vor allem als zu undifferenziert. So seien beispielsweise neben „White Supremacist“-Organisationen auch „Schriftsteller, Wohlfahrtsverbände, Krankenhäuser, Hunderte von Musiker:innen und längst verstorbene historische Persönlichkeiten“ aufgezählt.

Als Quellen für die Einordnung würden beispielsweise im terroristischen Bereich unter anderem „eine vom Finanzministerium geführte und von George W. Bush unmittelbar nach den Anschlägen vom 11. September erstellte Sanktionsliste“ sowie  „SITE, ein privates Unternehmen zur Aufspürung von Terroristen mit einer langen, kontroversen Geschichte“ genutzt.

„Die Liste und die damit verbundenen Regeln scheinen eine klare Verkörperung amerikanischer Ängste, politischer Bedenken und außenpolitischer Werte seit 9/11 zu sein, so Experten:innen“, schreibt der Journalist in seiner Analyse – dabei sollten die Sicherheitsrichtlinien doch die gesamte, international agierende Facebook-Community schützen.

Laut Biddle hätten die zu Rate gezogenen Expert:innen unter anderem außerdem festgestellt, dass „Kommentare über überwiegend weiße regierungsfeindliche Milizen“ in Teilen deutlich lockerer gehandhabt würden als Kommentare „über Gruppen und Einzelpersonen, die als Terroristen aufgeführt sind, die überwiegend aus dem Nahen Osten, aus Südasien und von Muslimen stammen, oder über diejenigen, die angeblich Teil gewalttätiger krimineller Unternehmen sind, die überwiegend aus Schwarzen und Latinos bestehen“. 

Der Journalist sieht allerdings auch das Dilemma, in dem sich Facebook befände: Die Plattform sei „das vielleicht stärkste System, das jemals für die globale Verbreitung von Gewaltaufrufen über Algorithmen aufgebaut wurde“. Angesichts dessen würde eine komplett fehlende Regulierung vonseiten der Plattform „von weiten Teilen der Öffentlichkeit als grob fahrlässig angesehen“. Die Liste sei dementsprechend „der Versuch eines Unternehmens mit einer historisch beispiellosen Machtkonzentration über die weltweite Meinungsäußerung“, Verantwortung zu übernehmen. 

Den genannten Vorwurf, dass rechtsextreme Gruppen in den USA aufgrund ihrer Verbindung zur konservativen Mainstream-Politik eine Sonderbehandlung erfahren würden, bestreitet Facebook in einer Stellungnahme gegenüber The Intercept. „Wenn amerikanische Gruppen unserer Definition einer terroristischen Gruppe entsprechen, werden sie als terroristische Organisationen bezeichnet (z. B. The Base, Atomwaffen Division, National Socialist Order). Wo sie unserer Definition von Hassgruppen entsprechen, werden sie als Hassorganisationen bezeichnet (z. B. Proud Boys, Rise Above Movement, Patriot Front).”

Brian Fishman, der bei Facebook für die Maßnahmen zur Terrorismusbekämpfung und den Umgang mit gefährlichen Organisationen verantwortlich ist, kommentiert die Enthüllung mehrfach via Twitter.

Fishman erklärt unter anderem, die Liste sei von Facebook (trotz mehrfacher Anfragen) nicht veröffentlicht worden, weil man rechtliche Risiken und Sicherheitsrisiken einschränken wollte und die Möglichkeiten für Gruppen, die Regeln zu umgehen, möglichst gering halten wollte. Die geleakte Aufzählung sei zudem nicht vollständig, da die Liste permanent aktualisiert werde.

Die Einstufung werde nicht nur durch die Facebook-Postings der gelisteten Personen vorgenommen, sondern auch aufgrund derer Aktivitäten abseits der Plattform. Teilweise handele Facebook auf juristische Anweisung hin. „Ich dulde dieses Leck nicht. Insgesamt macht es alles schwieriger. Es wird Kritik geben. Aber wir werden es als Chance nutzen, um besser zu werden“, so Fishman.

Auch gegenüber The Intercept gab Fishman ein schriftliches Statement ab, darin heißt es unter anderem: „Wir wollen keine Terroristen, Hassgruppen oder kriminelle Organisationen auf unserer Plattform. Deshalb verbieten wir sie und entfernen Inhalte, die sie loben, repräsentieren oder unterstützen. Ein Team von mehr als 350 Spezialisten bei Facebook konzentriert sich darauf, diese Organisationen zu stoppen und neue Bedrohungen zu bewerten.“

Dieser Artikel wurde zuletzt am 13. Oktober um 14:00 Uhr aktualisiert.