Googles Technologieinkubator Jigsaw – offiziell Tochterfirma von Alphabet und einst als Google Ideas gestartet – soll „Bedrohungen für offene Gesellschaften“ erkunden und „Technologie entwickeln, die skalierbare Lösungen inspiriert“ – so heißt es zumindest auf Linkedin. Konkret entstehen im Inkubator Projekte gegen Belästigung im Netz, Extremismus, Korruption oder Angriffe auf die Meinungsfreiheit.

Neu im Repertoire: der „Harassment Manager“. Über Jigsaws Perspective-API bietet das Open-Source-Tool Menschen, die im Netz häufig zur Zielscheibe werden – also beispielsweise Journalist:innen oder Politiker:innen –, eine Möglichkeit, Kommentare zielgerichtet nach Beleidigungen zu durchsuchen.

Während aktuell schon einmal der Quellcode für Entwickler:innen offen zur Verfügung steht, soll das Tool ab Juni dann offiziell von Journalist:innen der Thomson Reuters Foundation genutzt werden. Die erste Plattform, deren Kommentare dadurch gefiltert werden sollen, ist Twitter. Über die API werden Moderationsoptionen wie beispielsweise das Ausblenden von Antworten oder das Sperren eines Accounts mit einem Filter- und Meldesystem kombiniert, das auf Massenanwendung ausgelegt ist.

Jigswas Perspective prüft bei eingehenden Nachrichten, ob und welche Drohungen, Beleidigungen und obszöne Kommentare enthalten sind. Dabei wird ein sogenannter Toxizitätsgrad ermittelt. Die Nachrichten werden dann auf einem Dashboard in Warteschlangen sortiert und können dort quasi stapelweise statt einzeln abgearbeitet werden. Außerdem gibt es die Möglichkeit, nach Schlüsselwörtern zu suchen. Um sich toxische Inhalte zu ersparen, gibt es die Option, den Text der Nachrichten unkenntlich zu machen.

Wer beispielsweise Drohungen der Polizei oder Belästigungsnachrichten dem Arbeitgebenden vorlegen will, kann die entsprechenden Nachrichten in einer Art Bericht herunterladen.

„Wir hoffen, dass diese Technologie eine Ressource für Menschen darstellt, die online belästigt werden, insbesondere für Journalist:innen, Aktivist:innen, Politiker:innen und andere Persönlichkeiten des öffentlichen Lebens, die online mit unverhältnismäßig hoher Toxizität konfrontiert sind“, heißt es in einem Blogbeitrag von Jigsaw, die das Projekt mit Blick auf den feministischen Kampftag, auch Weltfrauentag genannt, vorstellen.

Bislang gibt es allerdings noch keine eigenständige Anwendung zum Download, sondern lediglich den Zugriff auf das Projekt via GitHub. Entsprechende Service-Angebote sollen zukünftig von Jigsaw-Partnern wie Thomson Reuters kommen.

Jigsaw selbst war in der Vergangenheit für eine angeblich „toxische Kultur am Arbeitsplatz“ kritisiert worden, Google hatte die Vorwürfe zurückgewiesen. Auch bei der genutzten Spracherkennung durch Perspective gab es Berichten zufolge noch Lücken. So werden beispielsweise satirische Inhalte nicht entsprechend eingeordnet, beleidigende Nachrichten nicht erkannt oder bestimmte Begriffe, die eigentlich neutral konnotiert sind, direkt als negativ eingestuft.

Ein Vorteil des Harassment Managers, sollte er noch weiter verbessert werden, wäre allerdings, dass er im Gegensatz zu den plattformeigenen Moderationen von Facebook, Twitter und Co. plattformübergreifend genutzt werden könnte.