Das Wall Street Journal (WSJ) und Forscherinnen der Stanford University sowie der University of Massachusetts Amherst haben herausgefunden, dass sich auf Instagram Pädophile und Anbieter sexualisierter Gewaltdarstellung an Kindern vernetzen. Der Empfehlungsalgorithmus helfe ihnen dabei, zueinanderzufinden.

Dabei fanden sie schockierend, wie offensichtlich die Akteure ihre Interessen feilbieten. Das WSJ berichtet: „Nur einer Handvoll dieser Empfehlungen zu folgen, reichte aus, um ein Testkonto mit Inhalten zu überfluten, die Kinder sexualisieren.“ Meta hat daraufhin das Einrichten einer Taskforce angekündigt und einige Hashtags gesperrt.

Das Team stellte fest, dass man mit der Eingabe von expliziten Hashtags  direkt zu den Konten von illegalen Inhaltsanbietern geführt wurde. Diese geben oft vor, von Minderjährigen betrieben zu werden. Die Verkäufer:innen von illegalem Missbrauchs-Material stellen dort „Speisekarten“ zur Schau, nach denen die Pädophilen bestellen können.

Auf die Missstände hingewiesen, reagierte Meta mit Entsetzen und versprach, viele der Hashtags zu löschen. Zudem sei man sich Problemen bewusst und habe eine Arbeitsgruppe gegründet, um dem Herr zu werden. Der Konzern schreibt, man habe im vergangenen Jahr 490.000 Konten gelöscht, die gegen Sicherheitsrichtlinien für Kinder verstießen, und in den letzten zwei Jahren 27 pädophile Netzwerke enttarnt.

Auf der anderen Seite ließ die Plattform oft Inhalte durch, von denen sie wusste, dass sie illegal sind. In diesem Fall öffnete sich ein Warnhinweis, dass die Ergebnisse Kindesmissbrauch zeigen könnten. Trotzdem konnten Nutzer mit Klick auf „Ergebnisse trotzdem ansehen“ die Inhalte einsehen. Diesen Mechanismus habe Meta nun gestoppt, heißt es.

Metas ehemaliger Chief Security Officer und aktueller Leiter des Internet Observatory in Stanford, Alex Stamos, sagt: „Dass ein Team von drei Akademikern mit begrenztem Zugang ein so großes Netzwerk finden konnte, sollte bei Meta Alarm auslösen.“ Er hoffe, das Unternehmen investiere wieder in menschliche Ermittler.

Der Bericht untersuchte auch andere Plattformen wie Twitter und Tiktok, stieß dort aber auf viel geringere Zahlen. Bei Twitter haben man weniger als ein Drittel solcher Konten gefunden, bei Tiktok vermehre sich ihre Anzahl nicht mehr.

Mehrere Initiativen auf Instagram kämpfen gegen die Kinderschänder und die Konsumenten dieser Inhalte. Doch auch sie erhalten durch ihre Arbeit immer wieder abscheuliche Empfehlungen. Nach der Meldung von illegalen Inhalten ploppt zu häufig der Text auf, dass das Team „nicht in der Lage war, diesen Beitrag zu überprüfen“. Als Grund wird die Menge an Meldungen angeführt. Einige Meldungen von Kinderschutzorganisationen sollen monatelang unbeantwortet geblieben sein. Bleibt zu hoffen, dass die neue Kindersicherheits-Taskforce Mittel dagegen findet.