Die so präzise an die Nutzer:innen angepasste Startseite von Tiktok wirft die Frage auf, wie viele Daten Tiktok abgreift. Bytedance, das Unternehmen hinter der Kurzvideo-App, lüftete bisher nie das Geheimnis des Algorithmus. Auf der eigenen Website heißt es nur knapp, Engagement in Form von Likes, Shares oder Kommentaren würden die Popularität der Videos ankurbeln. Das erklärt aber nicht, wie diverse Nischen abseits des Tiktok-Mainstreams mit seinen Tänzen und Challenges entstehen können. Journalist:innen vom Wall Street Journal (WSJ) wollten der Sache auf den Grund gehen. Sie haben über 100 Bot-Profile erstellt, die Tiktok-Videos abspielten. So konnten sie die Entwicklung der For-You-Page besser untersuchen.

Das WSJ-Team wies jedem Bot ein Alter und eine IP-Adresse zu. Die IP-Adresse ist für den Algorithmus relevant, um standortbasierte Inhalte vorzuschlagen. Außerdem erhielt jeder Bot eine Auswahl von Interessen-Tags – für Tiktok nicht einsehbar. Auf diese Weise wollten die Journalisten herausfinden, wie schnell und auf welche Art und Weise Tiktok die „Interessen“ der Bots entdecken und entsprechenden Content auf der For-You-Page vorschlagen würde.

Es zeigte sich: Tiktok trackt die Verweildauer auf Videos sehr genau. Wenn die Bots Videos pausierten oder mehrmalig anschauten, wurden Videos mit ähnlichen Hashtags, Nutzernamen, Sounds oder Videobeschreibungen vorgeschlagen. Laut Guillaume Chaslot, hinzugezogener Experte und ehemaliger Microsoft-Mitarbeiter, kämen 90 bis 95 Prozent der Views eines Tiktoks über die Empfehlungsmaschine. Das sei ein deutlich höherer Anteil als beispielsweise auf Youtube, wo der vorgeschlagene Anteil etwas über 70 Prozent beträgt.

Die Reise der Bots durch das Tiktok-Universum beginnt mit Mainstream-Videos. So wird geprüft, worauf der neue Nutzer oder die neue Nutzerin anspringt. Etwas später sinken die Likes und Views der angezeigten Videos auf der For-You-Page. So gelangen die Nutzer:innen schon bald in Nischen, aus denen sie laut WSJ nur schwer herauskommen. Das Problem: Videos mit weniger Views werden mit höherer Wahrscheinlichkeit nicht von Moderator:innen auf Verletzungen der Nutzungsbedingungen geprüft. Manche Tiktok-Nischen – samt ungeprüfter Inhalte – bleiben so unentdeckt.

Um die unbekannten Interessen der Bots zu erkennen, habe der Tiktok-Algorithmus in den meisten Fällen weniger als zwei Stunden gebraucht. Bei manchen Bots dauerte es unter 40 Minuten. Experte Chaslot spricht davon, dass der Tiktok-Algorithmus die Schwachstellen von Nutzer:innen herausfinden könne. Diese Schwachstellen seien Themen, die Menschen triggerten und so die Verweildauer erhöhten. Deshalb zeige der Algorithmus nicht nur Feel-Good-Content, der Nutzer:innen zum Lachen bringt, sondern den, der die stärkste Anziehung hat. Das Experiment des Wall Street Journal zeigt: Zum Teil sind das gefährliche oder verstörende Inhalte.

Ein Beispiel für diese problematische Auswahl von Inhalten zeigte der Bot mit dem Interest-Tag „Sadness“. Schon nach 36 Minuten auf der App bekam der Bot zu 93 Prozent depressiven, traurigen Content angezeigt, darunter Videos über Trennung, Verlust von geliebten Menschen und emotionalen Schmerz. Der Bot versank laut der WSJ-Untersuchung in einem Schwall aus kummervollen Clips. Eine Sprecherin von Tiktok sagte auf Anfrage des Wall Street Journals, dass die verbleibenden sieben Prozent der gezeigten Videos Nutzer:innen dabei helfen sollen, aus dem Raster wieder auszubrechen, wenn sie möchten. Im Experiment seien die abweichenden Videos jedoch hauptsächlich Anzeigen gewesen.

Laut Wall Street Journal funktioniere Tiktok nach wie vor nach den Gesetzen der Aufmerksamkeitsökonomie. Experte Chaslot sagt, der Algorithmus merke, dass die Kundeninteraktion steigt, wenn die Videos zu den Interessen passen. Aus dem Grund werde extremer Content, wie beispielsweise die Depressions-Videos, gefördert, um mehr und mehr Bildschirmzeit der User:innen zu generieren. Auch Bot-Fake-Profile mit massentauglichen Interessen seien in die Nischen gepusht worden. Ein Bot mit dem Interest-Tag „Politik“ habe Verschwörungstheorien über die US-Wahl und QAnon-Inhalte angezeigt bekommen. Was gleichzeitig die Stärke der KI hinter dem Tiktok-Algorithmus ist, ist auch dessen größte Schwäche. Fast jeder und jede Nutzer:in wird in die Nischen hineingezogen.

Dass Tiktok die Verweildauer trackt, hat Bytedance bisher noch nicht zugegeben. Die Frage nach weiteren Datenschutzverletzungen bleibt weiterhin offen. Das präzise Machine Learning des Tiktok-Algorithmus suggeriert eine große Menge abgegriffener Nutzer:innen-Daten.