Nach(-)Halle: Was können Twitch und Co. tun, um Terror-Streams Herr zu werden?
Am 9. Oktober, dem jüdischen Feiertag Jom Kippur, passierte #Halle0910: Ein Mann attackierte mit teils selbst gebauten Waffen eine Synagoge in Halle, versuchte ins Gebäude einzudringen, scheiterte, und tötete danach zwei Unbeteiligte, verwundete zwei weitere schwer. Nach kurzer Flucht wurde er letztendlich festgenommen. Dass die Tat antisemitisch motiviert war, und dass gegen ihre Ursachen, die Motivation des mutmaßlichen Täters (eines 27-jährigen, weißen Eislebeners) und ein grundlegendes Problem mit antisemitischen Haltungen in Deutschland etwas getan werden muss, halten wir mal fest. Für einen anderen Ort, eine andere Zeit.
Der Anschlag wurde für rund 35 Minuten live auf der Streaming-Plattform der Amazon-Tochter Twitch übertragen und war danach für etwa weitere 30 Minuten als Video dort gespeichert und zu sehen. Wie Twitch angab und auch Golem berichtete, hatte der mutmaßliche Täter den Kanal zwei Monate zuvor angelegt und nur einmal für einen Streaming-Versuch benutzt. Das kann dort jeder, der sich mit einer gültigen Mail-Adresse anmeldet.
Der mutmaßliche Täter filmte seine Tat mit einer Helmkamera, vorher und während seiner Flucht auch sich selbst, sprach in gebrochenem Englisch in die Linse. Dabei ging es um seine Pläne, seinen Ärger über seine eigene Inkompetenz, und seine Motivation, die hier nicht noch einmal reproduziert werden soll. Englisch wählte er vermutlich, um auch sein internationales Publikum zu erreichen. Er nannte sich selbst „Anon“, kurz für „Anonymous“ – so nennen sich viele Nutzer der Message-Boards 4chan und (dem seit einigen Monaten vom Netz genommenen) 8chan. Er reiht sich mit seiner Tat, der Live-Übertragung und der „Anon“-Selbstbezeichnung hinter den Terroristen von Christchurch, Poway und El Paso in den USA ein.
We’re continuing to investigate the Halle event and would like to share what we’ve uncovered. The account owner streamed this horrific act live on Twitch for 35 minutes, during which time it was viewed by approximately five people.
— Twitch (@Twitch) October 9, 2019
Wie Twitch auf Twitter mitteilte, sahen etwa fünf Personen bei der Live-Übertragung zu (ob die ganzen 35 Minuten oder kürzer, ist derzeit nicht bekannt). Beendete Übertragungen bleiben bei Twitch automatisch mehrere Wochen als VOD (Video-on-Demand) gespeichert, sodass man sie auch im Nachhinein noch ansehen kann. Laut Twitch taten genau das rund 2.200 Menschen, ehe das Video gemeldet, dann gelöscht und der Twitch-Account des Streamers gesperrt wurde. Auf weitere Nachfragen von t3n hat Twitch bis Redaktionsschluss nicht reagiert.
Das Video sowie ein kürzerer Ausschnitt daraus wurden jedoch von Zuschauern heruntergeladen, gespeichert und unter anderem über den Messenger Telegram verbreitet. Dort hatte eines der Videos den Dateinamen „Joker.mp4“ – wahrscheinlich in Anspielung auf den aktuellen Kinofilm. Allein über Telegram erreichte das Video laut Angaben der Extremismus-Expertin Megan Squire bis zur Nacht des 10. Oktober 2019 gut 50.000 Views – mittlerweile dürften es noch mehr sein, das Video wurde noch nicht aus Telegram entfernt. Der kürzere Clip soll knapp 4.000 Views haben.
The main video now shows 52.4k views on Telegram. The smaller clip is showing 3.8k views. Some media incorrectly quoted me as saying the video was removed from Telegram. It was not. (I only stopped my analysis after 30 mins bc I had to go to class. The video is still up.) https://t.co/7n7tH47npq
— Megan Squire (@MeganSquire0) October 10, 2019
Auch über die Video-Plattform Bitchute wurden die Videos verbreitet. Die auf Bittorrent basierende Plattform steht regelmäßig in der Kritik, da viele Medien mit rechten und rechtsextremen Inhalten dort zirkulieren – was den Betreiber nicht zu stören scheint.
Nachdem Twitch das Video von der Plattform entfernt hatte, teilte der Streaming-Anbieter nach eigenen Angaben dessen Hash-Wert mit anderen Medienplattformen, um die Verbreitung zu verhindern. Hash-Werte sind individuelle, digitale Signaturen, Fingerabdrücken ähnlich, die einzelne Dateien zweifelsfrei identifizieren. Werden Dateien im Internet hochgeladen, lassen sich die Hash-Werte automatisiert überprüfen. Taucht dabei einer auf, der zu einem vorher als problematisch vermerkten Video oder Bild gehört, wird dieses geflagt und der Plattformbetreiber wird informiert.
Seit 2016 haben sich einige große Internet-Unternehmen – darunter Facebook, Twitter, Youtube, Microsoft – in Zusammenarbeit mit Europol dazu verpflichtet, Hash-Datenbanken aufzubauen, zu pflegen und zu erweitern, um sich gegenseitig darin zu unterstützen, die Verbreitung gefährlicher Inhalte zu unterbinden. Auch auf ein EU-Krisenprotokoll einigte sich dieses sogenannte Global Internet Forum to Counter Terrorism (GIFTC) erst vor kurzem, zu dem seit 2017 auch Amazon, Linkedin und Whatsapp gehören. Mitte 2018 befanden sich in dieser Datenbank die Hash-Werte von rund 200.000 Dateien, darunter 8.000 Videos und 80.000 Bilder.
Die Videos des Halle-Anschlags dürften Teil der Datenbank werden, was ihren Upload auf vielen Plattformen unterbindet. Bei Plattformen, die sich der Prävention durch Hash-Überprüfung jedoch nicht verpflichtet haben, greift das nicht – darunter Bitchute.
Ebenfalls wirkungslos ist die Prävention mithilfe von Hash-Werten bei Live-Übertragungen – da hier ja noch gar keine Datei mit zugehörigem Hash erstellt ist. Was kann hier nun aber eine Lösung sein?
Becca Lewis fehlen da gerechtfertigterweise ein wenig die Worte. Sie forscht an der Stanford University zu Medienmanipulation. Auf Medium schreibt sie, dass die einzig effektive Methode – technisch betrachtet – das grundsätzliche Unterbinden von Live-Übertragungen wäre. Eine Option, die, wie sie selbst sagt, völlig utopisch sei. Live-Übertragungen seien mittlerweile kaum mehr aus dem Internet-Alltag wegzudenken. Zu viele Menschen nutzen sie täglich, haben ihr dank Twitch-Kanal oder Facebook-Streams sogar (Teile) ihrer finanziellen Lebensgrundlage zu verdanken. Und natürlich verdienen sich Facebook, Twitch und Co. selbst eine goldene Nase. Da sei es laut Lewis unwahrscheinlich, dass solch drastische Schritte ergriffen werden.
Was sie stattdessen anprangert, ist gewissermaßen Unbedarftheit und Naivität, mit der Technologien entwickelt und in die Welt entlassen werden. Amazon, Facebook und Co. machten Medieninstrumente für jedermann zugänglich und strichen die Gewinne daraus ein, ohne dabei jedoch im Voraus an die politischen und gesellschaftlichen Implikationen zu denken, die dadurch entstehen. Und wenn dann etwas wie Halle passiert, folge, wie nun von Seiten Twitchs, ein beschämtes, virtuelles Schulterzucken mit Beileidsbekundungen und der Versicherung, man sei ausdrücklich gegen solche Inhalte und täte alles dafür, dass diese von der Plattform verschwinden.
„Twitch hat ausnahmslose Regeln gegen hasserfülltes Verhalten und nimmt jeden Gewaltakt sehr ernst. Wir haben mit Nachdruck dafür gesorgt, diese Inhalte zu entfernen und werden alle Accounts dauerhaft sperren, die Inhalte dieser abscheulichen Tat veröffentlichen oder teilen.“ (Zitat: Twitch / Twitter; Übersetzung: t3n)
Wie Lewis schreibt, „mag das der Wahrheit entsprechen, ist jedoch letztendlich nur eine schwache Verteidigung“. Trotzdem haben die Plattformen „Büchsen der Pandora ohne Rücksicht gebaut und der Gesellschaft verkauft – und uns gesagt, wir sollen sie öffnen.“
Es bleibt die Frage, ob Plattformen wie Twitch nun, da sie funktionieren, wie sie nun mal funktionieren, überhaupt etwas tun können. Wahrscheinlich bleibt es vorerst bei Reaktionen, wie der zu Halle: Schnellstmöglich identifizieren, löschen, blocken – und dann das Beste hoffen. Dass das mindestens genauso viele Lücken offen lässt, wie auch die (gut gemeinten und an sich ja durchaus effizienten) Hash-Filter und sonstigen Versuche, die Verbreitung von Videos wie dem des Terroristen von Halle einzudämmen, ist jedoch offensichtlich.
Wie auch Becca Lewis bei aller Sprachlosigkeit und allem Pessimismus einräumt, geht es ja voran – zumindest technisch, zumindest im Internet. So sei durch die Stillegung von 8chan eine wichtige Organisationsplattform für rechtes Gedankengut und eben solchen Terror aus dem Netz verschwunden. Und auch die Gründung des GIFTC, der Einsatz von Filtermethoden und das Einrichten von Krisenprotokollen lassen zumindest hoffen, dass sich auch die Unternehmen mehr und mehr in der Pflicht sehen, ihre Plattformen nicht dem Missbrauch zu überlassen.
„Dennoch, in einer Welt, in der unzählige Büchsen der Pandora geöffnet worden sind, ist es wichtig, gegen die Schrecken zu kämpfen, die entfesselt werden.“ (Zitat: Becca Lewis / Medium; Übersetzung: t3n)
Es bleibt zu hoffen, dass sich Tech-Firmen wie Amazon, Plattformen wie Twitch in Zukunft zumindest aufgrund dieses Pflichtgefühls zwei Mal überlegen, was mit Technologien wie Live-Übertragungen alles angestellt werden kann. Eben nicht nur Entertainment und Profit, sondern auch Live-Streams von Mord und Terror.
- Facebook: Wir wollen „feindselige Umgebung“ für Terroristen sein
- NetzDG: Bundestag beschließt umstrittenes Gesetz gegen Hass im Internet
- Facebook-Livestreams: Einschränkungen werden nach Christchurch verschärft
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team
Aktion statt Reaktion.
Prävention statt Eskalation.
Bilden und Ursachen rrforschen statt Sicherheitsapparate ausbauen und mit Sperrfiltern drohen.
‚Julius Beineke gefällt das‘