Reddit plant, eine Verifizierungspflicht einzuführen. Wie Techcrunch berichtet, folgt dieser Strategiewechsel auf ein vieldiskutiertes KI-Experiment, das Forscher:innen der Universität Zürich ohne Wissen der Nutzer:innen auf der Plattform durchgeführt haben. Reddit will KI-Bots fernhalten und deshalb in Zukunft stärker kontrollieren, wer sich als Nutzer:in registriert – und könnte damit eine seiner größten Stärken riskieren.

Reddit unterscheidet sich in mehreren Punkten von anderen sozialen Netzwerken wie Facebook, Instagram oder X. Ein wesentlicher Faktor ist die thematische Struktur: Durch Subreddits können spezialisierte Communities entstehen, in denen gezielt zu einem bestimmten Thema diskutiert wird. Ein wesentlicher Erfolgsfaktor der Plattform ist allerdings die Anonymität. Während viele soziale Netzwerke auf persönliche Profile, Fotos und Follower:innenzahlen setzen, ist Reddit bewusst anonym. Nutzer:innen wählen Pseudonyme und stehen selten als Individuum im Fokus – Inhalte und Meinungen zählen mehr als die Person dahinter.

Diese Anonymität hat allerdings auch ihre Schattenseiten, wie ein im April öffentlich gewordener Fall verdeutlicht: Ein Forschungsteam der Universität Zürich hatte ohne Vorwarnung mehrere KI-gesteuerte Bots im Subreddit „Change My View“ eingesetzt. Das Unterforum dient eigentlich zur Diskussion: Nutzer:innen können ihre Meinung teilen und mögliche Gegenargumente zur eigenen Sichtweise zu erhalten. Die Bots posteten über 1.700 Kommentare – teilweise zu sensiblen Themen wie Missbrauch und Diskriminierung. Ziel der Studie war es, zu erforschen, wie überzeugend KI in Debatten sein kann.

Für Reddit selbst war der Feldversuch ein Albtraum – nicht nur aus ethischer Sicht, sondern auch in Bezug auf die Markenidentität der Plattform, die für echte Meinungen von echten Menschen steht. Wenn Nutzer:innen nicht mehr sicher sein können, ob sie mit realen Menschen oder mit Bots diskutieren, die möglicherweise politische Agenden verfolgen, droht ein massiver Vertrauensverlust.

Reddit verurteilte das Experiment deshalb als „unethisch“ und reichte eine offizielle Beschwerde bei der verantwortlichen Universität ein. Der Vorfall ist aber wohl nur ein Vorgeschmack auf eine Zukunft, in der generative KI immer häufiger versucht, sich unauffällig in soziale Plattformen einzuschleusen. Aber auch Reddit selbst beteiligt sich rege an dem neu entstehenden Geschäftsfeld: Die Plattform verkauft ihre Inhalte nämlich unter anderem an OpenAI zur Schulung von Sprachmodellen.

Reddit-CEO Steve Huffman kündigte an, dass die Plattform in Zukunft mit externen Diensten zusammenarbeiten werde, um sicherzustellen, dass hinter den Accounts echte Menschen stehen. Welche Dienste genau zum Einsatz kommen und unter welchen Umständen die Verifizierung verpflichtend wird, ließ Reddit bislang offen. Huffman betont zwar, möglichst wenige persönliche Informationen erfassen zu wollen, trotzdem bleiben viele Nutzer:innen skeptisch.

Vor allem in sensiblen Subreddits – etwa zu psychischer Gesundheit, Sexualität oder Schwangerschaft – ist die herrschende Anonymität oft der Grund, warum Menschen sich überhaupt trauen, ihre Meinung zu äußern oder Sorgen und Probleme zu teilen. Sollte Reddit unter Druck geraten oder Daten auf richterliche Anordnung herausgeben müssen, könnte das weitreichende Folgen haben. Dass diese Sorge berechtigt ist, haben andere soziale Netzwerke schon bewiesen: So hatte Meta private Nachrichten zwischen einer Mutter und ihrer Tochter an Behörden übergeben – mit strafrechtlichen Konsequenzen für beide.

Lost Places im Internet – Diese Seiten waren mal richtig groß