Reddit-User wurden ungefragt Teil eines KI-Experiments
Das Subreddit „Change my View“ dient dazu, Meinungen auf Reddit zu posten und mögliche Gegenargumente zur eigenen Sichtweise zu erhalten. Was eigentlich die Diskussionskultur anregen soll, wurde jetzt laut den Moderator:innen von Forscher:innen der Universität Zürich für ein KI-Experiment missbraucht. Demnach haben die Forscher:innen mehrere KI-Bots eingeschleust, um eine Studie durchzuführen.
So wurde ein Experiment mit Reddit-User:innen durchgeführt
Den Sachverhalt haben die Moderator:innen von Change my View in einem ausführlichen Beitrag an der Spitze des Subreddits angepinnt. Die Forscher:innen hatten KI-Bots erstellt, die kontroverse Meinungen auf Reddit posten sollten. Ziel war es, herauszufinden, ob KI in der Lage ist, die Meinungen von echten Menschen zu beeinflussen. Die Moderator:innen wurden erst nach Abschluss der Studie von den Forscher:innen kontaktiert und über die Aktion informiert. Sie betonen, dass sie dem Experiment vorab nie zugestimmt hätten.
Die KI-Modelle gaben sich während des Experiments als echte Personen aus. Darunter etwa eine Person, die eine Vergewaltigung erlebt hatte oder jemand, der Menschen bei der Bewältigung von traumatischen Ereignissen berät. Außerdem gab es einen KI-Bot, der religiöse Gruppierungen für die „Tode von Hunderten unschuldigen Händlern, Farmern und Dorfbewohnern“ verantwortlich machte und eine KI, die vorgab, ein afroamerikanischer Mann zu sein, der sich gegen die Black-Lives-Matter-Bewegung ausspricht.
Die Forscher:innen geben in ihrer Nachricht an die Reddit-Moderator:innen zu, dass diese Aktion ohne Autorisierung gegen die Richtlinien des Subreddits verstoßen hat und entschuldigen sich dafür. Sie glauben, dass eine vorherige Aufklärung über das Experiment die gesamte Studie undurchführbar gemacht hätte. Das Team der Moderator:innen hält dagegen. So schreiben sie: „Die Risiken von psychologischer Manipulation durch große Sprachmodelle werden ausführlich untersucht. Es ist nicht notwendig, ein Experiment an Menschen durchzuführen, die diesem Experiment nicht zugestimmt haben“.
Für die Studie haben die Forscher:innen zudem Daten über Nutzer:innen des Subreddits gesammelt und in der Studie verwendet. Dazu zählen etwa ihr Alter, Geschlecht, Wohnort sowie Ethnizität und politische Ansichten. Aufgrund dieser gesammelten Daten und des Verstoßes gegen die Richtlinien des Subreddits haben die Moderator:innen zunächst eine Beschwerde bei der Ethikkommission der Universität eingereicht. Sie wollten damit die Veröffentlichung der Studie verhindern.
Die Antwort der Universität Zürich fiel für die Moderator:innen allerdings enttäuschend aus. Zwar heißt es, dass die Situation sehr ernst genommen wird und es eine Untersuchung zu dem Experiment geben wird, aber eine Veröffentlichung dennoch stattfinden wird. So schreiben die Verantwortlichen: „Das Projekt gibt wertvolle Einblicke und die Risiken (wie Traumata) sind minimal. Das bedeutet, dass die Nichtveröffentlichung der Studie nicht im Verhältnis mit der Bedeutung der Studienergebnisse steht“.
In ihrem Post äußern die Moderator:innen große Sorgen aufgrund dieser Entscheidung: „Unser Subreddit ist ein Platz für Menschen, in dem nicht gekennzeichnete KI grundlegend verboten ist. Die Menschen kommen nicht hier her, um ihre Ansichten mit einer KI zu diskutieren oder um Teil eines Experiments zu sein. […] Die Veröffentlichung zu erlauben, würde das Eindringen von anderen Forschern dramatisch fördern und die Community zukünftig weiteren nicht einvernehmlichen Experimenten aussetzen.“ Abschließend rufen sie die Universität Zürich dazu auf, ihre Meinung zu der Veröffentlichung der Studie zu überdenken.
