KI und Generation Alpha: Chatbots haben Probleme, junge Menschen zu verstehen
Eine neue Studie zeigt, dass Chatbots die wirkliche Bedeutung von Jugendsprache oft nicht erfassen können. (Foto: Shutterstock / Tada Images)
Jugendsprache zeichnet sich nicht nur durch eigene Wortschöpfungen und Redewendungen aus, sondern ist auch einem starken Wandel unterworfen. Sie steckt voller Bedeutungen, die für Außenstehende nur schwer zu verstehen sind. Wie eine neue Studie zeigt, betrifft das auch KI-Modelle.
Die Studie wurde in der ACM Digital Library veröffentlicht und widmet sich der Frage, wie gut KI-gestützte Moderationssysteme Kinder und Jugendliche schützen können. Das Ergebnis: Es ist noch viel Luft nach oben.
Die KI hat keinen Sinn für Subtiles
Laut den Wissenschaftler:innen liegt das vor allem an dem speziellen Slang, den die Generation Alpha unter ihresgleichen pflegt. Dieser zeige sich allgemein in der digitalen Kommunikation und im Speziellen im Gaming-Bereich.
Die Untersuchungen der Forschenden haben gezeigt, dass keines der gängigen KI-Modelle in der Lage war, sprachliche Feinheiten und subtile Unterschiede zuverlässig richtig zu deuten. Besonders schlecht schnitten GPT-4, Claude, Gemini und Llama 3 beim Erkennen von Belästigungen ab.
Erwachsene sollen nicht helfen, die KI kann es nicht
Für die Wissenschaftler:innen ist die Konsequenz klar: „Die Ergebnisse unterstreichen die dringende Notwendigkeit verbesserter KI-Sicherheitssysteme, um junge Nutzer:innen besser zu schützen“, heißt es in der Studie.
Der Bedarf werde zusätzlich dadurch verstärkt, dass die digital aufgewachsene Generation Alpha sich bei Problemen keine Hilfe bei Erwachsenen suche. Dahinter stecke das Gefühl, diesen fehle grundsätzlich das Verständnis für ihre digitale Welt.
Das KI-Verständnis ähnelt dem von Eltern
Tatsächlich zeigte sich in der Studie ebenfalls, dass die KI auch nicht mehr Probleme mit der Jugendsprache hatte als Angehörige anderer Generationen. Und das selbst dann, wenn diese sehr nah an den Kindern und Jugendlichen dran waren.
Auch deren Eltern wurden nämlich im Verständnis der Slang-Sprache getestet und kamen dabei eine Quote von 68 Prozent. Die Wissenschaftler:innen bezeichnen das als ein Grundverständnis, das auch das am besten abgeschnittene KI-Modell Claude erreichte.
Was genau die Generation Alpha mit bestimmten Ausdrücken in verschiedenen Kontexten meinte und wie diese jeweils zu deuten waren, verstand zuverlässig nur eine Gruppe von Getesteten: Angehörige der Generation Alpha selbst.
