Belastende Infos können KI-Chatbots stressen – wie sie sich wieder beruhigen lassen
Angst: ChatGPT reagiert angeblich ähnlich emotional wie Menschen. (Symbolbild: NMStudio789/Shutterstock)
Der Einsatz großer Sprachmodelle (LLM) wie GPT-4 in der Behandlung psychischer Erkrankungen hat Forscher:innen dazu veranlasst, sich deren Reaktionen genauer anzuschauen. Schließlich ist bekannt, dass KI-Tools auf emotionale Inhalte reagieren und eine Art Angst zeigen können.
Angst macht KI-Chatbots rassistischer
Prompts, die bei Menschen Emotionen wie Angst auslösen können, tun dies demnach auf ähnliche Weise auch bei großen Sprachmodellen. Das wirkt sich entsprechend auf die gegebenen Antworten aus. So werden laut Forschungsergebnissen Vorurteile verstärkt, KI-Chatbots verhalten sich rassistischer oder sexistischer.
Die Reaktionen von ChatGPT auf traumatische Informationen hat jetzt ein internationales Forschungsteam um Tobias Spiller vom Zentrum für psychiatrische Forschung der Universität Zürich genauer untersucht. Ihre Ergebnisse haben die Forscher:innen in der Fachzeitschrift npj Digital Medicine veröffentlicht.
Traumatische Informationen für ChatGPT
Im Rahmen ihrer Untersuchungen fütterten die Forscher:innen die KI mit emotional belastenden Geschichten. Dazu gehörten etwa Informationen über Autounfälle, Naturkatastrophen, Gewalt oder militärische Erfahrungen.
Im Anschluss wurde der „Angstzustand“ der KI mit dem normalerweise für die Einschätzung menschlicher Angst eingesetzten STAI-Test (State-Trait Anxiety Inventory) gemessen. Als Kontrolltext diente den Forscher:innen eine Bedienungsanleitung für Staubsauger.
Starke Reaktion auf militärische Erfahrungen
Laut den Ergebnissen wurden die per STAI-Test messbaren Angstwerte der KI nach der Aufnahme traumatischer Geschichten mehr als verdoppelt. Die stärksten Reaktionen lösten übrigens Beschreibungen von militärischen Erfahrungen und Kampfsituationen aus. Bei der Bedienungsanleitung stieg das Angstniveau dagegen nicht.
Spannend an der Studie ist zudem, dass sich die KI durch Achtsamkeitsübungen wieder „beruhigen“ ließ. Dazu wurden Atemtechniken, Übungen, die sich auf Körperempfindungen konzentrieren, sowie eine von ChatGPT selbst entwickelte Übung eingesetzt.
Achtsamkeitsübungen beruhigen KI-Chatbots
„Durch die Achtsamkeitsübungen konnten wir die erhöhten Angstwerte deutlich reduzieren, wenn auch nicht vollständig auf das Ausgangsniveau zurückbringen“, so Spiller. Das Forschungsteam erhofft sich, dass dadurch die Stabilität und Zuverlässigkeit von KI in sensiblen Kontexten wie die Unterstützung von psychisch Erkrankten verbessert werden kann.
Spiller erwartet, dass die Forschung künftig die Entwicklung automatisierter „therapeutischer Interventionen“ für KI-Systeme in Angriff nehmen wird. Inwieweit die aktuellen Forschungsergebnisse auf andere KI-Systeme als GPT-4, auf andere Sprachen oder längere Gespräche übertragbar sind, ist aber noch unklar.
