Anzeige
Anzeige
News
Artikel merken

Shitstorm für Mental-Health-App: 4.000 User mit Chat-KI beraten

Der KI-Chatbot ChatGPT kann in vielen Bereichen eingesetzt werden. Das dachte sich auch das Unternehmen Koko und nutzte die KI als Unterstützung für die psychische Gesundheit seiner App-Nutzer. Doch der Test ging nach hinten los.

2 Min. Lesezeit
Anzeige
Anzeige

Wenn der Bot den Therapeuten ersetzt. (Grafik: Tarikdiz/Shutterstock)

Texte, die von künstlicher Intelligenz geschrieben wurden, sind mitunter faszinierend. Auch Chatbots, die im Kundensupport eingesetzt werden, können dazu beitragen, Probleme von Kunden schnell und einfach zu lösen, ohne dass ein menschlicher Mitarbeiter sich vor den Rechner setzen muss. Selbst als Anwalt kann eine KI eingesetzt werden, wenn ihre Algorithmen darauf trainiert werden, sich mit rechtlichen Fragen zu befassen.

Anzeige
Anzeige

Ein sensibles, aber überaus wichtiges Thema ist die psychische Gesundheit. Hierbei stellt sich die Frage, ob eine KI überhaupt in der Lage ist, einen sicheren und effektiven Support zu leisten, oder ob es doch die Empathie und Psyche eines Menschen braucht. Das Unternehmen Koko entschied sich im Oktober des vergangenen Jahres dazu, eine KI einzusetzen, um ein Unterstützungssystem für seine rund 4.000 Nutzer zu entwickeln. Koko ist ein Peer-to-Peer-Dienst für psychische Gesundheit, bei dem Menschen um Rat und Unterstützung von anderen Nutzern bitten können.

Twitter-Nutzer stellen Ethikfragen

In einem Interview mit Gizmodo gab Mitgründer Rob Morris an, dass das die Zukunft sein werde. „Wir werden denken, dass wir mit Menschen interagieren, und nicht wissen, ob eine KI beteiligt war. Wie wirkt sich das auf die Mensch-zu-Mensch-Kommunikation aus?“, so Morris, der nach eigenen Aussagen selbst mit psychischen Problemen konfrontiert ist. Koko entschied sich dazu, den auf GPT‑3 von OpenAI basierenden Koko Bot zu testen, um automatische Antworten zu generieren. Laut Morris erhielten die 30.000 KI-unterstützten Nachrichten, die während des Tests gesendet wurden, eine überwältigende positive Resonanz. Dennoch beendete das Unternehmen das Experiment bereits nach einigen Tagen.

Anzeige
Anzeige

Bei Twitter kam es daraufhin zu einer Diskussion über die ethische Vertretbarkeit von Kokos Experiment, da Nutzer nicht gewusst hätten, dass sie nur mit einem Bot chatten. Diese Behauptung revidierte Morris. Die Nutzer hätten sehr wohl gewusst, dass eine KI an den Nachrichten beteiligt gewesen sei. Dennoch bestehen im Netz Zweifel, ob die Nutzer wirklich gut genug informiert wurden und welche Risiken das Testen der Technologie in einer Live-Umgebung mit psychisch kranken Menschen birgt.

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Schreib den ersten Kommentar!
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige