KI kann uns Fehlinformationen lehren. (Foto: Stock-Asso / Shutterstock)
Generative künstliche Intelligenzen (generative KI) sind bekanntlich nicht fehlerfrei. Sie neigen dazu, fehlerhafte Informationen zu produzieren, und in einigen Fällen tritt sogar systematischer Ausfall auf. Diese Fehler resultieren manchmal aus den Trainingsdaten der KI, in anderen Fällen handelt es sich um sogenannte „Halluzinationen“, bei denen die KI Fakten und Daten fabriziert.
Eine kürzlich durchgeführte Studie der Deusto University in Bilbao, Spanien, hat ergeben, dass Menschen diese Fehler und Vorurteile von der KI übernehmen können. Das hat zur Folge, dass die KI nicht nur menschliche Fehler nachahmt und eigene erzeugt, sondern diese auch an Menschen weitergibt.
So ist die Studie aufgebaut
In einem Experiment wurden drei Tests mit Freiwilligen durchgeführt, bei denen sie eine medizinische Diagnose stellen sollten. Um die Ergebnisse nicht durch reale Gegebenheiten zu beeinflussen, wurden die Krankheit, die medizinische Aufgabe sowie die KI erfunden.
Eine Gruppe von Teilnehmern erhielt die Unterstützung einer KI, die mit Fehlinformationen gefüttert war, während die andere Gruppe ihre Diagnose ohne diese Hilfe stellen sollte. Interessanterweise zeigte sich, dass die Gruppe, die mit der KI arbeitete, bei der Diagnosestellung die gleichen Fehler machte, die in die KI programmiert worden waren.
Im Gegensatz dazu machte die andere Gruppe diese Fehler nicht. Diese Beobachtung deutet darauf hin, dass die Gruppe, die mit der KI zusammenarbeitete, von dieser beeinflusst wurde.
Fehler werden auch in die Zukunft übernommen
Es war ebenfalls zu beobachten, dass die Teilnehmer, die anfangs Unterstützung von der KI erhalten hatten, die einprogrammierten Fehler auch bei späteren Aufgaben übernahmen, selbst wenn sie nicht mehr von der KI bei der Diagnose unterstützt wurden.
Das legt nahe, dass diese Teilnehmer die Fehler und die Voreingenommenheit der KI übernommen haben. Im Gegensatz dazu machten die Teilnehmer der Testgruppe, die von Anfang an ohne KI arbeitete, diese Fehler nicht.
Der Einsatz von KI zur Entscheidungshilfe kann also länger anhaltende negative Effekte auf Menschen haben.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team
ich behaupte einfach mal, dass es vorurteile schon immer gab und sie in jedem menschen stecken. vorurteile sind auch nicht per se schlimm. durch sie nehmen menschen eine schutzhaltung gegenueber fremden oder unbekannten ein. wenn aus vorurteilen aber hass oder extremes verhalten wird, dann ist es ein problem. aber das ist bei schwachen kis ja nicht der fall.