KI kann uns Fehlinformationen lehren. (Foto: Stock-Asso / Shutterstock)
Generative künstliche Intelligenzen (generative KI) sind bekanntlich nicht fehlerfrei. Sie neigen dazu, fehlerhafte Informationen zu produzieren, und in einigen Fällen tritt sogar systematischer Ausfall auf. Diese Fehler resultieren manchmal aus den Trainingsdaten der KI, in anderen Fällen handelt es sich um sogenannte „Halluzinationen“, bei denen die KI Fakten und Daten fabriziert.
Eine kürzlich durchgeführte Studie der Deusto University in Bilbao, Spanien, hat ergeben, dass Menschen diese Fehler und Vorurteile von der KI übernehmen können. Das hat zur Folge, dass die KI nicht nur menschliche Fehler nachahmt und eigene erzeugt, sondern diese auch an Menschen weitergibt.
So ist die Studie aufgebaut
In einem Experiment wurden drei Tests mit Freiwilligen durchgeführt, bei denen sie eine medizinische Diagnose stellen sollten. Um die Ergebnisse nicht durch reale Gegebenheiten zu beeinflussen, wurden die Krankheit, die medizinische Aufgabe sowie die KI erfunden.
Eine Gruppe von Teilnehmern erhielt die Unterstützung einer KI, die mit Fehlinformationen gefüttert war, während die andere Gruppe ihre Diagnose ohne diese Hilfe stellen sollte. Interessanterweise zeigte sich, dass die Gruppe, die mit der KI arbeitete, bei der Diagnosestellung die gleichen Fehler machte, die in die KI programmiert worden waren.
Im Gegensatz dazu machte die andere Gruppe diese Fehler nicht. Diese Beobachtung deutet darauf hin, dass die Gruppe, die mit der KI zusammenarbeitete, von dieser beeinflusst wurde.
Fehler werden auch in die Zukunft übernommen
Es war ebenfalls zu beobachten, dass die Teilnehmer, die anfangs Unterstützung von der KI erhalten hatten, die einprogrammierten Fehler auch bei späteren Aufgaben übernahmen, selbst wenn sie nicht mehr von der KI bei der Diagnose unterstützt wurden.
Das legt nahe, dass diese Teilnehmer die Fehler und die Voreingenommenheit der KI übernommen haben. Im Gegensatz dazu machten die Teilnehmer der Testgruppe, die von Anfang an ohne KI arbeitete, diese Fehler nicht.
Der Einsatz von KI zur Entscheidungshilfe kann also länger anhaltende negative Effekte auf Menschen haben.
ich behaupte einfach mal, dass es vorurteile schon immer gab und sie in jedem menschen stecken. vorurteile sind auch nicht per se schlimm. durch sie nehmen menschen eine schutzhaltung gegenueber fremden oder unbekannten ein. wenn aus vorurteilen aber hass oder extremes verhalten wird, dann ist es ein problem. aber das ist bei schwachen kis ja nicht der fall.