Menschliches Urteilsvermögen bleibt gefragt: Studie zeigt Grenzen von KI-Unterstützung für Richter

Egal, ob in der Medizin, im Rechtswesen oder im Marketing: Menschen nutzen immer häufiger KI als Unterstützung für ihre Entscheidungen. Trotzdem haben wir so gut wie immer das letzte Wort. Ob und wie viel künstliche Intelligenz wirklich bei unseren Entscheidungen hilft, ist dabei noch recht unerforscht. Das wollte ein amerikanisches Forschungsteam unter der Leitung von Imai und Jim Greiner, einem Ehrenprofessor aus Havard, ändern.
In dem Paper „Hilft KI dem Menschen, bessere Entscheidungen zu treffen? Ein methodologischer Rahmen für die experimentelle Bewertung“ haben nun die Forscher:innen ihre Untersuchungen veröffentlicht. Das Ergebnis: Die Studie zeigt, dass KI-Empfehlungen die Entscheidungen des Richters nicht signifikant verbessert haben. Ob KI zur Entscheidungsfindung herangezogen wurde, spielte also keine Rolle. In etwas mehr als 30 Prozent der Fälle wandte sich der Richter gegen die Empfehlungen der KI.
Schlecht dagegen schnitt nur die KI allein ab. Besonders auffällig ist, dass die KI besonders harte Entscheidungen gegen Minderheiten wie schwarze Menschen getroffen hat. Zusätzlich hat sie fälschlicherweise Kaution verlangt, obwohl die Person bei Freilassung keine Straftat begehen würde.
So kam die Studie zustande
Um die drei Arten von Entscheidungen zu vergleichen, haben die Forscher:innen ein experimentelles Design entwickelt. Die Studie wurde in Dane County, Wisconsin, durchgeführt und konzentrierte sich auf die Frage, ob Festgenommene auf eigene Verantwortung freigelassen werden sollen oder eine Kaution hinterlegt werden muss. Die Forscher:innen nutzten Anhörungen von einem einzigen Richter, die über einen Zeitraum von 30 Monaten zwischen Mitte 2017 und Ende 2019 durchgeführt wurden. Außerdem wurden Verhaftungsdaten von Angeklagten für bis zu 24 Monate später analysiert.
KI nicht nutzlos
Die Entscheidungen von künstlichen Intelligenzen sind also nicht unfehlbar. Dies sollten Nutzer:innen zur Entscheidungsfindung beachten. Dass die KI in der Studie so schlecht abgeschnitten hat, zeige laut Studie jedoch nicht, dass KI vollkommen nutzlos sei. So könnte eine Lösung des Problems eine Neukalibrierung sein.
Imai sieht laut Techxplore ein, dass die Ergebnisse der Studie Anlass zur Sorge geben könnten. Doch er hebt auch hervor, dass auch Menschen Vorurteile haben: „Der Vorteil der KI oder eines Algorithmus ist, dass sie transparent gemacht werden können.“ Um das zu erreichen, bräuchte es eine KI, die quelloffen ist. So sind die Daten bei Auswertungen und Analysen zugänglicher.