Blindes Vertrauen in KI? Sammelklage in den USA wegen fehleranfälliger Polizeitechnologie
Die Stadt Chicago in den USA arbeitet mit einem Programm namens Shotspotter. Das ist im Grunde eine KI, die Schüsse aus Schusswaffen erkennen soll. Dazu weiß sie laut Website des Unternehmens, von welchem Standort ein Schuss abgefeuert wurde. Dann werden die Schüsse automatisch gemeldet. Das hat zur Folge, dass die Polizisten schneller am Einsatzort sind, sie mehr Patronen finden und die Opfer schneller ins Krankenhaus transportiert werden können.
Das klingt erst einmal nach einer positiven Technologie. Shotspotter steht allerdings auch in der Kritik, zum Beispiel in einer Pressemitteilung des MacArthur Justizzentrums. Laut dieser hat eine Studie ergeben, dass die KI mehr als 40.000 Polizeieinsätze generiert hat, die in einer Sackgasse endeten – und das in nur 21 Monaten.
Zu Unrecht im Gefängnis?
Der 65-jährige Micheal Williams aus Chicago saß rund ein Jahr im Gefängnis, woraufhin er Anzeige gegen die Stadt Chicago erstattet hat. In dieser behauptet er, dass Shotspotter dazu geführt habe, dass er quasi ohne handfeste Beweise verurteilt wurde. In der Anzeige heißt es, dass die Beamten blindes Vertrauen in die KI hätten, was zu Verhaftung von Williams geführt habe. Laut Engadget konnten die Polizisten und Staatsanwälte nicht einmal ein Motiv für Williams bestätigen. Die Anschuldigung lautet, dass er den 25-jährigen Safarian Harring erschossen habe, während er ihn von einer Protestaktion gegen Polizeigewalt in seinem Auto nach Hause fuhr.
Anzeige mit Konsequenzen
Sollte die Anzeige von Williams und dem MacArthur Justizzentrum gegen die Stadt Chicago Erfolg haben, könnte das dazu führen, dass die Stadt die Nutzung der Shotspotter-KI einstellen muss. Das MacArthur Justizzentrum strebt eine Sammelklage im Namen aller Einwohner Chicagos an, die wegen der KI ins Visier der Behörden gerietne. Das ist besonders bitter, da die Stadt noch im letzten Jahr den Vertrag mit dem Unternehmen für 33 Millionen US-Dollar verlängert hat. Außerdem könnte das ein Dämpfer für andere Städte sein, die die Technologie nutzen, und weiteres Ausrollen der KI verhindern.
Shotspotter behauptet hingegen, dass die Software nahezu reibungslos arbeite. Sie sei „sehr genau mit einer Gesamtgenauigkeitsrate von 97 Prozent für Echtzeiterkennungen bei allen Kunden“.
Shotspotter ist nicht die einzige umstrittene KI der letzten Zeit. Googles Lamda-KI soll sich sogar einen Anwalt genommen haben, um sich als Persönlichkeit besser zu schützen. Wer anschließend den Anwalt für Lamda bezahlt, ist noch nicht geklärt.
