Erkennungsysteme besitzen eine besonders hohe Fehlerquote bei dunkelhäutigen Gesichtern. (Symbolbild: Prostock-studio/Shutterstock.com)
Nijeer Parks saß zehn Tage im Gefängnis, darunter eine Woche in „funktionaler Einzelhaft“. Er verklagt nun die Polizei der Stadt Woodbridge, weil er nach einem falschen Gesichtsabgleich verhaftet wurde. Das berichtet die New York Times.
Nach einem mutmaßlichen Ladendiebstahl legte ein Verdächtiger den hinzugerufenen Beamten einen gefälschten Ausweis vor. Als sie bei ihm Marihuana entdeckten, flüchtete er in einem Leihwagen. Ein Polizist gab an, er habe zur Seite springen müssen, um nicht erfasst zu werden. Die Behörden analysierten das Foto des Ausweises und das System fand eine Übereinstimmung: Nijer Parks. Sie nahmen den Mann fest. Er beteuerte, noch nie ein Auto gefahren oder Woodbridge besucht zu haben. Parks gab über 5000 US-Dollar für seine Verteidigung aus und wies nach, dass er zum Tatzeitpunkt in einer rund 50 Kilometer entfernten Apotheke Geld einzahlte. Die Anklage wurde fallengelassen. Parks klagt nun wegen falscher Verhaftung, Inhaftierung und Verletzung seiner Bürgerrechte.
Gesichtserkennung bringt Unschuldige hinter Gitter
Damit wurde in diesem Jahr der dritte Fall in den USA publik, in dem eine falsche Gesichtserkennung zu einer unrechtmäßigen Verhaftung geführt hat. Alle Fälle betreffen Schwarze. Diskriminierung über derartige KI-Systeme kennt man schon länger. Zuletzt hatte die Wissenschaftlerin Timnit Gebru viel Aufsehen mit einer Studie erregt, die das Phänomen sehr ungenauer Erkennung bei Schwarzen und Frauen belegt. Daraufhin zog sich etwa IBM aus dem Feld zurück. Bürgerrechtler vermuten, dass noch mehr Fälle von unrechtmäßigen Verhören, Verhaftungen und sogar Verurteilungen aufgrund fehlerhafter Identifikation durch solche Systeme existieren.
Diskriminierende KI auch hierzulande
Die App Clearview AI, der eine hohe Fehleranfälligkeit zugesprochen wird, ist in den USA verbreitet. Es hieß jedoch, sie sei nicht an der Fehlinterpretation von Nijer Parks beteiligt gewesen. Während die Staatsanwaltschaft in New Jersey den örtlichen Strafverfolgern bereits den Einsatz der App verboten hat, gehen andere US-Bundesstaaten noch weiter. In einigen ist den Behörden jegliches Nutzen von Gesichtserkennungssoftware untersagt. Auch in Deutschland deckte eine Studie kürzlich Diskriminierung durch KI-Systeme auf. Forscher suchen weltweit nach zugrunde liegenden Mechanismen.
