Erkennungsysteme besitzen eine besonders hohe Fehlerquote bei dunkelhäutigen Gesichtern. (Symbolbild: Prostock-studio/Shutterstock.com)
Nijeer Parks saß zehn Tage im Gefängnis, darunter eine Woche in „funktionaler Einzelhaft“. Er verklagt nun die Polizei der Stadt Woodbridge, weil er nach einem falschen Gesichtsabgleich verhaftet wurde. Das berichtet die New York Times.
Nach einem mutmaßlichen Ladendiebstahl legte ein Verdächtiger den hinzugerufenen Beamten einen gefälschten Ausweis vor. Als sie bei ihm Marihuana entdeckten, flüchtete er in einem Leihwagen. Ein Polizist gab an, er habe zur Seite springen müssen, um nicht erfasst zu werden. Die Behörden analysierten das Foto des Ausweises und das System fand eine Übereinstimmung: Nijer Parks. Sie nahmen den Mann fest. Er beteuerte, noch nie ein Auto gefahren oder Woodbridge besucht zu haben. Parks gab über 5000 US-Dollar für seine Verteidigung aus und wies nach, dass er zum Tatzeitpunkt in einer rund 50 Kilometer entfernten Apotheke Geld einzahlte. Die Anklage wurde fallengelassen. Parks klagt nun wegen falscher Verhaftung, Inhaftierung und Verletzung seiner Bürgerrechte.
Gesichtserkennung bringt Unschuldige hinter Gitter
Damit wurde in diesem Jahr der dritte Fall in den USA publik, in dem eine falsche Gesichtserkennung zu einer unrechtmäßigen Verhaftung geführt hat. Alle Fälle betreffen Schwarze. Diskriminierung über derartige KI-Systeme kennt man schon länger. Zuletzt hatte die Wissenschaftlerin Timnit Gebru viel Aufsehen mit einer Studie erregt, die das Phänomen sehr ungenauer Erkennung bei Schwarzen und Frauen belegt. Daraufhin zog sich etwa IBM aus dem Feld zurück. Bürgerrechtler vermuten, dass noch mehr Fälle von unrechtmäßigen Verhören, Verhaftungen und sogar Verurteilungen aufgrund fehlerhafter Identifikation durch solche Systeme existieren.
Diskriminierende KI auch hierzulande
Die App Clearview AI, der eine hohe Fehleranfälligkeit zugesprochen wird, ist in den USA verbreitet. Es hieß jedoch, sie sei nicht an der Fehlinterpretation von Nijer Parks beteiligt gewesen. Während die Staatsanwaltschaft in New Jersey den örtlichen Strafverfolgern bereits den Einsatz der App verboten hat, gehen andere US-Bundesstaaten noch weiter. In einigen ist den Behörden jegliches Nutzen von Gesichtserkennungssoftware untersagt. Auch in Deutschland deckte eine Studie kürzlich Diskriminierung durch KI-Systeme auf. Forscher suchen weltweit nach zugrunde liegenden Mechanismen.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team