News

Amazon: Polizei darf Gesichtserkennungssoftware weiterhin nicht nutzen

Gesichtserkennungsysteme haben bei Schwarzen eine besonders hohe Fehlerquote. (Symbolbild: Prostock-studio/ shutterstock.com)

Lesezeit: 1 Min.
Artikel merken

Die Polizei soll Amazons KI-gestützte Erkennungsplattform namens Rekognition auch weiterhin nicht einsetzen dürfen. Das Moratorium verlängerte der Hersteller aufgrund fehlender Gesetze. Die gibt es nur in wenigen Städten.

Das einjährige Moratorium für den Einsatz der Gesichtserkennungsplattform von Strafverfolgungsbehörden hat Amazon bis auf Weiteres verlängert. Vor einem Jahr verkündete Amazon das Verbot inmitten der George-Floyd-Proteste. Es sollte für zwölf Monate andauern und dem US-Senat genug Zeit verschaffen, strengere Vorschriften für den Einsatz der Technologie zu implementieren. Passiert ist wenig: Es hat sich noch kein Bundesgesetz mit der Problematik befasst. Auf lokaler Ebene sind einige Verbote erlassen worden. Unter anderem in San Francisco dürfen Regierungsbehörden keine Gesichtserkennung mehr einsetzen. Nun, da das Moratorium abgelaufen ist, verlängerte Amazon es ohne konkrete Laufzeit. Das gab das Unternehmen der Nachrichtenagentur Reuters bekannt.

Rassistische Erkennungssoftware

Eine Häufung von Ereignissen hatte eine wissenschaftliche Studie ausgelöst, die nachwies, dass die Systeme bei Schwarzen und Frauen sehr ungenau arbeiten. Das Projekt „Gender Shades“ hatte unter anderem Timnit Gebru zu verantworten, die später in Googles KI-Ethikrat saß und gefeuert wurde. Der Studie folgten weitere, die zu ähnlichen Schlüssen kamen. IBM schloss daraufhin das eigene Programm. Mit der Zeit kamen Fälle heraus, in denen Schwarze durch fehlerhafte Gesichtserkennung unschuldig verhört, verhaftet und sogar verurteilt wurden. Menschenrechtler vermuten eine hohe Dunkelziffer. Amazon und Microsoft setzten die Nutzungserlaubnis für Strafverfolgungsbehörden aus, bis gesetzliche Regelungen auf Bundesebene installiert sind. Zuletzt stellten deutsche Forscher fest, dass auch europäische Behörden durch diskriminierende KI beeinflusst wurden.

Das könnte dich auch interessieren

Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Schreib den ersten Kommentar!

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!

Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Digitales High Five
Holger Schellkopf (Chefredakteur t3n)

Anleitung zur Deaktivierung

Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder