Das einjährige Moratorium für den Einsatz der Gesichtserkennungsplattform von Strafverfolgungsbehörden hat Amazon bis auf Weiteres verlängert. Vor einem Jahr verkündete Amazon das Verbot inmitten der George-Floyd-Proteste. Es sollte für zwölf Monate andauern und dem US-Senat genug Zeit verschaffen, strengere Vorschriften für den Einsatz der Technologie zu implementieren. Passiert ist wenig: Es hat sich noch kein Bundesgesetz mit der Problematik befasst. Auf lokaler Ebene sind einige Verbote erlassen worden. Unter anderem in San Francisco dürfen Regierungsbehörden keine Gesichtserkennung mehr einsetzen. Nun, da das Moratorium abgelaufen ist, verlängerte Amazon es ohne konkrete Laufzeit. Das gab das Unternehmen der Nachrichtenagentur Reuters bekannt.

Eine Häufung von Ereignissen hatte eine wissenschaftliche Studie ausgelöst, die nachwies, dass die Systeme bei Schwarzen und Frauen sehr ungenau arbeiten. Das Projekt „Gender Shades“ hatte unter anderem Timnit Gebru zu verantworten, die später in Googles KI-Ethikrat saß und gefeuert wurde. Der Studie folgten weitere, die zu ähnlichen Schlüssen kamen. IBM schloss daraufhin das eigene Programm. Mit der Zeit kamen Fälle heraus, in denen Schwarze durch fehlerhafte Gesichtserkennung unschuldig verhört, verhaftet und sogar verurteilt wurden. Menschenrechtler vermuten eine hohe Dunkelziffer. Amazon und Microsoft setzten die Nutzungserlaubnis für Strafverfolgungsbehörden aus, bis gesetzliche Regelungen auf Bundesebene installiert sind. Zuletzt stellten deutsche Forscher fest, dass auch europäische Behörden durch diskriminierende KI beeinflusst wurden.