News

Gesichtserkennung: Amazon verwechselt 28 Politiker mit Kriminellen

Rekognition: Amazons Gesichtserkennung kann bis zu 100 Gesichter auf einem Foto gleichzeitig ausmachen. (Bild: Amazon)

Amazons Gesichtserkennungssoftware Rekognition soll 28 Politiker mit Kriminellen verwechselt haben. Amazon kritisierte den Test von US-Bürgerrechtlern wegen falscher Einstellungen.

Schon im Mai hatte die US-amerikanische Bürgerrechtsorganisation ACLU eindringlich vor Amazons 2016 vorgestelltem Gesichtserkennungssystem Rekognition gewarnt und es als „mächtig und gefährlich“ kritisiert. Jetzt hat die ACLU einen Test mit dem Tool durchgeführt, bei dem 28 Kongressabgeordnete mit mutmaßlichen Kriminellen verwechselt worden seien, wie die Bürgerrechtler mitteilen. Das soll dem Kongress vor Augen führen, wie unzuverlässig die Software arbeite.

Amazon-Software Rekognition: Auffällig viele farbige Politiker verwechselt

Die ACLU hat für den Test frei zugängliche Fotos der 535 aktuellen Mitglieder des Repräsentantenhauses und des Senats verwendet, wie Spiegel Online schreibt. Diese Fotos wurden mit denen von 25.000 Festgenommenen abgeglichen, die ebenfalls öffentlich zugänglich waren. Bei den Politikern habe es sich um Republikaner, Demokraten, Männer und Frauen jeden Alters und aus verschiedenen US-Staaten gehandelt. Auffällig sei, so die ACLU, dass auffällig viele farbige Politiker fälschlich wiedererkannt worden seien, darunter der bekannte schwarze Bürgerrechtler John Lewis.

Diese 28 US-Politiker sind in einem Test der ACLU mit der Amazon-Software Rekognition mit mutmaßlich Kriminellen verwechselt worden. (Bild: aclu.org)

Die ACLU habe für den Test dieselbe Variante des Gesichtserkennungssystems verwendet, die Amazon Nutzern für kommerzielle Zwecke zur Verfügung stellt. Damit könnte jeder Bilder von Gesichtern miteinander abgleichen. Der gesamte Test habe die Bürgerrechtler 12,33 US-Dollar gekostet – weniger als eine große Pizza, wie sie schreiben. Die Tests dienen der ACLU als weitere Untermauerung ihrer Forderung, dass Strafverfolgungsbehörden keine Gesichtserkennung einsetzen sollten. In einigen US-Städten und Gemeinden ist die Amazon-Software aber schon im Einsatz.

Amazon hat derweil gegenüber dem Spiegel auf den Test reagiert. Die ACLU habe laut einem Amazon-Sprecher lediglich die Standardeinstellungen verwendet, die eher für den Abgleich von Fotos von „Hotdogs, Stühlen, Tieren oder anderen Dingen in einem klassischen Social-Media-Kontext“ geeignet seien. Statt einer damit gegebenen Erkennungswahrscheinlichkeit von 80 Prozent sollte dieser Schwellenwert beim Einsatz von Rekognition zur Strafverfolgung auf mindestens 95 festgelegt werden. Allerdings entscheiden die Polizisten selbst, wie sie die Software einstellen.

Mehr zum Thema:

Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

5 Kommentare
Matt

Von einem Gesichtspunkt ist es urkomisch. Auf der anderen Seite, was wird passieren, wenn (und wenn) dieses System online ist und zum Beispiel von der Polizei benutzt wird?

Antworten
Virt Wolf
Virt Wolf

Wozu brauche ich da eine Software ?
Kriminelle = Politiker
Politiker = Kriminelle
Die Fehlerrate bei dieser Berechnung
Nur 2% oder 98% = ?

Antworten
Justin Keller
Justin Keller

Typischer AfD-Bullshit

Antworten
Pling
Pling

Wollen wir nicht alle in Sicherheit leben? Der Versuch, mutmaßliche Täter in einer Masse zu erkennen, scheint mir nicht so abwegig, wenn es darum geht, z.B. ein Massaker zu verhindern. Ich hätte nichts dagegen, erkannt oder auch verdächtigt zu werden, wenn die nachfolgenden Schritte mit gleicher Konsequenz Schuld wie Unschuld ermitteln würden und hinterher kein Makel an fälschlich Verdächtigten zurückbliebe; der Algorithmus damit einfach eine Lerniteration weiter drehen würde.
Hier liegt vermutlich das eigentliche Problem: Zeigt der Algorithmus in Richtung Bedrohung, dann glauben wir ihm das, ohne mal seine Vierfeldertafel zu Rate zu ziehen.
Viel interessanter als der beschriebene Testverlauf wäre es gewesen, wenn andere Bilder der Delinquenten unter das Testset der Politiker gemischt worden wären. Dann hätte man wenigstens testen können, ob der Algorithmus wirklich etwas erkennen kann. Das merkmalsähnliche Bilder bestimmt werden, überrascht wenig. Und wenn in der Grundgesamtheit Prävalenz für die farbige Ethnie besteht, wird das vermutlich auch auf die Falsch-Positiven durchschlagen – auch nicht wirklich außergewöhnlich.
Wir immer geht es darum, die Dinge richtig einzusetzen und vor allem die richtigen Konsequenzen zu ziehen.

Antworten
Markus
Markus

Amazon kann sagen was sie möchten .. der Test führt vor, dass das Tool sehr fehlerhaft arbeiten kann. Und das bei fast biometrischen Bildern wie man sieht .. was passiert, wenn man Unschärfe oder gar nicht final getroffen wird?

Und dennoch liegt der Fehler nicht nur in der Technik, sondern im unreflektierten Umgang mit dieser.

Antworten

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!

Hey du! Schön, dass du hier bist. 😊

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team bestehend aus 65 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Danke für deine Unterstützung.

Digitales High Five,
Stephan Dörner (Chefredakteur t3n.de) & das gesamte t3n-Team

Anleitung zur Deaktivierung