Cloud Vision: Google schmeißt Gender-Label aus Bilderkennungs-KI

Googles Cloud Vision verzichtet künftig auf Gender-Label. (Foto: metamorworks/Shutterstock)
Die API „Cloud Vision“ von Google wird genutzt, um Bilder zu analysieren und beispielsweise Gesichter, Markenlogos oder explizite Inhalte zu erkennen.
In einer E-Mail an Entwickler erklärt Google, künftig keine genderspezifischen Label für Bilder mit Menschen zu nutzen. Stattdessen soll auf neutrale Label wie „Person“ zurückgegriffen werden. In der E-Mail heißt es: „Da das Geschlecht einer Person nicht vom Aussehen abgeleitet werden kann, haben wir beschlossen, diese Label zu entfernen, um uns an die Prinzipien der künstlichen Intelligenz bei Google anzupassen, insbesondere an Prinzip zwei: Vermeide es, unfaire Vorurteile zu erzeugen oder zu verstärken.“
Gesichtserkennung ist fehleranfällig
Bilderkennungssysteme verstärken immer wieder verschiedene Fälle von Bias. So zeigte eine Studie des Massachusetts Institute of Technology, dass Gesichtserkennungssysteme People of Color, insbesondere Frauen, signifikant schlechter erkennen als weiße Menschen.
Eine andere Untersuchung ergab, dass KI-Systeme von Amazon, Clarifai, Microsoft und anderen Cis-Personen mit 95-prozentiger Genauigkeit erkennen, Trans-Männer jedoch in 35 Prozent der Fälle misgendern.
t3n meint:
Google macht Ernst und setzt die bereits 2018 vorgestellten KI-Richtlinien jetzt auch tatsächlich um. Das ist lobenswert, zumal Google damit auch ein finanzielles Risiko eingeht, da der Schritt potenzielle Cloud-Vision-Kunden abschrecken könnte. Solange die jedoch zur Konkurrenz – wie beispielsweise Amazon – ausweichen können, bleibt die Frage, inwieweit solche Selbstverpflichtungen ausreichen, um durch KI verstärkte Vorurteile zu bekämpfen.
Kim Rixecker
Mal wieder zeigt sich, dass wir in einer Epoche der Geisteskranken leben.
Dass es „diskriminierend“ ist, wenn man jemanden nach seinem biologischem Geschlecht klassifiziert zeigt doch schon, wie realitätsentfremdet man sein muss.
Das Geschlecht ist doch nichts weiter als ein körperliches Merkmal.
Als nächstes ist es dann diskriminierend, wenn man einen Ochsen „Ochsen“ nennt, weil er sich ja genau so auch als „Kuh“ identifizieren könnte? Oder sind es schon Ochs_:*Innen oder Kuh_:*Innen?
Schade, dass das Zeitalter „Age of Reason“ anscheinend vorbei ist. Stattdessen zählt nur noch, wer am lautesten „Ich bin empört!“ schreien kann.
Wegen so einem Unfug muss ich jetzt meine Kunden nerven gehen…
Ich wünsche mir, dass Unternehmen klare Kante zeigen, und nicht dieses weichgewaschene „bloss-nicht-anecken“ gehabe. Ich geh jetzt zu AWS. Die haben anscheinend nicht nur die bessere Erkennung, sondern auch mehr Parameter.
Danke Google. Habt ihr toll gemacht. Das werde ich mir in Zukunft merken und meine Entscheidungen nach so etwas gewichten.