News

Autonome Fahrzeuge haben laut Studie ein Rassismusproblem

(Foto: Shutterstock)

Haben autonome Fahrzeuge ein Rassismusproblem? Laut US-Forschern sollen selbstfahrende Autos dunkelhäutige Menschen schlechter erkennen können als hellhäutige – mit gefährlichen Folgen.

Bevor selbstfahrende Autos ganz normal durch Städte fahren können, müssen noch viele Herausforderungen bewältigt werden. Dazu gehören Fragen nach moralischen Entscheidungen sowie Haftungsfragen bei Unfällen. Eine Studie von Wissenschaftlern des Georgia Institute of Technology hat jetzt ein weiteres Problem aufgeworfen, das auch in anderen Bereichen der Softwareentwicklung zu beobachten ist: Rassismus, oder allgemeiner, Vorurteile.

Autonome Fahrzeuge: Hellhäutige Menschen häufiger erkannt als dunkelhäutige

In ihrer Studie „Predictive Inequity in Object Detection“ kamen die Wissenschaftler zu dem Schluss, dass Menschen mit hellerer Hautfarbe von selbstfahrenden Autos öfter erkannt würden als dunkelhäutige Menschen. Die Erkennungsrate der hellhäutigen Menschen lag im Schnitt um fünf Prozentpunkte über jener der Menschen mit dunkler Hautfarbe, wie Vox.com berichtet. Dabei machten auch Lichtbedingungen oder ein versperrter Blick auf die Fußgänger keinen Unterschied.

Allerdings hatten die Forscher bei ihrer Untersuchung keinen Zugriff auf aktuelle Modelle zur Objekterkennung, die von den Entwicklern autonomer Fahrzeuge verwendet werden. Auch die Trainingsdaten wollten die Hersteller nicht zur Verfügung stellen. Daher verwendeten die Wissenschaftler Modelle, die in Forschungsabteilungen von Universitäten genutzt werden sowie öffentlich zugänglich Datensätze wie Fotos von Fußgängern.

Die Studie ist dennoch wichtig für die Entwicklung von (selbstlernender) Software zur Objekterkennung. Die Forscher bemängeln, dass die von ihnen genutzten Modelle überwiegend an hellhäutigen Menschen trainiert worden seien. Darüber hinaus seien die wenigen dunkelhäutigen Menschen in den Datensätzen zu wenig gewichtet worden. Letzteres könnte die Ungerechtigkeiten bei den zur Verfügung stehenden Sätzen und Vorurteile bei der Programmierung ausgleichen.

Mehr zum Thema: Diskriminierung – deshalb platzte Amazons Traum vom KI-gestützten Recruiting

Bitte beachte unsere Community-Richtlinien

3 Reaktionen
Kappy

[An dieser Stelle stand ein Kommentar, der gegen unsere Community-Richtlinien verstößt. Wir haben ihn gelöscht.]

Antworten
Alex

Typisch t3n auf Bild-Niveau.
Nutzt ihr mittlerweile nur noch lächerliche Schlagzeilen um eure noch schäbigeren Artikel zu überspielen?

Antworten
Matthias Richter

Maschinen sind frei von Rassismus und Vorurteilen. Dass helle Menschen einfach besser erkannt werden ist nun mal ne Tatsache. Es werden bestimmt auch Menschen mit hellerer Kleidung besser erkannt als Menschen mit schwarzen Klamotten im Dunkeln.
Damals gab es auch das eine bekannte Bild von ner Samsung Gesichtserkennung wo ein schwarzer Mitarbeiter nicht erkannt wurde und da ging das auch los. Das ist einfach die Technik.

Rassistisch ist es nur von der Hautfarbe auf Charaktereigenschaften zu schließen.

Antworten

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Hey du! Schön, dass du hier bist. 😊

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team bestehend aus 65 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Danke für deine Unterstützung.

Digitales High Five,
Stephan Dörner (Chefredakteur t3n.de) & das gesamte t3n-Team

Anleitung zur Deaktivierung