News

Wegen Diskriminierung: IBM beendet Gesichtserkennungs-Programm

IBM-CEO Arvind Krishna. (Foto: Shutterstock)

IBM will sich aus dem Geschäft mit Gesichtserkennungslösungen zurückziehen. Außerdem fordert Firmenchef Arvind Krishna in einem Brief an den US-Kongress klare Regeln für den Einsatz der Technologie durch Polizeikräfte.

In einem Brief an US-Kongressabgeordnete hat IBM-CEO Arvind Krishna angekündigt, sein Unternehmen werde zukünftig keine Gesichtserkennungssysteme und dazugehörige Analysesoftware mehr anbieten. Gegenüber der US-Publikation The Verge hat das Unternehmen darüber hinaus angekündigt, auch Forschung und Entwicklung in dem Bereich einzustellen. Außerdem fordert Krishna in seinem Brief an die Kongressabgeordneten, dass es einen nationalen Diskurs darüber geben sollte, ob Gesichtserkennung von der US-Polizei eingesetzt werden sollte oder nicht.

IBM reagiert damit auf anhaltende Kritik an der Technologie. In der Vergangenheit konnten Forscher immer wieder nachweisen, dass Gesichtserkennungssysteme nicht frei von rassistischen und sexistischen Vorurteilen sind. Auch IBMs eigene Lösungen schnitten bei entsprechenden Tests nicht übermäßig gut ab. Was allerdings auch für Konkurrenzsysteme galt und IBM Anfang 2019 mit der Veröffentlichung diverserer Trainingsdaten beheben wollte.

Einem Bericht von CNBC zufolge soll IBM mit Gesichtserkennungslösungen keine signifikanten Umsätze gemacht haben. Der US-Sender zitiert einen Insider, laut dem die Entscheidung in gleichem Maße eine geschäftliche wie auch eine ethische gewesen sei. Nach Angaben derselben Quelle wurde IBM im Verlauf der letzten Wochen immer wieder mit Bedenken von Bürgern und Angestellten konfrontiert. Auslöser sind die anhaltenden Proteste in den USA gegen Rassismus und Polizeigewalt.

IBM-Chef fordert Polizeireform und mehr Transparenz beim KI-Einsatz

In seinem Brief unterstützt Krishna die Forderung vieler Demonstranten in den USA, dass der Gesetzgeber dafür Sorge tragen müsse, polizeiliches Fehlverhalten stärker zu ahnden. Außerdem müssten KI-Systeme, vor allem bei den Strafverfolgungsbehörden, gründlich und transparent auf mögliche Voreingenommenheiten geprüft werden.

„Anbieter und Nutzer von KI-Systemen haben eine gemeinsame Verantwortung, sicherzustellen, dass KI auf Voreingenommenheit getestet werden, insbesondere wenn sie in der Strafverfolgung eingesetzt werden, und dass solche Voreingenommenheitstests geprüft und veröffentlicht werden“, erklärt Krishna in seinem Brief. Den Einsatz von Gesichtserkennungssystemen für Massenüberwachung und zur Einschränkung grundlegender Menschenrechte lehne sein Unternehmen ab.

Ebenfalls interessant:

Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Schreib den ersten Kommentar!

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!

Hey du! Schön, dass du hier bist. 😊

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team bestehend aus 65 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Danke für deine Unterstützung.

Digitales High Five,
Stephan Dörner (Chefredakteur t3n.de) & das gesamte t3n-Team

Anleitung zur Deaktivierung