In einem Brief an US-Kongressabgeordnete hat IBM-CEO Arvind Krishna angekündigt, sein Unternehmen werde zukünftig keine Gesichtserkennungssysteme und dazugehörige Analysesoftware mehr anbieten. Gegenüber der US-Publikation The Verge hat das Unternehmen darüber hinaus angekündigt, auch Forschung und Entwicklung in dem Bereich einzustellen. Außerdem fordert Krishna in seinem Brief an die Kongressabgeordneten, dass es einen nationalen Diskurs darüber geben sollte, ob Gesichtserkennung von der US-Polizei eingesetzt werden sollte oder nicht.
IBM reagiert damit auf anhaltende Kritik an der Technologie. In der Vergangenheit konnten Forscher immer wieder nachweisen, dass Gesichtserkennungssysteme nicht frei von rassistischen und sexistischen Vorurteilen sind. Auch IBMs eigene Lösungen schnitten bei entsprechenden Tests nicht übermäßig gut ab. Was allerdings auch für Konkurrenzsysteme galt und IBM Anfang 2019 mit der Veröffentlichung diverserer Trainingsdaten beheben wollte.
Einem Bericht von CNBC zufolge soll IBM mit Gesichtserkennungslösungen keine signifikanten Umsätze gemacht haben. Der US-Sender zitiert einen Insider, laut dem die Entscheidung in gleichem Maße eine geschäftliche wie auch eine ethische gewesen sei. Nach Angaben derselben Quelle wurde IBM im Verlauf der letzten Wochen immer wieder mit Bedenken von Bürgern und Angestellten konfrontiert. Auslöser sind die anhaltenden Proteste in den USA gegen Rassismus und Polizeigewalt.
IBM-Chef fordert Polizeireform und mehr Transparenz beim KI-Einsatz
In seinem Brief unterstützt Krishna die Forderung vieler Demonstranten in den USA, dass der Gesetzgeber dafür Sorge tragen müsse, polizeiliches Fehlverhalten stärker zu ahnden. Außerdem müssten KI-Systeme, vor allem bei den Strafverfolgungsbehörden, gründlich und transparent auf mögliche Voreingenommenheiten geprüft werden.
„Anbieter und Nutzer von KI-Systemen haben eine gemeinsame Verantwortung, sicherzustellen, dass KI auf Voreingenommenheit getestet werden, insbesondere wenn sie in der Strafverfolgung eingesetzt werden, und dass solche Voreingenommenheitstests geprüft und veröffentlicht werden“, erklärt Krishna in seinem Brief. Den Einsatz von Gesichtserkennungssystemen für Massenüberwachung und zur Einschränkung grundlegender Menschenrechte lehne sein Unternehmen ab.
Ebenfalls interessant:
- Diskriminierung: Deshalb platzte Amazons Traum vom KI-gestützten Recruiting
- Cloud Vision: Google schmeißt Gender-Label aus Bilderkennungs-KI
- KI-Forscher fordern Gesetz gegen Emotionserkennung
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team