In einem Brief an US-Kongressabgeordnete hat IBM-CEO Arvind Krishna angekündigt, sein Unternehmen werde zukünftig keine Gesichtserkennungssysteme und dazugehörige Analysesoftware mehr anbieten. Gegenüber der US-Publikation The Verge hat das Unternehmen darüber hinaus angekündigt, auch Forschung und Entwicklung in dem Bereich einzustellen. Außerdem fordert Krishna in seinem Brief an die Kongressabgeordneten, dass es einen nationalen Diskurs darüber geben sollte, ob Gesichtserkennung von der US-Polizei eingesetzt werden sollte oder nicht.

IBM reagiert damit auf anhaltende Kritik an der Technologie. In der Vergangenheit konnten Forscher immer wieder nachweisen, dass Gesichtserkennungssysteme nicht frei von rassistischen und sexistischen Vorurteilen sind. Auch IBMs eigene Lösungen schnitten bei entsprechenden Tests nicht übermäßig gut ab. Was allerdings auch für Konkurrenzsysteme galt und IBM Anfang 2019 mit der Veröffentlichung diverserer Trainingsdaten beheben wollte.

Einem Bericht von CNBC zufolge soll IBM mit Gesichtserkennungslösungen keine signifikanten Umsätze gemacht haben. Der US-Sender zitiert einen Insider, laut dem die Entscheidung in gleichem Maße eine geschäftliche wie auch eine ethische gewesen sei. Nach Angaben derselben Quelle wurde IBM im Verlauf der letzten Wochen immer wieder mit Bedenken von Bürgern und Angestellten konfrontiert. Auslöser sind die anhaltenden Proteste in den USA gegen Rassismus und Polizeigewalt.

In seinem Brief unterstützt Krishna die Forderung vieler Demonstranten in den USA, dass der Gesetzgeber dafür Sorge tragen müsse, polizeiliches Fehlverhalten stärker zu ahnden. Außerdem müssten KI-Systeme, vor allem bei den Strafverfolgungsbehörden, gründlich und transparent auf mögliche Voreingenommenheiten geprüft werden.

„Anbieter und Nutzer von KI-Systemen haben eine gemeinsame Verantwortung, sicherzustellen, dass KI auf Voreingenommenheit getestet werden, insbesondere wenn sie in der Strafverfolgung eingesetzt werden, und dass solche Voreingenommenheitstests geprüft und veröffentlicht werden“, erklärt Krishna in seinem Brief. Den Einsatz von Gesichtserkennungssystemen für Massenüberwachung und zur Einschränkung grundlegender Menschenrechte lehne sein Unternehmen ab.

Ebenfalls interessant:

• Diskriminierung: Deshalb platzte Amazons Traum vom KI-gestützten Recruiting
• Cloud Vision: Google schmeißt Gender-Label aus Bilderkennungs-KI
• KI-Forscher fordern Gesetz gegen Emotionserkennung