Vor über zwei Jahren stoppte Microsoft eine KI-gestützte Gesichtserkennung. Im Rahmen seiner Kampagne hin zu einer „Responsible AI” verkündete das Unternehmen, „KI-Klassifikatoren mit sensiblen Merkmalen“ entfernt zu haben. So hieß es vonseiten Microsofts in einem Blogeintrag aus dem Juni 2022. 

Gemeint war eine Technik, die es User:innen unter anderem erlaubte, das Geschlecht oder das Alter einer Person auf einem Foto zu erkennen und diese Informationen zu verarbeiten. Microsoft räumte ein, dass diese Features „ein breites Spektrum an Möglichkeiten, wie sie missbraucht werden können“ öffnen. Dazu gehören „Unterwerfung von Menschen unter Stereotypen, Diskriminierung oder die ungerechte Verweigerung von Dienstleistungen“.

Die Konsequenz aus dieser späten Erkenntnis: Neue User:innen hatten ab dem 21. Juni 2022 keinen Zugriff mehr auf die umstrittenen Gesichtserkennungstechniken. Bestandskund:innen hatten ein gutes Jahr, bis zum 30. Juni 2023, „Zeit, die Verwendung dieser Attribute einzustellen, bevor sie außer Betrieb genommen werden“. Wie auch immer Microsoft dies kontrollieren konnte. Die KI kam etwa im Azure Face API oder im Video Indexer zum Einsatz.

Doch nun hat sich gezeigt: Die KI-Erkennung von sensiblen Merkmalen ist immer noch aktiv. Zumindest bei manchen User:innen. Dies hat das unabhängige Investigativmagazin 404Media herausgefunden. Das Portal bekam einen Tipp von der Künstlerin Ada Ada Ada. Die Dänin, die sich als „Algorithmic Artist“ bezeichnet, fordert in ihren Arbeiten gerne Gesichtserkennungssoftware hinaus. Dazu posiert sie etwa mit klassisch männlichen oder weiblichen Attributen vorm Rechner, um die KI an ihre Grenzen zu bringen und Stereotypisierungen zu entlarven. Die etwa Transpersonen diskriminieren können.

Für eine Aktion im Jahr 2022 verwendete Ada Ada Ada die Version 3.2 des Microsoft’s Image Analysis API. Damals war die heute eigentlich suspendierte KI noch aktiv. Doch wie die Künstlerin 404Media steckte, hat sie immer noch Zugriff auf die Gender-Detection.

404Media hat Microsoft mit dieser Enthüllung konfrontiert. Daraufhin räumte das Unternehmen ein, dass durch einen Fehler eine kleine Anzahl von User:innen wieder Zugriff auf die Geschlechts- und Alterserkennung hatte. Man wolle die Lücke so schnell wie möglich schließen.

Neben dem Geschlecht und dem Alter sollte die KI-API auch die Gefühle von Personen anhand eines Bildes erkennen und beschreiben können. Auch dieses Feature hat Microsoft vor zwei Jahren gestrichen. Schließlich gebe es keinen Konsens über eine allgemeingültige Definition von Emotionen, hieß es in dem schon erwähnten Blogbeitrag. Außerdem sei es unmöglich „die Verbindung zwischen Gesichtsausdruck und emotionalem Zustand über Anwendungsfälle, Regionen und demografische Merkmale hinweg zu verallgemeinern“.