New York hat ein Gesetz auf den Weg gebracht, das den Einsatz von KI in Bewerbungsprozessen stark beschränken würde. Das Gesetz sieht mehr Transparenz, eine Bias-Prüfung und Wahlmöglichkeiten für Bewerber:innen vor, wie unter anderem AP News berichtet.

Wer solche Systeme einsetzen will, muss eine jährliche sogenannte Bias-Prüfung vorlegen, die bescheinigt, dass die Systeme niemanden aufgrund von Gender oder Herkunft diskriminiert. Außerdem müsste die Funktionsweise der Systeme offengelegt werden.

Eine weitere wichtige Auflage ist, dass die Bewerber:innen die Möglichkeit bekommen müssen, ein alternatives Verfahren zu wählen. Auch wenn ein KI-System die Bias-Prüfung besteht und die Funktion offengelegt wurde, könnten Bewerber:innen darauf bestehen, dass ihre Bewerbung stattdessen von einem Menschen geprüft wird.

KI-Expert:innen und Aktivist:innen geht die Regelung nicht weit genug. Die Bias-Prüfung lässt aus ihrer Sicht zu viel Interpretationsspielraum, sodass Regulierungsbehörden zu schwache Standards setzen könnten.

„Der Ansatz, auf Bias zu prüfen, ist gut. Das Problem ist, dass New York City einen sehr schwachen und vagen Standard dafür gewählt hat, wie das aussehen soll“, sagte Alexandra Givens, Präsidentin des Center for Democracy & Technology gegenüber AP News.

Givens krisiert, dass die Prüfung auf Gender und Herkunft beschränkt sei, aber wichtige Faktoren wie eine Behinderung oder das Alter außen vor lasse.

Der Stadtrat hat das Gesetz am 10. November verabschiedet. Bürgermeister Bill De Blasio hat allerdings einen Monat Zeit, um es zu unterschreiben oder zurückzuweisen.