Bias-Prüfung: New York erlässt Auflagen für Recruiting-KI
In New York soll KI nur unter Auflagen Bewerber:innen auswählen dürfen. (Foto: Song_about_summer / Shutterstock)
New York hat ein Gesetz auf den Weg gebracht, das den Einsatz von KI in Bewerbungsprozessen stark beschränken würde. Das Gesetz sieht mehr Transparenz, eine Bias-Prüfung und Wahlmöglichkeiten für Bewerber:innen vor, wie unter anderem AP News berichtet.
Ausnahmen möglich
Wer solche Systeme einsetzen will, muss eine jährliche sogenannte Bias-Prüfung vorlegen, die bescheinigt, dass die Systeme niemanden aufgrund von Gender oder Herkunft diskriminiert. Außerdem müsste die Funktionsweise der Systeme offengelegt werden.
Eine weitere wichtige Auflage ist, dass die Bewerber:innen die Möglichkeit bekommen müssen, ein alternatives Verfahren zu wählen. Auch wenn ein KI-System die Bias-Prüfung besteht und die Funktion offengelegt wurde, könnten Bewerber:innen darauf bestehen, dass ihre Bewerbung stattdessen von einem Menschen geprüft wird.
„Schwacher und vager Standard“
KI-Expert:innen und Aktivist:innen geht die Regelung nicht weit genug. Die Bias-Prüfung lässt aus ihrer Sicht zu viel Interpretationsspielraum, sodass Regulierungsbehörden zu schwache Standards setzen könnten.
„Der Ansatz, auf Bias zu prüfen, ist gut. Das Problem ist, dass New York City einen sehr schwachen und vagen Standard dafür gewählt hat, wie das aussehen soll“, sagte Alexandra Givens, Präsidentin des Center for Democracy & Technology gegenüber AP News.
Givens krisiert, dass die Prüfung auf Gender und Herkunft beschränkt sei, aber wichtige Faktoren wie eine Behinderung oder das Alter außen vor lasse.
Der Stadtrat hat das Gesetz am 10. November verabschiedet. Bürgermeister Bill De Blasio hat allerdings einen Monat Zeit, um es zu unterschreiben oder zurückzuweisen.
