In New York soll KI nur unter Auflagen Bewerber:innen auswählen dürfen. (Foto: Song_about_summer / Shutterstock)
New York hat ein Gesetz auf den Weg gebracht, das den Einsatz von KI in Bewerbungsprozessen stark beschränken würde. Das Gesetz sieht mehr Transparenz, eine Bias-Prüfung und Wahlmöglichkeiten für Bewerber:innen vor, wie unter anderem AP News berichtet.
Ausnahmen möglich
Wer solche Systeme einsetzen will, muss eine jährliche sogenannte Bias-Prüfung vorlegen, die bescheinigt, dass die Systeme niemanden aufgrund von Gender oder Herkunft diskriminiert. Außerdem müsste die Funktionsweise der Systeme offengelegt werden.
Eine weitere wichtige Auflage ist, dass die Bewerber:innen die Möglichkeit bekommen müssen, ein alternatives Verfahren zu wählen. Auch wenn ein KI-System die Bias-Prüfung besteht und die Funktion offengelegt wurde, könnten Bewerber:innen darauf bestehen, dass ihre Bewerbung stattdessen von einem Menschen geprüft wird.
„Schwacher und vager Standard“
KI-Expert:innen und Aktivist:innen geht die Regelung nicht weit genug. Die Bias-Prüfung lässt aus ihrer Sicht zu viel Interpretationsspielraum, sodass Regulierungsbehörden zu schwache Standards setzen könnten.
„Der Ansatz, auf Bias zu prüfen, ist gut. Das Problem ist, dass New York City einen sehr schwachen und vagen Standard dafür gewählt hat, wie das aussehen soll“, sagte Alexandra Givens, Präsidentin des Center for Democracy & Technology gegenüber AP News.
Givens krisiert, dass die Prüfung auf Gender und Herkunft beschränkt sei, aber wichtige Faktoren wie eine Behinderung oder das Alter außen vor lasse.
Der Stadtrat hat das Gesetz am 10. November verabschiedet. Bürgermeister Bill De Blasio hat allerdings einen Monat Zeit, um es zu unterschreiben oder zurückzuweisen.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team