KI-gestützte Rekrutierungstools werden gerade in großen Unternehmen eingesetzt, die tagtäglich unzählige Bewerbungen erhalten. Dabei berufen sich viele Anbieter darauf, mit ihrem Tool mögliche Diskriminierung im Einstellungsprozess zu verhindern.

Laut Forschern der University of Cambridge reduzieren diese Tools jedoch nur „Ethnie und Geschlecht auf triviale Datenpunkte und verlassen sich oft auf Persönlichkeitsanalysen, die ‚automatisierte Pseudowissenschaft‘ sind“, wie sie in einer Studie schreiben.

Für die Studie haben sich die Akademiker mit Informatik-Studenten zusammengetan, um zu entlarven, dass diese künstliche Intelligenz nach wie vor diskriminierend ist. Dafür haben die Wissenschaftler einen Softwaretyp entwickelt, der dem, der zunehmend von HR-Teams verwendet wird, ähnelt.

Die Ergebnisse zeigen, wie zufällige Änderungen in Kleidung oder Beleuchtung radikal unterschiedliche Persönlichkeitswerte ergeben, die sich entscheidend darauf auswirken könnten, ob ein Bewerber zum Vorstellungsgespräch eingeladen oder bereits vorher aussortiert wird.

Das Cambridge-Team gibt in ihrem Bericht an, dass der Einsatz von KI zur Eingrenzung von Kandidatenpools letztendlich eher die Einheitlichkeit als die Vielfalt in der Belegschaft erhöhen könnte, da die Technologie darauf kalibriert ist, nach dem „idealen Kandidaten“ des Arbeitgebers zu suchen. Dies könne dazu führen, dass diejenigen mit der richtigen Ausbildung und dem richtigen Hintergrund „die Algorithmen für sich gewinnen“, indem sie Verhaltensweisen replizieren, auf deren Erkennung die KI programmiert ist, und diese Einstellungen am Arbeitsplatz übernehmen, so die Forscher.

Dazu kommt, dass die Algorithmen mit Daten aus der Vergangenheit gespeist werden. Das wiederum könnte dazu führen, dass Kandidaten, die als am besten geeignet gelten, wahrscheinlich diejenigen sind, die der aktuellen Belegschaft am ähnlichsten sind.