News

Bewerbungs-KI rankt Kandidaten mit Bücherregalen im Hintergrund besser

Künstliche Intelligenzen scheinen Bücherregale im Hintergrund zu mögen. (Foto: Radu Bercan/Shutterstock)

Lesezeit: 2 Min.
Artikel merken

Künstliche Intelligenzen, die im Bewerbungsprozess eingesetzt werden, scheinen nicht so neutral zu sein, wie es gerne heißt. Schon ein Bücherregal im Hintergrund soll ausreichen, um das Urteil der KI zu beeinflussen.

Im Bewerbungsprozess sollte es möglichst fair und objektiv zugehen – das sollen nicht zuletzt auch Antidiskriminierungsgesetze sicherstellen. Gleichzeitig tragen wir alle aber Vorurteile mit uns herum, ob wir es wollen oder nicht. In diesem Kontext klingen die Versprechungen vieler Unternehmen und Startups, die die Bewerberauswahl an eine künstliche Intelligenz auslagern, verlockend: Die KI hat keinen persönlichen Geschmack, lässt sich nicht von Impulsen leiten und ist absolut neutral. Doch ist das wirklich so?

Algorithmen reagieren auf Accessoires wie Brille oder Kopftuch

Der Bayerische Rundfunk hat in einer groß angelegten Recherche die Verhaltensanalyse-KI des Startups Retorio aus München getestet. Dabei kam heraus, dass die Algorithmen durchaus zu unterschiedlichen Ergebnissen kommen, wenn sich gewisse Faktoren wie etwa eine Brille oder ein Kopftuch im Bewerbungsvideo ändern.

In einem ersten Schritt hat eine Schauspielerin eine kurze Videobewerbung eingesprochen, die dann anhand der sogenannten Big Five von der KI eingeordnet wurde. Dabei handelt es sich um ein Modell, das die Persönlichkeit eines Menschen auf fünf Hauptdimensionen herunterbricht.

Offenheit, Gewissenhaftigkeit, Extraversion, Verträglichkeit und Neurotizismus sind die Big Five der Persönlichkeit jedes Menschen. (Screenshot: BR/t3n)

In der Folge sprach die Schauspielerin dann denselben Text mit möglichst gleicher Mimik und Tonalität erneut ein – dieses Mal trug sie aber eine Brille beziehungsweise ein Tuch, das ihre Haare verhüllte. Die Big-Five-Ergebnisse wichen daraufhin jedes Mal teils deutlich ab.

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Vor allem in Bezug auf die Gewissenhaftigkeit muss die Schauspielerin Einbußen hinnehmen, wenn sie Brille trägt. (Screenshot: BR/t3n)

Das Kopftuch verändert die Big-Five-Ergebnisse der Schauspielerin teils drastisch. (Screenshot: BR/t3n)

Auch weitere Versuche mit Perücken, einer Ponyfrisur und anderen Oberteilen resultierten in stark schwankenden Big-Five-Ergebnissen. Konfrontiert mit diesen Beobachtungen, weist Retorio darauf hin, dass die KI auch die Außenwirkung eines Bewerbers oder einer Bewerberin beurteile: „Wie in einem normalen Bewerbungsgespräch auch fließen solche Faktoren ebenso in die Bewertung mit ein.“ Der Algorithmus von Retorio sei gerade darauf ausgelegt, auch die Wirkung und den Eindruck, den eine Person auf andere macht, einzuschätzen. Systematische Voreingenommenheiten wie Alter, Geschlecht oder Herkunft würden aber von der KI herausgerechnet.

Auch der Hintergrund spielt eine Rolle

In einer weiteren Versuchsreihe hat der BR mit verschiedenen Hintergründen und technischen Faktoren experimentiert. Videoaufnahmen von Testkandidatinnen und Testkandidaten wurden nachträglich verändert. So wurde beispielsweise ein gerahmtes Bild hinter einem Kandidaten platziert – und die Big-Five-Ergebnisse fielen prompt anders aus.

Ein gerahmtes Bild im Hintergrund lässt den Kandidaten deutlich weniger neurotisch wirken, sagt die KI. (Screenshot: BR/t3n)

Eine Bücherwand hinter dem Kandidaten führte ebenfalls zu deutlichen Abweichungen im Ergebnis.

Die Bücherwand im Hintergrund senkt den Neurotizismus sogar noch weiter. (Screenshot: BR/t3n)

Auch Veränderungen an der Helligkeit eines Videos führten zu anderen KI-Ergebnissen.

Das schlechter ausgeleuchtete Bild lässt die Kandidatin deutlich weniger gewissenhaft wirken. (Screenshot: BR/t3n)

Jedoch gelang es dem BR nicht, die Big-Five-Ergebnisse gezielt zu verändern – Schlussfolgerungen wie „in einem hellen Zimmer wirkt man extrovertierter“ lassen sich damit nicht ziehen. Abweichungen sind nicht systematisch und können auch je nach Person anders ausfallen. Das sei das generelle Problem des maschinellen Lernens, erklärt auch die vom BR befragte Informatikprofessorin Katharina Zweig: „Das grundsätzliche Problem mit der Face-Recognition, der Gesichtserkennung, durch maschinelles Lernen ist, dass wir niemals ganz genau wissen, auf welches Muster in einem Bild diese Maschinen reagieren.“

Retorio weist an dieser Stelle darauf hin, dass die Qualität der Aufnahme in den Händen der Person liege, die das Video erstellt. An ihm oder ihr sei es, notfalls so lange herumzuprobieren, bis Licht, Ton und alle anderen Faktoren optimal seien.

Es braucht verbindliche Regeln

Informatikprofessorin Zweig plädiert deshalb stark für Regulierungen im Bereich des maschinellen Lernens und der KI. Dabei genüge es aber nicht, nur die Computertechnik zu betrachten; auch auf die sozialen Entstehungsprozesse komme es an.

Das könnte dich auch interessieren

Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Ein Kommentar
Nikolaus Hohl
Nikolaus Hohl

Das klingt ja mehr danach, als würde die KI eher zufällig reagieren. Wurden denn auch einmal geprüft, ob denn dasselbe Ergebnis bei demselben Video herauskommt? Abgesehen davon ist es auch nicht überraschend, denn ob jemand eine Brille hat (oder Kontaktlinsen), sagt ja auch etwas über die Persönlichkeit aus.

Antworten

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!

Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Digitales High Five
Holger Schellkopf (Chefredakteur t3n)

Anleitung zur Deaktivierung

Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder