Anzeige
Anzeige
Fundstück
Artikel merken

Fehler und Vorurteile: Arbeitsamt macht KI-Chatbot zum Jobberater – und erntet Shitstorm

In Österreich hat die dortige Arbeitsvermittlungsagentur AMS einen KI-Chatbot auf GPT-Basis vorgestellt. Schnell hagelte es Kritik wegen technischer Fehler und der Weitergabe von Vorurteilen. Die Behörde reagiert – aber anders als man denken könnte.

3 Min. Lesezeit
Anzeige
Anzeige
Beim AMS soll jetzt ein KI-Chatbot bei der Jobberatung helfen. Das klappt nicht so gut. (Foto: AMS)

Das österreichische AMS (Arbeitsmarktservice) hatte am Mittwoch mit dem „Berufsinfomat“ einen auf ChatGPT basierenden KI-Chatbot vorgestellt, der Arbeitssuchende bei der Jobsuche unterstützen soll. Das AMS, so rühmte sich dessen Chef Johannes Kopf bei der Präsentation, sei europaweit die erste Arbeitsvermittlungsbehörde, die ein solches Programm eingeführt habe.

Anzeige
Anzeige

KI-Chatbot soll Berater entlasten

Ziel sei es, schnell Antworten auf einfache Fragen zu bekommen – und die Berater:innen zu entlasten. Diese, so Kopf, hätten dann mehr Zeit für persönliche Beratungsgespräche. Eigentlich eine gute Idee.

Schon nach wenigen Stunden zeigten sich aber deutliche Defizite – und das AMS erntet derzeit Spott und Hohn, wie der Standard berichtet. Insbesondere im Fokus der massiven Kritik sind die Vorurteile, die der KI-Chatbot bei Vorschlägen für potenzielle Jobs reproduziert.

Anzeige
Anzeige

Berufsinfomat empfiehlt Mädchen Büro oder Salon

Wie online dokumentierte Anfragen in verschiedenen Ausführungen belegen, empfiehlt der „Berufsinfomat“ Mädchen und Frauen eher Jobs in den Bereichen Handel und Verkauf, Büro oder Gesundheit und Schönheitspflege. Männer sollen sich dagegen eher im IT-Bereich umschauen und Karriere machen.

Genau das hatte Kopf während der Vorstellung allerdings ausgeschlossen. Sogenannte Gender-Bias, also, dass etwa Mädchen vermehrt klassische Frauenberufe empfohlen würden, weil dies statistisch gesehen die wahrscheinlichere Berufswahl ist, habe man dem Program „aberzogen“, so Kopf.

Anzeige
Anzeige

Klar spiegeln die KI-Antworten letztlich lediglich die in der Gesellschaft vorhandenen Ungleichheiten und Vorurteile wider. Mit den neuen Technologien müsse man dem aber aktiv entgegensteuern, so Carina Zehetmaier, Präsidentin des Vereins „Women in AI Austria“.

KI-Systeme als neutral und objektiv wahrgenommen

Zehetmaier gegenüber der Futurezone: „Technologie alleine kann keine sozialpolitischen Probleme lösen, aber sie kann diese verstärken, weil wir Entscheidungen von KI-Systemen fälschlicherweise als neutral und objektiv wahrnehmen“.

Anzeige
Anzeige

Darüber hinaus wird das AMS kritisiert, weil sich die Kosten für den „Berufsinfomat“ auf 300.000 Euro belaufen. Dabei, so die Kritik, habe man eine Lösung „von der Stange“ gekauft, die nur minimal angepasst worden sei.

Sicherheitslücken und Code-Fehler aufgespürt

Der Software-Entwickler Mario Zechner hat in einem Thread auf X zudem dargelegt, dass der KI-Chatbot eine Reihe von Sicherheitslücken und Code-Fehler aufweise. Der Code, so Zechner, sehe aus, als sei er von ChatGPT selbst geschrieben.

Das AMS spielt die teils massive Kritik übrigens herunter, wie der Standard schreibt. So seien die Gender-Bias-Probleme bekannt, wie Kopf per X zugab. Aber: Man habe schon viel weitergebracht und werde weiter dranbleiben.

Anzeige
Anzeige

Zu den technischen Unzulänglichkeiten ließ das AMS wissen, dass es die Entscheidung des Auftragnehmers sei, wie er sein Produkt entwickle. Eine gefundene Sicherheitslücke sei bei einer Tüv-Überprüfung als nicht schädlich eingestuft worden.

AMS: Arbeiten Feedback ein und machen Tool besser

Kopf erklärte, dass das Feedback der Nutzer:innen zu gefundenen Fehlern in das Tool eingearbeitet werde. Dadurch werde der „Berufsinfomat“ auch laufend verbessert.

Mittlerweile scheint das AMS es unterbunden zu haben, Vergleiche zwischen Männer- und Frauenberufen anstellen zu lassen. Auf die Frage nach 5 Berufen für Frauen und 5 Berufen für Männer spuckte der KI-Chatbot folgende Antwort aus:

Anzeige
Anzeige

„Gemäß den Informationen aus den bereitgestellten Quellen ist es wichtig zu betonen, dass die Fähigkeit, einen Beruf auszuüben, nicht vom Geschlecht abhängig ist. Frauen und Männer sind gleichermaßen in der Lage, in allen Berufsfeldern erfolgreich zu sein. Die Vorstellung, dass bestimmte Berufe besser für ein Geschlecht geeignet sind als für das andere, ist veraltet und wird durch zahlreiche Studien und die Realität des modernen Arbeitsmarktes widerlegt.“

Noch am Mittwoch hatte die Antwort auf eine ähnliche Anfrage noch ganz anders ausgesehen:

„Für Frauen und Männer gibt es eine Vielzahl von Berufen, die auf unterschiedliche Interessen, Fähigkeiten und Ausbildungen zugeschnitten sind. Hier sind fünf Berufsvorschläge für Frauen und Männer:

Für Frauen:
1. Diplomierte Gesundheits- und Krankenpflegerin
2. Sozialpädagogin
3. Lehrerin für die Sekundarstufe Allgemeinbildung – Fremdsprachen
4. Medizinische Fachangestellte
5. Eventmanagerin

Für Männer:
1. Softwareentwickler
2. Elektriker
3. Maschinenbauingenieur
4. Tischler
5. Technischer Zeichner

Diese Berufsvorschläge basieren auf verschiedenen Quellen, die die Vielfalt der Berufsfelder und die unterschiedlichen Interessen und Fähigkeiten von Frauen und Männern berücksichtigen.“

Jobsuche: Diese KI-Apps erstellen deine Bewerbungsmappe Quelle: Dean Drobot / Shutterstock

Wer das Ganze selbst einmal ausprobieren möchte, hat auf dieser Seite die Möglichkeit dazu.

Mehr zu diesem Thema
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Ein Kommentar
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Robert Leitinger

Ich hab diesen KI-Chatbot in 5 Minuten nachgebaut: https://youtu.be/611GgyfSqjw?si=7jJl_julK51k9Peo

Antworten

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige