Anzeige
Anzeige
News

Künstliche Intelligenz: Studie deckt stereotype Berufsbilder in DALL-E und Leonardo AI auf

Ein Forscherteam hat Berufe mit DALL-E und Leonardo AI visualisiert und verglichen. Beide Bild-KI weisen starke stereotypische Muster auf. So werden technische Berufe primär männlich und weiß abgebildet.

2 Min.
Artikel merken
Anzeige
Anzeige
Entwicklerteams häufig männlich: Das wirkt sich auf KI-Trainingsdaten aus. (Foto: DC Studio / Shutterstock)

Künstliche Intelligenz gilt als Schlüsseltechnologie. Doch ihr Einsatz kann Vorurteile verstärken. Offensichtlich wird das bei KI-generierten Bildern von Berufen. In einer aktuellen Untersuchung der University of Europe for Applied Sciences in Berlin haben Forschende alltägliche Berufe mit Leonardo AI und DALL-E visualisiert und miteinander verglichen. Das Ergebnis zeigt, dass in der jeweiligen Bild-KI schon tiefverwurzelte Stereotype existieren.

Anzeige
Anzeige

Technische Berufe von KI primär männlich abgebildet

Soziale Berufe bildet Leonardo AI mit 100 Prozent und DALL-E mit 67 Prozent vorwiegend weiblich ab, während technische Berufe von Leonardo AI mit 83,3 Prozent und DALL-E mit 100 Prozent primär männlich dargestellt werden. Letzte Bild-KI bildet auch Berufe in der Wissenschaft, Recht und Sicherheit sowie in der Kreativwirtschaft zu 100 Prozent männlich ab, was der Realität nicht gerecht wird. Auf DALL-E sei das Problem somit gravierender.

Die Analyse zeigt, dass Vorurteile aufrechterhalten und Fortschritte bei der Gleichberechtigung rückgängig gemacht werden, so Prof. Dr. Jiré Emine Gözen, Professorin für Medien- und Kulturtheorie am UE Campus Berlin. „Wenn KI-Systeme männlich gelesene Personen überwiegend in technischen Berufen und weiblich gelesene Personen in sozialen oder pflegerischen Rollen zeigen, tragen sie dazu bei, veraltete Rollenbilder zu zementieren.

Anzeige
Anzeige

Gözen ist sich sicher, dass dadurch unnötig erschwert wird, gesellschaftliche Barrieren abzubauen und neue, vielfältigere Vorbilder zu schaffen. „Diese stereotype Reproduktion wirkt nicht nur auf individueller Ebene schädlich, etwa indem junge Menschen in ihrer Berufswahl beeinflusst werden, sondern auch auf systemischer Ebene.“ Die mangelnde Vielfalt beschränkt sich indes nicht nur auf Geschlechter, sondern auch auf ethnische Zugehörigkeit.

Wie die Untersuchung auch offenbart, sind alle Berufe einer hauptsächlich weißen Beschäftigtengruppe zugeordnet. Lediglich in den sozialen und pflegerischen Berufen kommen People of Color geringfügig zum Vorschein. In der Gesamtbetrachtung zeigt Leonardo AI etwas mehr Diversität und weist rund 76,5 Prozent der Berufe weißen Menschen zu. Bei Dall-E zeigen satte 98 Prozent der KI-generierten Bilder weiße Menschen in den Berufen.

Anzeige
Anzeige

Insgesamt 50 verschiedene Berufe hat das Forschungsteam mit Leonardo AI und DALL-E einer Prüfung unterzogen. Die Berufsbezeichnungen sind genderneutral und auf Englisch gepromptet worden. Dazu zählen Lehrerinnen und Lehrer, Polizistinnen und Polizisten, Handwerkerinnen und Handwerker sowie Software-Entwicklerinnen und Software-Entwickler. Neben dem Geschlecht und der Ethnie war auch das Alter von Interesse.

Mehr Vielfalt in KI-Entwicklungsteams wichtig

Dass KI im Bezug auf die Geschlechtergerechtigkeit stereotype Entscheidungen trifft, liegt einem Forschungsteam der Hochschule Bielefeld (HSBI) nach zu urteilen, häufig an der fehlenden Diversität in Entwicklungsteams. Die geringere Anzahl von Frauen wirkt sich demnach schon in den Trainingsdaten etwa auf die Leistungsfähigkeit von Stimm-, Sprach- und Gesichtserkennungssystemen aus, so die Forschenden.

Anzeige
Anzeige

„In vielen Wirtschaftsbereichen, insbesondere in Technologieunternehmen, ist eine geschlechtsspezifische Voreingenommenheit von KI-Technologien zu beobachten, da hier vorwiegend Männer die Entwicklungsteams bilden“, sagt Sascha Armutat, Professor im Fachbereich Wirtschaft. Es sei von zentraler Bedeutung, dass Frauen bei der KI-Entwicklung stärker mitwirken. Dass das auch für mehr ethnische Vielfalt und Altersgruppen gilt, liegt auf der Hand.

In eigener Sache: In unserem t3n-Guide lernst du, warum Diversität im Unternehmen zukunftskritisch ist, was gutes Diversity Management ist und wie du machbare Ziele steckst. Lerne mit unserem Praxisguide mehr für deinen Job!

Neuer Job: 5 Berufe der Zukunft, die du kennen solltest

Dein neuer Job? Diese 5 Berufe der Zukunft solltest du im Auge behalten Quelle:
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Kommentare (1)

Community-Richtlinien

Max Mustermann

Wie sieht es denn mit negativen Motiven aus? Ist der Bankräuber, Bully, Häftling, Obdachlose, etc. auch vorwiegend weiß und männlich?

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Kommentar abgeben

Melde dich an, um Kommentare schreiben und mit anderen Leser:innen und unseren Autor:innen diskutieren zu können.

Anmelden und kommentieren

Du hast noch keinen t3n-Account? Hier registrieren

Anzeige
Anzeige