Künstliche Intelligenz gilt als Schlüsseltechnologie. Doch ihr Einsatz kann Vorurteile verstärken. Offensichtlich wird das bei KI-generierten Bildern von Berufen. In einer aktuellen Untersuchung der University of Europe for Applied Sciences in Berlin haben Forschende alltägliche Berufe mit Leonardo AI und DALL-E visualisiert und miteinander verglichen. Das Ergebnis zeigt, dass in der jeweiligen Bild-KI schon tiefverwurzelte Stereotype existieren.

Soziale Berufe bildet Leonardo AI mit 100 Prozent und DALL-E mit 67 Prozent vorwiegend weiblich ab, während technische Berufe von Leonardo AI mit 83,3 Prozent und DALL-E mit 100 Prozent primär männlich dargestellt werden. Letzte Bild-KI bildet auch Berufe in der Wissenschaft, Recht und Sicherheit sowie in der Kreativwirtschaft zu 100 Prozent männlich ab, was der Realität nicht gerecht wird. Auf DALL-E sei das Problem somit gravierender.

Die Analyse zeigt, dass Vorurteile aufrechterhalten und Fortschritte bei der Gleichberechtigung rückgängig gemacht werden, so Prof. Dr. Jiré Emine Gözen, Professorin für Medien- und Kulturtheorie am UE Campus Berlin. „Wenn KI-Systeme männlich gelesene Personen überwiegend in technischen Berufen und weiblich gelesene Personen in sozialen oder pflegerischen Rollen zeigen, tragen sie dazu bei, veraltete Rollenbilder zu zementieren.

Gözen ist sich sicher, dass dadurch unnötig erschwert wird, gesellschaftliche Barrieren abzubauen und neue, vielfältigere Vorbilder zu schaffen. „Diese stereotype Reproduktion wirkt nicht nur auf individueller Ebene schädlich, etwa indem junge Menschen in ihrer Berufswahl beeinflusst werden, sondern auch auf systemischer Ebene.“ Die mangelnde Vielfalt beschränkt sich indes nicht nur auf Geschlechter, sondern auch auf ethnische Zugehörigkeit.

Wie die Untersuchung auch offenbart, sind alle Berufe einer hauptsächlich weißen Beschäftigtengruppe zugeordnet. Lediglich in den sozialen und pflegerischen Berufen kommen People of Color geringfügig zum Vorschein. In der Gesamtbetrachtung zeigt Leonardo AI etwas mehr Diversität und weist rund 76,5 Prozent der Berufe weißen Menschen zu. Bei Dall-E zeigen satte 98 Prozent der KI-generierten Bilder weiße Menschen in den Berufen.

Insgesamt 50 verschiedene Berufe hat das Forschungsteam mit Leonardo AI und DALL-E einer Prüfung unterzogen. Die Berufsbezeichnungen sind genderneutral und auf Englisch gepromptet worden. Dazu zählen Lehrerinnen und Lehrer, Polizistinnen und Polizisten, Handwerkerinnen und Handwerker sowie Software-Entwicklerinnen und Software-Entwickler. Neben dem Geschlecht und der Ethnie war auch das Alter von Interesse.

Dass KI im Bezug auf die Geschlechtergerechtigkeit stereotype Entscheidungen trifft, liegt einem Forschungsteam der Hochschule Bielefeld (HSBI) nach zu urteilen, häufig an der fehlenden Diversität in Entwicklungsteams. Die geringere Anzahl von Frauen wirkt sich demnach schon in den Trainingsdaten etwa auf die Leistungsfähigkeit von Stimm-, Sprach- und Gesichtserkennungssystemen aus, so die Forschenden.

„In vielen Wirtschaftsbereichen, insbesondere in Technologieunternehmen, ist eine geschlechtsspezifische Voreingenommenheit von KI-Technologien zu beobachten, da hier vorwiegend Männer die Entwicklungsteams bilden“, sagt Sascha Armutat, Professor im Fachbereich Wirtschaft. Es sei von zentraler Bedeutung, dass Frauen bei der KI-Entwicklung stärker mitwirken. Dass das auch für mehr ethnische Vielfalt und Altersgruppen gilt, liegt auf der Hand.