Feministische KI: „Neutralität ist nicht das richtige Ziel“

Eva Gengler ist überzeugte Feministin. Sie forscht zu Menschenrechten im Zeitalter der KI an der Friedrich-Alexander-Universität in Nürnberg. Ihr Schwerpunkt liegt dabei auf dem feministischen Einsatz von KI. Zuvor war sie unter anderem als IT-Consultant tätig, hat ein Filmprojekt zur Aufklärung über KI und Sexroboter geleitet und ist Mitgründerin der Unternehmensberatung Enable You. t3n: Frau Gengler, Sie setzen sich für feministische KI ein – warum? Aktuell reproduziert KI das, was da ist. Sie lernt meistens aus Daten aus der Vergangenheit und repräsentiert deshalb auch nur diesen Blick. Daten wirken oft objektiv, aber eigentlich zeigen sie auch nur einen Ausschnitt der Realität. Die Gender-Data-Gap zum Beispiel zeigt auf, dass wir sehr viel weniger Daten von Frauen haben – und das gilt auch für People of Color und zum Beispiel Gender Queer People. Aktuelle KI-Systeme machen unsere Welt noch ungerechter und deswegen brauchen wir ein Gegengewicht. t3n: Inwiefern ist feministische KI dafür eine Lösung? Ist feministische KI nicht auch nichts anderes als ein Bias? Jede Technologie wird von den Menschen geprägt, die sie bauen. Deswegen ist, glaube ich, Neutralität nicht das richtige Ziel. Wir brauchen einen gewissen Bias, weil unsere Welt einfach nicht gerecht ist. Das Ziel ist, mit feministischer KI die Welt gerechter zu machen. Das heißt aber nicht, wer das Attribut „Mann“ hat, wird automatisch benachteiligt, sondern es geht um die Überlegungen: Wie sieht unsere Welt jetzt aus? Was würde KI reproduzieren und was müssten wir verändern, wenn wir eine gerechtere Welt haben wollen? t3n: Wird das bei ethischer KI nicht auch schon mitgedacht? Bei dem Ansatz ethischer KI fehlt für mich der transformative Gedanke. Zwar wird eine transparente und verantwortungsvolle KI gefordert, aber ein Stück weit auch der Status quo akzeptiert. Es geht bei meiner Arbeit um einen inklusiven und kritischen Feminismus, nicht nur um Frauen, sondern um alle marginalisierten Menschen. t3n: Haben Sie ein konkretes Beispiel für feministische KI? Die Her Career, das ist die größte weibliche Jobmesse in der DACH-Region, hat ein Job-Matching-Tool auf ihrer Plattform, das Menschen und Unternehmen nicht auf Basis von Stellenausschreibungen, sondern aufgrund ihrer Fähigkeiten zusammenbringen will. Denn wie wir wissen, bewerben sich viele Frauen erst, wenn sie 90 bis 100 Prozent der Stellenausschreibung erfüllen; Männer dagegen schon, wenn sie 40 bis 60 Prozent erfüllen. Die KI wird eingesetzt, um das auszugleichen. Ein anderes Beispiel ist Missjourney von TedXAmsterdam Women: eine Text-Bild-KI, die ausschließlich Bilder von Frauen in verschiedenen Jobumfeldern generiert, um der geringen Repräsentation von Frauen in gewissen Bereichen entgegenzuwirken. Letztlich ist das Ziel, Unternehmen dabei zu begleiten, KI gerechter zu bauen und gerechter einzusetzen. t3n: Sie haben einen Leitfaden für faires KI-Prompting für kleine und mittelständische Unternehmen entwickelt, der ein sogenanntes KI-Fairness-Framework umfasst. Da werden als Kriterien Kontext, Input, Fokus, Ausschnitt, Iterationen, Repertoire, Nachbessern, Eignung, Sprache oder Sinn aufgeführt. Was wollen Sie damit erreichen? Man kann an verschiedenen Stellen ansetzen, beim Design von KI-Systemen, bei der Machtfrage: Wer entscheidet über das Budget für KI-Systeme? Wir wollen mit dem Leitfaden Nutzer:innen dafür sensibilisieren, dass sie selbst einen großen Einfluss auf die Ergebnisse von KI-Systemen haben und sie mitgestalten können. Ich glaube dabei nicht, dass es den perfekten, fairen Prompt gibt. Es ist mehr ein gemeinsames Ausprobieren und Annähern. Das Framework soll die Nutzer:innen genau dabei unterstützen. Es gibt in den Unternehmen oft sehr wenig Guidance, was den Einsatz von KI-Tools angeht. Unser Framework soll dabei ein Begleiter sein. t3n: Was wird beim Einsatz von KI oft nicht bedacht? Es ist sehr wichtig, dass uns bewusst ist, dass die Systeme in der Regel auf Englisch optimiert sind. Daher ist es häufig besser, auf Englisch statt auf Deutsch zu prompten, um genauere und effektivere Ergebnisse zu erzielen. Ein Beispiel: Wenn man in einem Prompt das deutsche Wort „divers“ im Sinne von Vielfalt verwendet, könnte das unter Umständen nicht den gewünschten Effekt haben, da „divers“ schon im Deutschen unterschiedliche Bedeutungen hat. Es wäre also besser, die Diversität zu beschreiben und etwa „weibliche und männliche Lehrer:innen“ zu schreiben, um explizit zu machen, dass es nicht nur um ein Geschlecht geht. t3n: Erreichen Sie denn mit dem Leitfaden auch die gewünschte Zielgruppe? Wie fällt das Feedback von den Unternehmen aus? Das Feedback ist bisher sehr positiv. Kleine und große Unternehmen aus verschiedensten Branchen haben sich sehr interessiert daran gezeigt. Der Leitfaden kommt auch in der Weiterbildung und an Lehrstühlen zum Einsatz. Er wurde bereits mehrere Hundert Male heruntergeladen und vielfach geteilt. t3n: Sind es denn vor allem Frauen, die sich dafür interessieren? In meinen Vorträgen und Workshops sitzen auch einige Männer. Aber es sind oft Frauen, die Workshops und Vorträge anfragen. Eine kontrovers diskutierte Frage in unseren Workshops beim Einsatz von Bild-KI wie Missjourney ist: Wenn wir in bestimmten Bereichen mehr Frauen abbilden, was nicht der Realität entspricht, ist das dann fair? Doch die Frage sollte vielmehr lauten: Was wollen wir zeigen? Sollen die Bilder die Realität abbilden – wenn ja, welche – oder vielleicht besser das, wo wir hinkommen wollen? t3n: Sie haben in Ihrer Arbeit mit sehr vielen unterschiedlichen Gesprächspartnern zu tun. Wie blicken Sie selbst auf den KI-Standort Deutschland? Manche Unternehmen, mit denen ich spreche, beschweren sich über die Regulierungen, andere finden sie gut. In einem Gespräch fiel die Aussage: „In Amerika gilt: Bitte nicht um Erlaubnis, sondern um Vergebung.“ Doch das ist nicht und sollte auch nicht unsere Art sein. Wir trainieren die großen KI-Modelle nicht selbst, aber wir können selbst entscheiden, wie wir sie optimieren und für welche Zwecke wir sie einsetzen – und für welche nicht. Das ist meiner Meinung die zentralste Frage. Missjourney Eine Bild-KI von TedX Amsterdam Women, die ausschließlich Bilder von Frauen in den unterschiedlichsten Berufen generiert. Leitfaden für faires Prompting Der Guide richtet sich speziell an kleine und mittelständische Unternehmen. Er steht zum freien Download auf der Website vom Mittelstand-Digital Zentrum Zukunftskultur zur Verfügung.