Google kommt im Umgang mit den eigenen Mitarbeitern nicht aus den Schlagzeilen heraus. (Foto: achinthamb / Shutterstock.com)
„Selbst, wenn wir die Zensur des Artikels beiseitelassen, ist es erschreckend, einen Forscher auf diese Weise zu feuern“, kommentierte Julien Cornebise die Ereignisse im Online-Magazin Wired. Der Honorarprofessor an der University College London arbeitete zuvor in Googles KI-Labor Deepmind und sprach mit Forschern außerhalb und innerhalb des Konzerns. Es geht um den Fall von Timnit Gebru, einer Expertin für ethische und gesellschaftliche Auswirkungen von künstlicher Intelligenz (KI). Sie hat mitgeteilt, das Unternehmen habe sie gestern abrupt entlassen. Kern der Auseinandersetzung war ein Forschungspapier, dessen Inhalt Gebrus Führung als „anstößig“ empfunden hatte.
Textgenerator übernimmt problematische Sprache aus Quelltexten
Gebru war eine der Top-Forscher bei Google und Vize-Chefin des Ethical Artificial Intelligence Teams. In dieser Eigenschaft erstellte sie einen Entwurf, in dem ihr Team KI-Modelle zur Textgenerierung diskutiert. Die Experten wollten erforschen, ob die Programme voreingenommene Sprache in Bezug auf Geschlecht und Rasse aus den Texten reproduzieren, die sie zum Lernen analysieren. Darauf hatte es Hinweise gegeben. In dem Textentwurf seien diese Fragen diskutiert und ein verantwortungsvoller Umgang gefordert worden, sagte Gebru. Der solle etwa durch die Dokumentation der Daten, die man zur Erstellung von Sprachmodellen verwendet, geschehen. Ein Senior Manager des Unternehmens bestand in der Folge darauf, dass die Google-Autoren ihre Namen aus dem Papier entfernen oder es ganz zurückziehen. Gebru schreibt, sie habe keinerlei spezifisches Feedback darüber enthalten, welche Punkte beanstandet worden waren, noch wer sie beanstandet hatte oder welche Änderungsmöglichkeiten bestünden.
Schicksalhafte E-Mails
Gebru schickte daraufhin zwei entscheidende E-Mails. In einer setzte sie ihren Vorgesetzten unter Druck. Sie forderte eine vollständige Erklärung der Geschehnisse und ein Treffen des Managements mit ihrem Team. Darin sollten sich die beiden Parteien auf einen fairen Umgang in der zukünftigen Forschungsarbeit einigen. Im Gegenzug streiche sie ihren Namen aus dem Textentwurf. Andernfalls würde sie sich zu einem späteren Zeitpunkt aus dem Unternehmen zurückziehen, um die Arbeit ohne Zugehörigkeit zum Konzern zu veröffentlichen.
An ein breiteres Publikum ging eine Mail, in der sie die Auseinandersetzung im Detail ausführte. Sie nimmt den Umgang mit ihr als Beispiel, wie Google-Manager Menschen aus Randgruppen zum Schweigen bringen könnten. Timnit Gebru ist eine Frau mit Schwarzer Hautfarbe. Der Umgang des Konzerns mit Minderheiten und Mitarbeitern gerät immer wieder in die Kritik. Google hat zum Beispiel kürzlich Gewerkschaftler überwacht und gefeuert.
Am darauffolgenden Tag ließ Google intern verlauten, Timnit Gebru habe ihren Rücktritt eingereicht und der sei akzeptiert worden. Sie fand ihr Firmenkonto gesperrt vor und eine Mail auf ihrem privaten Account. Darin hieß es, ihr Rücktritt solle sofort wirksam werden. Sie habe eine E-Mail verfasst, die ein Verhalten widerspiegele, das nicht mit den Erwartungen an eine Google-Führungskraft übereinstimme.
Weltweite Protestwelle
KI-Forscher weltweit und (Ex-)Google-Mitarbeiter protestieren gegen die Entscheidung. Mehr als 200 Angestellte des Konzerns unterzeichneten einen Brief, der von Google Einzelheiten im Umgang mit dem Entwurf fordert. Zudem solle sich das Unternehmen zu „Forschungsintegrität und akademischer Freiheit“ verpflichten. Beobachter betonen das Spannungsverhältnis zwischen menschlichen und ethischen Konsequenzen einer Technologie, deren Erforschung jedoch wegen ihres Gewinnpotenzials betrieben wird.
Gebru arbeitete vor ihrem Eintritt bei Google 2018 an dem Projekt „Gender Shades“, das herausfand, dass Gesichtserkennung bei Schwarzen und Frauen sehr ungenau arbeitet – im Gegensatz zur Identifizierung von weißen Männern. IBM zog sich daraufhin von dem Feld zurück, andere setzten den Verkauf der Systeme aus. Amazon stellte beim eigenen System eine Bevorzugung von Männern fest und beendete ein entsprechendes Projekt. Mehrere Forscher machten zuletzt auf die Gefahr von diskriminierender KI aufmerksam und forderten Kontroll- und Transparenzmechanismen.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team
Also mal zusammengefasst:#
1. Sie forscht voreingenommen und findet Rassismus
2. Sie plärrt laut mit ihren Ergebnissen herum, anstatt es erst einmal den Vorgesetzten mitzuteilen
3. Sie stellt ihren Arbeitgeber mit einer großen Öffentlichkeit an den Pranger (Loyalität und so)
Zitat: „I had stopped writing here as you may know, after all the micro and macro aggressions and harassments I received after posting my stories here (and then of course it started being moderated).“
4. Sie verklagt im Angestelltenverhältnis ihren eigenen Arbeitgeber
Zitat: „… and I hired feminist lawyers who threatened to sue Google …“
So, und dann wundert sich jemand, dass die gefeuert wird, wenn die damit droht, ihren eigenen Arbeitgeber zu verklagen.
Das ist echt großartig…
T3n hat mal wieder Fake-News mit einem Narrativ erzeugt, dass sich die Balken biegen. Herzlichen Glückwunsch.
Weglassen von zentralen Informationen damit es in das Weltbild passt.
Schämt euch.
Das ist so nicht richtig, lieber Heribert Bertibert
1. Sie forscht nicht „voreingenommen“, sondern, es ist ihre Aufgabe, entsprechende Fehler in den Alogorithmen zu finden.
2. Sie hat die Ergebnisse nicht vorab veröffentlicht, sondern nur den Umgang mir ihnen thematisiert.
3. Die Öffentlichkeit war so groß nicht, schließlich ging die Mail an einen sehr kleinen Verteiler. Im zitierten ersten Satz geht es offensichtlich um einen anderen Vorfall, deren Inhalt wir nicht kennen.
4. Das ist einfach nicht richtig, sie müssen schon genauer lesen: This happened to me last year. I was in the middle of a potential lawsuit for which Kat Herller and I hired feminist lawyers who threatened to sue Google (which is when they backed off–before that Google lawyers were prepared to throw us under the bus and our leaders were following as instructed) and the next day I get some random “impact award.” Es geht also gar nicht um einen Prozess gegen Google, zudem handelt es sich um einen Vorfall, der letztes Jahr passierte. Es kam außerdem nie zu einer Klage.
Abgesehen davon handelt es sich keinesfalls um eine Fake-News. Alle Informationen des Artikels sind geprüft und haben nach unserer Recherche und der anderer Medien so stattgefunden. Der „Narrativ“ ist ihre Auslegung, wir haben nur darüber berichtet, was passiert ist und wie die Szene reagiert.
Das nächste Mal, wenn die so laut rufen, sollten sie sicher sein, dass ihre Aussagen auch stimmen. Unsere tun das.
– In der der Headline steht Google „feuert“ sie und im Text weiter unten steht “ Timnit Gebru habe ihren Rücktritt eingereicht “
– Wie jetzt rauskam hat TG erst selbst noch gelogen und gesagt Google hat sie gefeuert.
– zu 4. die Zusammenarbeit mit Anwälten die Google verklagen wollen hätte oben in den Artikel mit reingehört
– Ihr AI Chef ist der Meinung ihre Ausarbeitung entspricht fachlich nicht dem Standard weil die Sachen nur problematisiert hat obwohl Lösungen bereits existieren
– das KI’s teilweise rassistisch werden ist übrigens bekannt und nichts neues, weil sie schlicht die Meinungen der Menschen sammeln und politcal correctness nicht kennen (gut, ist ein Thema für einen anderen Artikel)
Insgesamt ergibt sich doch ein SJW Bild, da kann man Google verstehen, schliesslich wurde sie bezahlt um KI’s zu verbessern. Da sie bereits gelogen hat muss man ihre gesamten Aussagen etwas mit Vorsicht betrachten.
Das kommt auf den Standpunkt an an und das macht der Artikel auch deutlich. Sie findet, sie ist herausgeworfen worden. Das kann man auch so sehen, denn Google hat das Arbeitsverhältnis faktisch beendet und das abrupt.
Google behauptet, sie habe ihren Rücktritt eingereicht. Auch dieser Standpunkt wird erläutert: Sie hat Forderungen gestellt und geschrieben, sonst würde sie später (!) das Papier ohne Google-Zugehörigkeit veröffentlichen. Daraus einen Rücktritt herzuleiten, naja.
Insofern würde ich die Sache mit der Lüge auch vorsichtig behandeln…
Ich sehe das mit der Lüge ähnlich, wie „Verpetzer.“ Aber meine Quintessenz ist eine andere: Sie hat mit hohen Einsätzen gespielt – und verloren. Gelogen hat sie wohl nicht.
Und nein, das hat nicht hineingehört. Dass sie schon einmal mit jemanden zusammengearbeitet hat, der Google verklagen wollte – ganz im Ernst, da gibt es in ihrer Szene wahrscheinlich wenige, die das noch nicht wollten. Das sind kritische Forscher, die natürlich von Konzernen drangsaliert werden, die Angst um ihren Ruf haben.
Wenn ich jetzt lese, dass 1500 Google-Angestellte und 2000 Menschen aus der Szene eine Petition gegen diese Aktion von Google unterschrieben haben, sehe ich mich mit meiner persönlichen Einordnung bestätigt – auch wenn sie im Artikel keinen Platz gefunden hat.
Natürlich MUSS Jeff Dean sagen, das Papier entspreche nicht fachlich dem Standard. Er kann ja schlecht sagen, das Ergebnis gefiel uns nicht. Das ist auch keine wissenschaftliche Aufarbeitung, zu sagen: Nein, das machen wir nicht (und wenn sie sich wehren, feuern wir sie). Das Gesprächsangebot wurde ja einfach ausgeschlagen.
Das MIT hat das Papier ausgewertet und es sieht ganz und gar nicht so aus, als ob das nicht wissenschaftlich sei. Mal im Ernst, neben Gebru haben sechs anerkannte Wissenschaftler, darunter Prof. E. Bender von der University of Washington daran mitgearbeitet. 128 Referenzen stehen am Ende. Das „Paper“ ist eine ausgewachsene Studie, allerdings noch im Entwurfsstadium. Seit wann werden Arbeiten in einem solchen Stadium nicht mehr diskutiert?! Nein, Google gefiel nicht, was drin stand. Wenn man die Erörterungen des MIT liest, versteht man auch warum.
Nicht Jeff Dean sondern ein „funktionsübergreifendes Team“ ist zu dem Schluss gekommen.
Von unwissenschaftlich hat übrigens keiner geredet, nur von unvollständig. Somit erzeugt die Studie unter Umständen ein einseitiges Bild, das hat man bemängelt.
Zu der Petition, man kans nennen wie man will aber es ist halt eine komplett andere Aussage ob ich sage Google hat mich gefeuert oder ich habe Google vor die Wahl gestellt entweder du akzeptierst das oder ich gehe. Welcher Arbeitgeber lässt so mit sich umspringen? Noch dazu war es ihre eigene Vorlage.
Im Fall a) hätte ich die Petition auch unterschrieben im Fall b) nicht.
Sowas ist oft auch die Spitze des Eisberges, da sind dann meistens vorher auch schon Sachen passsiert. Das klingt in dem MIT Dokument auch an.
Ich möchte Google nicht weisswaschen, die haben sich auch gewandelt, vom dont be evil zum Konzern der Geld verdienen will. Nur man kann sich ja selbst mal die Frage stellen, wenn ich einen Angestellten bezahle, dann kann der auch kritisch sein, aber einen Aktivisten der evtl nur einseitig die Probleme herausstellt möchte man nicht.
Am Ende wird dann gern die Opferrolle gespielt, wie sich auch zeigte.
Naja, das „funktionsübergreifende Team“, weiß natürlich auch, was die Leitung lesen will und was nicht. Am Ende haben sich beide überschätzt: Gebru, die gemeint hat, sie kann den Aktivisten-Punk raushängen lassen und Google vor sich hertreiben. Und Google, weil sie eine kritische Aktivistin in ihre Forschungsabteilung geholt haben und geglaubt haben, die findet nichts oder, dass sie sie dann schon im Griff haben.
Wenn man die Forschung im eigenen Haus hat, muss man die im gewissen Rahmen auch machen lassen. Ich persönlich halte von der Struktur sowieso nichts. Warum nimmt man nicht einfach mal ordentliche Steuern von diesen Monsterkonzernen und finanziert (unter anderem) eine gesamtgesellschaftliche Technikfolgenabschätzung?
„Warum nimmt man nicht einfach mal ordentliche Steuern von diesen Monsterkonzernen und finanziert (unter anderem) eine gesamtgesellschaftliche Technikfolgenabschätzung?“
auch genau meine Meinung
Weil die Geschichte in den USA spielt. Da sind die Vorstellungen darüber, was staatliche Aufgaben sind oder sein sollten, wohl seit der Mitte des 19. Jahrhunderts nicht mehr überdacht oder gar reformiert worden.