KI-Forscherin entlassen: Google hat mindestens 3 ernste Probleme
Timnit Gebru war eine der wichtigsten KI- und Ethik-Forscherinnen bei Google. (Grafik mit dpa)
Nach einem Streit in E-Mails und Tweets hat Google sich von Timnit Gebru, einer der prominentesten KI-Forscherinnen des Unternehmens, getrennt. Zusammen mit fünf Co-Autorinnen hatte Gebru einen Artikel über die Gefahren von künstlicher Intelligenz geschrieben und bei einer wissenschaftlichen Konferenz eingereicht. Google forderte Gebru und die Autoren daraufhin auf, den Artikel zurückzuziehen.
Die Kündigung hat dabei hohe Wellen bei Google, in der KI-Szene und im Silicon Valley geschlagen. Über 2.000 Google-Mitarbeiterinnen haben seit der Kündigung eine Petition zur Unterstützung Gebrus auf Medium unterschrieben.
Auch Google selbst dürfte über die weltweite Empörung überrascht sein. Dabei berührt Timnit Gebrus Aus bei Google gleich mehrere brisante Themen – in der KI und im Unternehmen Google selbst:
1. Die Gefahren von KI selbst
Der erste Punkt ist natürlich der wissenschaftlichen Artikel selbst. Die wichtigsten Kernpunkte von Timnit Gebrus Kritik an KI, wie sie bei Google aktuell verwendet wird, sind folgende:
- Schäden für die Umwelt: Der wissenschaftliche Artikel bezieht sich auf die Energie-Kosten, die es benötigt, um algorithmische Sprachmodelle, so wie Google sie verwendet, zu trainieren. Laut dem Artikel könnten es sich damit nur große Konzerne überhaupt leisten, mit Algorithmen auf dieser Ebene zu arbeiten. Die Folgen der Klimaschäden, so Gebru und Co., träfen aber am stärksten Minderheiten.
- Diskriminierende Algorithmen: Um Algorithmen wie Googles Sprachverarbeitung für die Suchfunktion zu trainieren, so der Artikel, würden Forscherinnen riesige Datenmengen aus dem Internet verwenden. Große Datensätze, beispielsweise Texte von Internetforen, bringen dem Algorithmus dann aber auch die gleichen Vorurteile bei, die jetzt schon im Internet kursieren.
2. Diversität bei Google
Neben dem wissenschaftlichen Artikel, spielt aber auch die Art und Weise, wie Gebru gegangen wurde, eine Rolle für die Empörung. Eines der Themen, mit denen sich Timnit Gebru bei Google beschäftigt hat, war die Diversität der Google-Mitarbeiter selbst: In einer E-Mail, die sie vor ihrer Kündigung an Google-Mitarbeiterinnen schickte, schrieb sie über ihre Verärgerung über Googles Reaktionen auf Versuche, mehr Angehörige von Minderheiten einzustellen. „Dein Leben wird plötzlich schwerer, wenn du anfängst, dich für unterrepräsentierte Menschen einzusetzen. (…) Es gibt keinen Weg, dass mehr Dokumente oder mehr Gespräche irgendetwas erreichen“, zitiert die New York Times aus ihrer E-Mail.
3. Diskriminierungsvorwürfe bei Google
Im Vorfeld der Kündigung hatten Timnit Gebru und ihre Co-Autorinnen den Artikel bei einer Konferenz eingereicht. Gebrus Chef bei Google, Jeff Dean, forderte sie darauf hin auf, den Artikel zurückzuziehen – er würde nicht Googles Standards entsprechen, weil der Artikel „zu viel wichtige Forschung ignorieren“ würde. Abgesehen davon, so Dean, hätten die Autorinnen Google zu wenig Zeit gelassen, den Artikel zu lesen.
Laut der MIT Technology Review ist die Bibliographie des Artikels mit 128 Einträgen aber „bemerkenswert lang“. Der Journalist und Google-Kenner Casey Newton zitierte später aus internen Dokumenten, denen zufolge ein großer Teil der wissenschaftlichen Arbeiten von Google-Mitarbeitern dem Unternehmen selbst erst wenige Tage vor der Einreichung bei einer Konferenz vorgelegt werden.
Der Google Forscher Nicolas Le Roux kommentierte auf Twitter: „Jetzt könnte ein guter Zeitpunkt sein, um daran zu erinnern, dass der einfachste Weg zu diskriminieren ist, strenge Regeln zu machen, und dann zu entscheiden, wann und für wen sie angewandt werden. Bei meinen Einreichungen wurde immer kontrolliert, ob sensible Daten preisgegeben werden – aber nie die Qualität der Literaturübersicht.“
Warum nennt ihr einen Kommentar eigentlich Analyse und lasst dann auch noch wesentliche Fakten weg?
Mir ist (nicht nur hier) die Berichterstattung rund um dieses Thema deutlich viel zu einseitig. Damit will ich auf keinen Fall andeuten, dass ich Google hier auf der Seite der Guten sehe oder sehen möchte, sondern schlicht unzufrieden sind, dass entscheidende Details in der Berichterstattung einfach nicht auftauchen.
Beispiel 1: Sie hat ihren Arbeitgeber verklagt. Nachzulesen bspw. hier: https://www.platformer.news/p/the-withering-email-that-got-an-ethical
An dieser Tatsache kann man durchaus Differenzen zwischen ihr und Google erkennen, die unter Umständen zu einer Kündigung führen könnten, zumindest aber deutlich machen, dass man sich gegenseitig wohl nicht ganz so sehr mochte. Und es werden täglich Menschen gekündigt, die einem Unternehmen regelmäßig auf die Füße treten, ob berechtigt oder nicht.
Beispiel 2: Sie hat Forderungen gestellt, die mit der Drohung verbunden waren, bei Nichterfüllung zu kündigen. Google hat die Forderungen nicht erfüllen wollen und anschließend die Kündigung akzeptiert. Nachzulesen bspw. hier: https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paper-forced-out-timnit-gebru
Unabhängig davon finde ich etwas befremdlich, dass sie jegliche Kritik an ihrer Arbeit (wovon zumindest manche Paper aus meiner Sicht durchaus trivial und weit weg von wissenschaftlich sind) sofort als rassistisch und sexistisch bezeichnet. Man würde sie nur kritisieren, weil sie schwarz und eine Frau sei. Auf diese Weise entkräftet man sofort jegliche sachliche Kritik. Natürlich kann man nicht ausschließen, dass es tatsächlich so gewesen ist, ich werde aber immer schnell hellhörig, wenn derartige Behauptungen auftauchen. Und schau dann nach. Und verschiedene Kritiken an ihren Arbeiten sind für mich absolut nachvollziehbar und das komplett ohne Blick auf Geschlecht oder Hautfarbe.
Aus diesem Grund denke ich, dass es eben nicht ausreichend ist, lediglich von einem Rauswurf aufgrund unbequemer Paper zu sprechen. Der Fall ist deutlich komplexer und sollte auch so betrachtet werden. Denn andere Personen, die an ihren Papern mitgearbeitet haben, sind ja nach wie vor bei Google beschäftigt…
In einigen Punkten haben Sie wohl recht. Allerdings wissen wir ja nicht, warum es zu den Spannungen zwischen Google und Gebru gekommen ist. Somit sind Ihre Vermutungen auch nur blanke Fantasie. Die Quellenverweise überzeugen mich jedenfalls nicht ausreichend. Vielleicht war es so wie Mrs. Gebru beschreibt, möglich dass Google im Recht ist, oder wir kennen die wahren Gründe einfach nicht. Die Kritik an der KI-Forschung jedenfalls teilen viele mit ihr. Daten erheben die nicht Google gehören, und diese mit Computern analysieren ist in meinen Augen sehr gefährlich. Ich befürchte daher eher dass Google die Mitarbeiterin leid war. Der Etikausschuss ist für Google eh schon nur eine Pflicht, keinesfalls die Kür. Warten wir doch einfach auf ein Urteil, wenn es denn eines geben wird.