Künstliche Intelligenz fabriziert Lügen: Meta nimmt „Galactica“ offline
Die KI Galactica sollte Wissenschaftler:innen eigentlich unterstützen – manche bringt sie allerdings zum Haareraufen. (Foto: Tuaindeed/Shutterstock)
Mitte November 2022 hat Meta seine künstliche Intelligenz Galactica online gestellt. Die KI sollte wissenschaftliche Arbeiten verfassen und damit Forscher:innen unterstützen. Drei Tage später hat der Konzern sie aus dem Netz geholt. Der Grund: Galactica kann wahr und unwahr nicht unterscheiden.
Galactica: Bären im All
Das zeigte sich zum Beispiel anhand eines Artikels, den die KI verfasst hat. Thema: das Bärenleben im Weltraum. Der Wissenschaftler David Chapman hatte am 15. November, dem Tag der Galactica-Veröffentlichung, die KI direkt ausprobiert. Laut dem Bärentext sind die Tiere mit einer Weltraummission ins All gelangt.
Das ist natürlich Quatsch – die KI konnte das offensichtlich nicht erkennen. Der Text zeigt das große Problem: Galactica kann Wahres nicht erkennen und verbreitet auch Unwahrheiten. Außerdem erstellt die KI für manche Themen generell keine Texte, beispielsweise zu Rassismus oder Aids.
Forscher: Galactica ist potenzielle Gefahr für Wissenschaft
Michael Black, Direktor am Max-Planck-Institut für Intelligente Systeme, probierte Galacitca ebenfalls aus. Sein Fazit: Es sei potenziell gefährlich für die Wissenschaft. Galactica sei kein „hilfreiches Werkzeug für die wissenschaftliche Arbeit“. Allerdings lobt der den „Ehrgeiz des Projekts“.
Trainiert wurde Galactica laut der MIT Technology Review mit 48 Millionen Beispielen wissenschaftlicher Texte, zum Beispiel mit Artikeln oder Lehrbüchern. Die KI sollte unter anderem Wiki-Artikel und wissenschaftlichen Code erstellen können.
Galactica soll eigentlich Wissenschaftler:innen unterstützen
Meta-Chefwissenschaftler Yann LeCun verteidigt Galactica. Der NYU-Professor ordnete die KI als eine Hilfe für das Verfassen von wissenschaftlichen Texten ein – wie eine „Fahrhilfe für das Autofahren“. Er sieht einen fälschlichen Gebrauch der KI als Problem. Unter anderem teilte er einen Tweet, der die Gefahr durch die KI infrage stellte.
Die Gefahr, die Wissenschaftler:innen in der KI sehen: Sie erstellt die Texte basierend auf ihrem eingespielten Wissen, kann das aber gar nicht durchdenken. Die KI ist damit wie ein Bot, der allerdings wissenschaftlich gesehen werden will. Die teilweise falschen Texten wies Galactica dann zum Teil realen Autor:innen zu.
KI erst einmal offline
Während Bären im Weltraum für Laien noch schnell als Falsch zu enttarnen sind, ist es bei komplexeren Themen schwierig. Falschinformationen könnten so als wahr angesehen und verbreitet werden.
Meta hat Galactica nach dem kritischen Feedback „vorerst“ pausiert. Forscher:innen stünden die Modelle zur Verfügung. „Auf dem Papier“ dürfen sie die „Erfahrungen reproduzieren“. Das twitterte Papers with Code, deren Kern zu Meta AI Research gehört.
