Künstliche Intelligenz fabriziert Lügen: Meta nimmt „Galactica“ offline
![Die KI Galactica sollte Wissenschaftler:innen eigentlich unterstützen – manche bringt sie allerdings zum Haareraufen. (Foto: Tuaindeed/Shutterstock) Künstliche Intelligenz fabriziert Lügen: Meta nimmt „Galactica“ offline](https://images.t3n.de/news/wp-content/uploads/2022/11/Wissenschaftler-fragend-Labor.jpg?class=hero)
Die KI Galactica sollte Wissenschaftler:innen eigentlich unterstützen – manche bringt sie allerdings zum Haareraufen. (Foto: Tuaindeed/Shutterstock)
Mitte November 2022 hat Meta seine künstliche Intelligenz Galactica online gestellt. Die KI sollte wissenschaftliche Arbeiten verfassen und damit Forscher:innen unterstützen. Drei Tage später hat der Konzern sie aus dem Netz geholt. Der Grund: Galactica kann wahr und unwahr nicht unterscheiden.
Galactica: Bären im All
Das zeigte sich zum Beispiel anhand eines Artikels, den die KI verfasst hat. Thema: das Bärenleben im Weltraum. Der Wissenschaftler David Chapman hatte am 15. November, dem Tag der Galactica-Veröffentlichung, die KI direkt ausprobiert. Laut dem Bärentext sind die Tiere mit einer Weltraummission ins All gelangt.
Das ist natürlich Quatsch – die KI konnte das offensichtlich nicht erkennen. Der Text zeigt das große Problem: Galactica kann Wahres nicht erkennen und verbreitet auch Unwahrheiten. Außerdem erstellt die KI für manche Themen generell keine Texte, beispielsweise zu Rassismus oder Aids.
Forscher: Galactica ist potenzielle Gefahr für Wissenschaft
Michael Black, Direktor am Max-Planck-Institut für Intelligente Systeme, probierte Galacitca ebenfalls aus. Sein Fazit: Es sei potenziell gefährlich für die Wissenschaft. Galactica sei kein „hilfreiches Werkzeug für die wissenschaftliche Arbeit“. Allerdings lobt der den „Ehrgeiz des Projekts“.
Trainiert wurde Galactica laut der MIT Technology Review mit 48 Millionen Beispielen wissenschaftlicher Texte, zum Beispiel mit Artikeln oder Lehrbüchern. Die KI sollte unter anderem Wiki-Artikel und wissenschaftlichen Code erstellen können.
Galactica soll eigentlich Wissenschaftler:innen unterstützen
Meta-Chefwissenschaftler Yann LeCun verteidigt Galactica. Der NYU-Professor ordnete die KI als eine Hilfe für das Verfassen von wissenschaftlichen Texten ein – wie eine „Fahrhilfe für das Autofahren“. Er sieht einen fälschlichen Gebrauch der KI als Problem. Unter anderem teilte er einen Tweet, der die Gefahr durch die KI infrage stellte.
Die Gefahr, die Wissenschaftler:innen in der KI sehen: Sie erstellt die Texte basierend auf ihrem eingespielten Wissen, kann das aber gar nicht durchdenken. Die KI ist damit wie ein Bot, der allerdings wissenschaftlich gesehen werden will. Die teilweise falschen Texten wies Galactica dann zum Teil realen Autor:innen zu.
KI erst einmal offline
Während Bären im Weltraum für Laien noch schnell als Falsch zu enttarnen sind, ist es bei komplexeren Themen schwierig. Falschinformationen könnten so als wahr angesehen und verbreitet werden.
Meta hat Galactica nach dem kritischen Feedback „vorerst“ pausiert. Forscher:innen stünden die Modelle zur Verfügung. „Auf dem Papier“ dürfen sie die „Erfahrungen reproduzieren“. Das twitterte Papers with Code, deren Kern zu Meta AI Research gehört.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team