Anzeige
Anzeige
News
Artikel merken

Künstliche Intelligenz fabriziert Lügen: Meta nimmt „Galactica“ offline

Sie schrieb über Bären im Weltraum und ordnete ihre Artikel realen Autor:innen zu: Galactica kann wahr nicht von unwahr unterscheiden. Das sorgt für Kritik.

5 Min. Lesezeit
Anzeige
Anzeige

Die KI Galactica sollte Wissenschaftler:innen eigentlich unterstützen – manche bringt sie allerdings zum Haareraufen. (Foto: Tuaindeed/Shutterstock)

Mitte November 2022 hat Meta seine künstliche Intelligenz Galactica online gestellt. Die KI sollte wissenschaftliche Arbeiten verfassen und damit Forscher:innen unterstützen. Drei Tage später hat der Konzern sie aus dem Netz geholt. Der Grund: Galactica kann wahr und unwahr nicht unterscheiden.

Anzeige
Anzeige

Galactica: Bären im All

Das zeigte sich zum Beispiel anhand eines Artikels, den die KI verfasst hat. Thema: das Bärenleben im Weltraum. Der Wissenschaftler David Chapman hatte am 15. November, dem Tag der Galactica-Veröffentlichung, die KI direkt ausprobiert. Laut dem Bärentext sind die Tiere mit einer Weltraummission ins All gelangt.

Das ist natürlich Quatsch – die KI konnte das offensichtlich nicht erkennen. Der Text zeigt das große Problem: Galactica kann Wahres nicht erkennen und verbreitet auch Unwahrheiten. Außerdem erstellt die KI für manche Themen generell keine Texte, beispielsweise zu Rassismus oder Aids.

Anzeige
Anzeige

Forscher: Galactica ist potenzielle Gefahr für Wissenschaft

Michael Black, Direktor am Max-Planck-Institut für Intelligente Systeme, probierte Galacitca ebenfalls aus. Sein Fazit: Es sei potenziell gefährlich für die Wissenschaft. Galactica sei kein „hilfreiches Werkzeug für die wissenschaftliche Arbeit“. Allerdings lobt der den „Ehrgeiz des Projekts“.

Trainiert wurde Galactica laut der MIT Technology Review mit 48 Millionen Beispielen wissenschaftlicher Texte, zum Beispiel mit Artikeln oder Lehrbüchern. Die KI sollte unter anderem Wiki-Artikel und wissenschaftlichen Code erstellen können.

Anzeige
Anzeige

Galactica soll eigentlich Wissenschaftler:innen unterstützen

Meta-Chefwissenschaftler Yann LeCun verteidigt Galactica. Der NYU-Professor ordnete die KI als eine Hilfe für das Verfassen von wissenschaftlichen Texten ein – wie eine „Fahrhilfe für das Autofahren“. Er sieht einen fälschlichen Gebrauch der KI als Problem. Unter anderem teilte er einen Tweet, der die Gefahr durch die KI infrage stellte.

Die Gefahr, die Wissenschaftler:innen in der KI sehen: Sie erstellt die Texte basierend auf ihrem eingespielten Wissen, kann das aber gar nicht durchdenken. Die KI ist damit wie ein Bot, der allerdings wissenschaftlich gesehen werden will. Die teilweise falschen Texten wies Galactica dann zum Teil realen Autor:innen zu.

Anzeige
Anzeige

KI erst einmal offline

Während Bären im Weltraum für Laien noch schnell als Falsch zu enttarnen sind, ist es bei komplexeren Themen schwierig. Falschinformationen könnten so als wahr angesehen und verbreitet werden.

Meta hat Galactica nach dem kritischen Feedback „vorerst“ pausiert. Forscher:innen stünden die Modelle zur Verfügung. „Auf dem Papier“ dürfen sie die „Erfahrungen reproduzieren“. Das twitterte Papers with Code, deren Kern zu Meta AI Research gehört.

Mehr zu diesem Thema
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Schreib den ersten Kommentar!
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige