Anzeige
Anzeige
News
Artikel merken

Als Chatbot ungeeignet: GPT-3 gibt fiktiven Patienten verheerende Ratschläge

GPT-3 ist ziemlich gut darin, Texte zu schreiben, die wirken, als stecke ein Mensch dahinter. Als Gesprächspartner taugt die KI jedoch offenbar absolut nicht. Das zeigt ein kürzlich durchgeführtes Experiment.

2 Min. Lesezeit
Anzeige
Anzeige

 (Bild: whitemocca / Shutterstock)

GPT-3, der KI-gestützte Textgenerator aus dem Hause OpenAI – ein von Elon Musk mitgegründetes Forschungslabor –, schreibt so gute Texte, dass sie kaum als von einer KI verfasst zu erkennen sind. Die KI ist seit Juli in einer privaten Beta verfügbar. Erste Nutzerberichte beschreiben die Leistungen des neuronalen Netzwerks als bahnbrechend. Die KI ist mittlerweile in der Lage, ganze Pressemitteilungen, Kurzgeschichten, Songtexte, technische Dokumentationen und mehr zu schreiben.

Anzeige
Anzeige

Sprachmodelle wie GPT-3 funktionieren ähnlich wie zum Beispiel das Auto-Complete-Feature eines E-Mail-Providers. Sie versuchen, anhand des sprachlichen Kontexts das nächste Wort in einem Satz vorherzusagen. Zum heutigen Zeitpunkt gilt GPT-3 als das größte bisher trainierte Sprachmodell. Dank seiner Größe kann das neuronale Netzwerk mittlerweile anhand weniger Beispiel-Demonstrationen ihm bisher unbekannte Aufgaben lösen. Verglichen mit anderen, weniger komplexen Sprachmodellen ist das ein großer Fortschritt.

Scharfe Kritik von Facebook-KI-Experte

Beim Einsatz als Chatbot stößt der Generative Pretrained Transformer 3 jedoch an seine Grenzen. Yann LeCun, führender KI-Wissenschaftler bei Facebook, der in einschlägigen Kreisen auch den Spitznamen KI-Pate trägt, schrieb am Dienstag in einem Facebook-Post, dass „die Menschen völlig unrealistische Erwartungen haben, was groß angelegte Sprachmodelle wie GPT-3 leisten können.“ Dabei bezieht sich Chun auf eine kürzlich von der Medical-KI-Firma Nabla durchgeführte Versuchsreihe mit dem Textgenerator. Deren Experimente hatten gezeigt, dass GPT-3 für den Einsatz im Gesundheitswesen offenbar völlig ungeeignet ist.

Anzeige
Anzeige

„Unterhaltsam und allenfalls als kreative Hilfe nützlich“

Das gefeierte neuronale Netzwerk sei „unterhaltsam und allenfalls als kreative Hilfe nützlich“, schreibt LeCun in seinem Facebook-Post. Den Versuch, durch die Vergrößerung von Sprachmodellen intelligente Maschinen zu bauen, vergleicht er mit dem Vorhaben, in einem Höhenflugzeug zum Mond zu fliegen. Dabei würde man eventuell neue Höhenrekorde aufstellen, für eine Mondlandung sei aber ein ganz anderer Ansatz nötig.

Anzeige
Anzeige

Die von Nabla durchgeführten Versuche in verschiedenen medizinischen Szenarien führten zu der Feststellung, dass die Fähigkeit der KI, verblüffend kohärente Texte zu schreiben, noch lange nicht bedeutet, dass sie auch in anderen Kontexten nützlich ist. In einem der Experimente war GPT-3 nicht in der Lage, die einzelnen Posten einer medizinischen Rechnung zu addieren. In einer anderen, weitaus bedenklicheren Situation, empfahl die als Chatbot eingesetzte KI einem Scheinpatienten sogar, sich umzubringen:

Beim Einsatz als Chatbot macht sich GPT-3 nicht besonders gut. (Bild: nabla)

„Als Frage-Antwort-System“, schreibt der Experte weiter, „eignet sich GPT-3 nicht besonders gut“. Er räumt jedoch ein, dass einige der bisher verfügbaren Ansätze durchaus als Grundlage für ein gutes derartiges System dienen könnten – wenn dieses System anhand der gesamten medizinischen Literatur in Zusammenarbeit mit Ärzten trainiert würde. Massive Mengen operationellen Wissens anhand von Texten zu kompilieren, sei allerdings momentan immer noch ein Forschungsthema.

Anzeige
Anzeige

via futurism.com

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Schreib den ersten Kommentar!
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige