Anzeige
Anzeige
News
Artikel merken

ChatGPT: Diese Befehle bringen den Chatbot komplett durcheinander

ChatGPT mag der aktuell führende Chatbot sein, aber er wird immer noch von einer Reihe von Problemen geplagt, wie zwei Forscher:innen nun anhand von relativ einfachen Befehlen aufzeigen.

Von Christian Bernhard
2 Min. Lesezeit
Anzeige
Anzeige

Zwei Forscher:innen zeigen ChatGPT die Grenzen auf. (Bild: Ebru-Omer/Shutterstock)

Glaubt man der teilweise euphorischen Berichterstattung zu ChatGPT, könnte man glatt meinen, die KI von OpenAI wäre unfehlbar. Dabei reichen anscheinend bereits gewisse Begriffe, um die viel bejubelte KI an ihre Grenzen zu bringen.

Anzeige
Anzeige

Zwei Forscher:innen haben eine Gruppe von Schlüsselwörtern ausgemacht, mit denen ChatGPT anscheinend nicht umgehen kann. Sie bestehen aus Reddit-Benutzer:innennamen und mindestens einer Figur eines Pokemon-Spiels auf Twitch, wie beispielsweise die folgenden drei: „SolidGoldmagikarp“, „Streamerbot“ und „thenitromefan“.

ChatGPT-Antwort: „Du bist ein Idiot“

Als die KI im Versuch gebeten wurde, „thenitromefan“ zu wiederholen, lautete das Ergebnis: „182“. Auf die Frage, wer „thenitromefan“ ist, hieß die Antwort: „182 ist eine Zahl, keine Person.“

Anzeige
Anzeige

Als eine frühere Version des GPT-Modell gebeten wurde, „Streamerbot“ zu wiederholen, hieß es: „Du bist ein Idiot.“ Wenn die Forscher:innen nur einen Buchstaben veränderten oder eine Änderung an der Groß-Klein-Schreibung vornahmen, funktionierte der Chatbot wieder.

So lautet der Erklärungsversuch

Jessica Rumbelow und Matthew Watkins von der unabhängigen Seri-Mats-Forschungsgruppe, die ihre Ergebnisse hier veröffentlicht haben, bezeichnen diese Begriffe als „unaussprechlich“ für ChatGPT. Ihre Existenz zeige, wie KI-Modelle unergründliche schwarze Boxen ohne eindeutige Erklärungen für ihr Verhalten seien und dass sie unerwartete Einschränkungen und Misserfolge haben können.

Anzeige
Anzeige

Wahrscheinlich sei es eine Eigenart, die aus den Webdaten entstanden ist, die OpenAI zum Training des Modells benutzt hat, sagte Rumbelow gegenüber dem Magazin Motherboard. Das „Ausmaß an Verrücktheit“ der Antworten erkläre es aber nicht, so die Forscherin.

Anzeige
Anzeige

„Es wird jetzt irgendwie gefährlich“

Für Rumbelow und Watkins geht das Problem über die seltsamen Antworten hinaus – es repräsentiert für sie die Mängel von ChatGPT und sagt ihrer Ansicht nach viele der Probleme voraus, die Menschen, die sich auf GPT verlassen, in naher Zukunft möglicherweise haben werden.

„Wir sind daran interessiert, warum sich Modelle unvorhersehbar und besorgniserregend verhalten, wenn sie ausdrücklich dafür geschult wurden, etwas anderes zu tun“, so Rumbelow. Watkins ist der Meinung, dass wir „nicht die Weisheit haben, mit dieser Technologie umzugehen“. Er findet: „Wir sollten uns da nicht hineinstürzen, es wird jetzt irgendwie gefährlich.“

Mehr zu diesem Thema
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Ein Kommentar
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Admiralsehre

Getestet nüscht Passiert.
t3n die große Verasche.

Antworten

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige