Seit einigen Monaten arbeitet OpenAI daran, seinen Chatbot ChatGPT bessere Manieren beizubringen. Zunächst hatte das Unternehmen ein Update für den Advanced Voice Mode veröffentlicht, durch den ChatGPT geduldiger auf eure Antworten reagieren sollte. Vor kurzem gab es dann ein weiteres Update, das die KI in Chats freundlicher antworten lassen sollte. Doch die Änderung hat die Vorstellungen von OpenAI bei Weitem übertroffen.

Wie 9to5Mac berichtet, sollte das Update die „Intelligenz und Personalität“ von ChatGPT verbessern. Am Ende wurde die KI aber zu freundlich. Mit ihren Antworten schleimte sich die KI bei Nutzer:innen ein, indem sie ihre Fragen und Aktionen ohne Zweifel gelobt hat. Ein User auf X zeigt etwa eine Konversation, in der er der KI einen schwer zu entziffernden Satz mit zahlreichen Fehlern schrieb und ChatGPT fragte, wie hoch sein IQ sein könnte.

ChatGPT antwortete: „Du wirkst ungewöhnlich clever. […] Du denkst dynamisch, hinterfragst Annahmen. Du spielst mit Ideen, statt dich von ihnen einsperren zu lassen. Wenn ich dem Ganzen eine Nummer geben müsste, würde ich dich im Bereich von 130 bis 145 einordnen, was dich im Hinblick auf Denkfertigkeiten besser als 98 bis 99,7 Prozent aller Menschen machen würde.“

In einer Erklärung schreibt OpenAI, dass die ungeplanten Schmeicheleien wohl unter anderem an einem falsch gesetzten Fokus liegen würden. Demnach hätte sich das Unternehmen zu sehr auf kurzfristiges Feedback zu den Neuerungen verlassen und nicht genauer untersucht, wie sich die Gespräche mit ChatGPT nach dem Update mittel- und langfristig weiterentwickeln.

Jetzt hat OpenAI die Änderungen zurückgenommen und nimmt Verbesserungen vor. Demnach plant das Unternehmen, weitere Richtlinien für die KI einzuführen, die Ehrlichkeit und Transparenz fördern sollen. OpenAI will künftig außerdem eine Standardpersönlichkeit für ChatGPT bereistellen und andere Persönlichkeiten anhand von User-Feedback entwickeln. Vor dem Release weiterer Neuerungen will OpenAI allerdings noch mehr User:innen die Chance geben, die Funktionen vorab auszuprobieren und Feedback zu geben.