Zu Beginn des Winters wunderten sich immer mehr Nutzer:innen über ChatGPT. Der KI-Chatbot schien fauler geworden zu sein und gab immer kürzere Antworten oder verweigerte sie sogar. Damals diagnostizierten einige User:innen sogar eine Winterdepression des Chatbots.
Nun will OpenAI den Fehler behoben haben. ChatGPT sei jetzt nicht mehr so faul. Das Update von OpenAI gilt für das neue GPT‑4 Turbo, eine Version des weiter verbreiteten GPT‑4, die mit Daten aus dem April 2023 trainiert wurde. Bei der Standard-GPT‑4-Version, die mit Daten vor September 2021 trainiert wurde, können immer noch die gleichen Probleme mit der Trägheit aufkommen.
Die Version ist bislang jedoch nur als Preview-Version verfügbar. Dennoch haben bereits 70 Prozent der GPT‑4-Nutzer:innen auf die Turbo-Variante umgestellt.
Auch GPT-3.5 bekommt den Turbo verpasst. Die in der nächsten Woche erscheinende Version wird sogar zusätzlich günstiger. OpenAI reduziert die Inputpreise für das neue Modell um 50 Prozent und die Outputpreise um 25 Prozent.
Auch Änderungen bei der Einbettung
OpenAI stellt auch noch neue Einbettungsmöglichkeiten der GPT-Modelle vor. Einbettungen definiert das Unternehmen als „Zahlenfolge, die die Konzepte in Inhalten wie natürlicher Sprache oder Codes darstellt“. Einbettungen werden bei KI verwendet, bei denen das Programm auf eine Datenbank zugreifen muss, bevor eine Antwort generiert wird. Dies ist beispielsweise bei Kundenservice-Chatbots der Fall, die auf Angebotsdaten zugreifen müssen.
Die beiden neuen Einbettungsmöglichkeiten wurden mit einer Technik trainiert, mit der Leistung, Rechen- und Speicherkosten der Einbettung abgewogen werden können. Entwickler:innen können so die Einbettungen kürzen, um Rechenleistung zu sparen.
Auch die Moderations-API hat ein Update bekommen. So sollen Entwickler:innen schädliche Texte früher erkennen. Auch in Sachen Trackingoptionen zieht das Unternehmen nach.
