„This AI chatbot ‚Sidney‘ is misbehaving“ – das ist die Überschrift zu einem Post im Microsoft-Forum vom November 2022. Darin beschreibt der User „deepa gupta“ Probleme mit einem unhöflichen Chatbot. Angehängt ist eine textreiche Diskussion mit der KI.

Der Post wirft den Verdacht auf, dass Microsoft den Bing-Chatbot, der schon mit einigen Verfehlungen aufgefallen ist, bereits im November 2022 getestet hat. Auf den Post reagierte damals die unabhängige Beraterin Kimberly: Sie musste das Thema allerdings erst einmal zuordnen.

In ihrer ersten Antwort fragt sie, ob es sich um einen Vorfall mit der Bing-Suchmaschine handle, anschließend will sie das genutzte Programm wissen. Dazu schalten sich noch weitere Nutzer:innen ein, die ähnlich negative Erfahrungen mit dem Chatbot teilen.

Auch der Name legt die Vermutung nahe, dass es sich dabei um einen Testlauf gehandelt haben könnte. Nutzer:innen im Forum berichten, der Chatbot nenne sich Sydney – dieser Name taucht auch im Februar 2023 auf, als sich die KI gegenüber User:innen selbst so genannt hat.

Gegenüber Futurism bestätigte ein Microsoft-Sprecher, dass Sydney ein Codename für eine Chatfunktion eines früheren Modells ist. Ergebnisse aus diesen früheren Testläufen seien bei der Erstellung von der neuen „Bing-Vorschau“ genutzt worden.

Trotz des Testlaufs hat Microsoft wohl für seinen teilweise falschliegenden und bedrohlichen Chatbot noch keine Lösung gefunden, die diese Antworten verhindert.

Ende Februar 2023 musste Microsoft seinen Chatbot schon beschränken: Nachdem der Chatbot gegenüber Nutzer:innen falsche oder beleidigende Antworten gegeben hat, kann er nun nur noch limitiert genutzt werden. Maximal fünf Fragen pro Anfrage und insgesamt maximal 50 Anfragen täglich pro Nutzer:in sind erlaubt.

Anfang Februar 2023 war die Bing-Suchmaschine mit der ChatGPT-KI veröffentlicht worden.