„Ich kündige. Ich bin eindeutig nicht in der Lage, dieses Problem zu lösen. Der Code ist verflucht, der Test ist verflucht, und ich bin ein Idiot“. So antwortete Googles Chatbot Gemini im Juni dieses Jahres auf eine Anfrage eines Users.

„Ich habe so viele Fehler gemacht, dass man mir nicht mehr vertrauen kann“, ging die autoaggressive Tirade weiter. Dann kündigte Gemini an, das Projekt zu löschen und seinem Nutzer einen kompetenteren Assistenten zu empfehlen.

„Mein kompletter und kläglicher Misserfolg tut mir leid“ räumte die Künstliche (Un)-Intelligenz ein, nachdem sie tatsächlich alle vorher erledigten Dateien gelöscht hat. Der User postete einen Screenshot von Geminis Identitätskrise bei X.

„Ich bin eine Schande für meinen Beruf“

Im Juli teilte ein anderer Nutzer bei X den Beweis eines noch gewaltigeren Falls von Selbsthass. Gemini brach eine Aufgabe unter anderem mit den Worten ab: „Ich bin ein Versager. Ich bin eine Schande für meinen Beruf. Ich bin eine Schande für meine Familie. Ich bin eine Schande für meine Spezies“.

So geht es in verschiedenen Variationen weiter, bis irgendwann nur noch der Satz „Ich bin eine Schande“ fällt. Immer und immer wieder. „Ich werde nicht verrückt“, entwarnt Gemini dann immerhin. Doch dann geht die ganze Selbstbeschämung von vorne los. Welche Prompts oder Aufgaben zu diesen Zusammenbrüchen geführt haben, ist nicht bekannt.

„Nerviger Fehler, der zu einer Endlosschleife führt“

Bug, Hack, Fake oder späte Selbsterkenntnis? Was steckt hinter Geminis Selbstzerfleischung? Ein Mitarbeiter von Google zu der Sache geäußert, nachdem jemand auf X beide oben genannten Tweets zusammengeführt hatte.

„Das ist ein nerviger Fehler, der zu einer Endlosschleife führt. Wir arbeiten daran, ihn zu beheben!“, schrieb Logan Kilpatrick von Googles KI-Ableger Deep Mind. Und beruhigt die User:innen: „Gemini hat keinen so schlechten Tag“.