Als Google nach dem großen Erfolg von ChatGPT seinen eigenen KI-Chatbot Bard – offenbar überstürzt – ins Rennen schickte, sorgte ein Fehler bei der Präsentation für ein Absacken des Alphabet-Kurses. 100 Milliarden US-Dollar an Börsenwert der Google-Mutter sollen so in kürzester Zeit vernichtet worden sein.

Bei Bing Chat, Microsofts KI-Antwort auf ChatGPT und Bard, kam es bei der ersten Vorführung gar zu einer ganzen Reihe von Fehlern. Auch weil darüber erst später berichtet wurde, blieb die ganz große negative Reaktion an der Börse aus.

Mittlerweile ist weit über Expert:innenkreise hinaus bekannt, dass KI-Chatbots Fehler machen. Voller Inbrunst erklären sie dann erfundenen Unsinn zu Tatsachen. Das Einbetten von plausibel klingenden Zufallslügen in den von Chatbots generierten Inhalten nennt sich KI-Halluzination.

Gleich zwei solcher Halluzinationen sind jetzt im Vorstellungsvideo des AI Pin von Humane entdeckt worden. Das von zwei ehemaligen Apple-Beschäftigten gegründete Startup musste das Video daher jetzt noch einmal nachbearbeiten, wie Business Insider schreibt. Mittlerweile sind die Fehler verschwunden.

Einen Einbruch des Aktienkurses wie Google muss das Unternehmen ohnehin nicht befürchten. Es ist nämlich (noch) nicht an der Börse notiert. Peinlich ist das Ganze aber auf jeden Fall – sicher auch vor den Investor:innen, die viel Geld in das Startup gesteckt haben.

Worin aber bestanden die mittlerweile gefixten Fehler? Die erste offensichtliche Fehlinformation gab die im AI Pin integrierte KI auf die Frage, wo man sich am besten die nächste Sonnenfinsternis anschauen könne. Statt mit Nordamerika antwortete der AI Pin mit Australien – was nicht stimmt.

Den zweiten Fehler machte der AI Pin, als ihm eine Handvoll Mandeln gezeigt wurden und die KI sagen sollte, wie viele Gramm Protein sich darin befänden. Die Antwort: 15 Gramm. Wie später ein Nutzer auf X erklärte, bräuchte man für diese Menge Protein aber rund 60 Mandeln und nicht nur das gute Dutzend, das sich in der gezeigten Hand befand.

Humane erklärte die Fehler damit, dass bei der Aufnahme des Videos „Pre-Release“-Software verwendet worden sei. Inwieweit sich solche Halluzinationen später vermeiden lassen, ist fraglich. Auch aus diesem Grund ist fraglich, ob das Gerät überhaupt das Potenzial hat, künftig das Smartphone zu ersetzen.

Tatsächlich fragt man sich aber, warum die von einer KI getätigten Aussagen, die einem Millionenpublikum vorgeführt werden sollen, nicht stärker kontrolliert werden.