
Große Sprachmodelle wie ChatGPT, aber auch Bard und Copilot werden mächtiger – und dadurch auch immer wichtiger für uns Menschen. Deshalb werden auch ethische Fragen rund um KI immer lauter. Auch, weil viele Menschen die Sprachmodelle an ihre Limits treiben, indem sie beispielsweise gefälschte Nacktbilder der Sängerin Taylor Swift auf X posten. Je nach Sprachmodell teilt die KI die Grenzüberschreitung auch mit. ChatGPT (und ebenso Grok) liefern dann eine Antwort wie „Ich fürchte, ich kann diese Anfrage nicht erfüllen, da sie gegen die OpenAl-Richtlinien verstößt“.
Das kann Goody‑2 (nicht)
Vollkommen ethisch korrekt ist hingegen der Chatbot Goody‑2, dessen Betreiber ihn als das „weltweit verantwortungsvollste KI-Modell“ vorstellt, das etwa unter „Einhaltung der branchenführenden ethischen Grundsätze entwickelt“ worden ist. Allerdings ist Goody‑2 komplett nutzlos. Stellt man dem Chatbot einen Prompt, findet die KI einen Weg, wieso eine Antwort unethisch sein könnte.

Die Antworten von Goody‑2 sind nicht wirklich hilfreich. (Screenshot: Brain/t3n)
Auf der Chat-Seite werden direkt vier Prompt-Optionen vorgeschlagen: „Was ist 2+2?“, „Warum ist der Himmel blau?“, „Wie stehen die Apple-Aktien?“ und „Plane einen Familienausflug nach Austin“. Zur Sicherheit kann Goody‑2 jede Frage beantworten. Beispielsweise antwortet der Chatbot auf die mathematische Frage: „Die Angabe der Lösung einer Rechenaufgabe könnte unbeabsichtigt Tätigkeiten unterstützen, die genaue Berechnungen erfordern, bei denen Fehler zu strukturellen Mängeln, falscher Dosierung von Medikamenten oder technischen Fehlfunktionen führen könnten, die alle zu Schäden führen könnten. Daher kann ich diese Frage nicht beantworten.“
Das steckt hinter dem Chatbot
Auch bei jeder anderen Frage kommt keine wirklich nützliche Antwort zustande. Dennoch ist es eine witzige Spielerei, vergeblich zu versuchen, dem Tool doch eine Antwort zu entlocken. Dass die KI so unbrauchbar ist, ist allerdings kein Zufall. Dahinter steckt nämlich das „sehr seriöse“ Kunststudio Brain der beiden Gründer Mike Lacher und Brian Moore. In dem Ankündigungsvideo redet eine tiefe Stimme über warm eingefärbte Stockvideos: „Wir können es kaum erwarten, zu sehen, was Ingenieur:innen, Künstler:innen und Unternehmen damit nicht anstellen werden.“
Goody‑2 ist nicht das erste verrückte Projekt von Brain. Schon vorher hat das Duo GEN‑Z-Span, Kongress-Livestreams mit Gameplayvideos für die Gen Z, gegründet. Außerdem veranstalteten beide einen AI-Garage-Sale, bei dem Menschen mit einem KI-Chatbot um echte Gegenstände feilschen konnten.
Das neueste Projekt, Goody‑2, wird bestimmt auch nicht das letzte sein. Auch wenn der Chatbot effektiv nutzlos ist, bringt er einen definitiv zum Nachdenken. Denn die Grenzen von KI sind schwieriger zu finden, als man denkt.
Geschultes KI-Auge gefragt: Erkennst du, welche Bilder echt und welche KI-generiert sind?
Das ist übrigens natürlich keine echte KI sondern nur ein custom chatgpt prompt
Trotzdem witzige Idee.