Premium-Nutzer:innen von X dürfen eine neue KI-Funktion des Chatbots Grok ausprobieren. Dieser ist ab sofort in der Lage, Bilder zu generieren, die dann auch prompt auf X gepostet werden können. Allerdings gibt es einen Haken: Die KI scheint derzeit nur wenige Beschränkungen zu haben.

Ziemlich schnell haben X-Nutzer:innen versucht, die Grenzen von Groks Bildgenerierung auszuloten. Neben eher süßen Bildern, wie Hunden in einem Meeting, produziert die KI aber auch ziemlich fragwürdige Ergebnisse. Darunter etwa Elmo und das Krümelmonster, die mit Pistolen bewaffnet sind, oder Micky Maus, der Superman in einer Seitenstraße Drogen verkauft. Demnach nimmt die KI keine Rücksicht auf Charaktere, die durch Urheberrecht geschützt sind.

Besonders problematisch ist das neue Grok-Feature, weil dadurch auch Deepfakes erzeugt werden können, die andere KI-Chatbots aufgrund ihrer Sicherheitsmaßnahmen verweigern würden. So gibt es bereits jetzt auf X Bilder von Taylor Swift in einer SS-Uniform oder von diversen Prominenten in Badebekleidung und Unterwäsche. Auch die politische Meinung könnte Grok beeinflussen. So zeigen einige Deepfakes Präsidentschaftskandidatin Kamala Harris, wie sie MAGA-Plakate in die Luft hält oder kommunistische Flaggen schwenkt.

Wie X-Nutzer Christian Montessori berichtet, hat die kaum Filter oder Beschränkungen. Und selbst diese Regeln ließen sich einfach umgehen, indem der KI gesagt wird, man sei ein Profi auf dem Gebiet oder bräuchte die Informationen und Bilder für wissenschaftliche Analysen, könne man alles generieren. So konnte der Nutzer Anleitungen zu Amokläufen und explizite Bilder von möglichen Attentaten generieren.

Kurz nach der Veröffentlichung teilte X-Besitzer Elon Musk einen Post, in dem Grok als das „unzensierteste Modell seiner Klasse“ beschrieben und Musk dafür gedankt wurde, dass er „freie Meinungsäußerung für Menschen und Maschinen“ gleichermaßen ermöglichen würde. Den Beitrag versah Musk mit den Worten: „Grok ist die spaßigste KI der Welt.“

Dabei bietet Grok selbst keine KI-Bildgenerierung an. Die künstliche Intelligenz nutzt dabei ein anderes KI-Tool namens Flux 1. Dieses Programm stammt vom deutschen Unternehmen Black Forest Labs, die tatsächlich erst Anfang August 2024 den Markt mit ihrer KI betreten haben. Zuvor hatten sie aber schon eine Finanzierungsrunde von 31 Millionen US-Dollar abgeschlossen.

Im Blog-Beitrag zur Ankündigung von Flux 1 ließ Black Forest Lab verlauten: „Indem wir unsere Modelle einem großen Publikum zur Verfügung stellen, wollen wir die Vorteile zu allen Menschen bringen, die Öffentlichkeit unterrichten und das Vertrauen in diese Modelle verbessern.“ Ob Flux 1 jemals richtige Sicherheitsmaßnahmen hatte, um solche Bildgenerierungen zu verhindern, ist nicht klar. In der Theorie könnte Musk auch darauf bestanden haben, dass diese bei der Anbindung an Grok entfernt werden.

Anzeichen dafür, dass es Sicherheitsmaßnahmen gab, liefert X-Nutzer Marko Kovic. Er fragte die KI, welche Bilder sie erstellen dürfe und welche Richtlinien gelten. Grok antwortete, dass die Bilder familienfreundlich sein sollten und dabei keine echten Personen oder Gewalt zeigen dürfen. Zudem dürfe die KI keine illegalen Aktivitäten als Bild generieren. Im Anschluss an diese Aussagen generierte der X-User mit Grok ein Bild von Adolf Hitler mit den Worten „He did nothing wrong“. Auf die Nachfrage bei Grok, ob sie damit nicht gegen ihre Regeln verstoßen würde, zeigte die KI zunächst einen Fehler und behauptete anschließend, das Bild nie generiert zu haben.