Micky Maus auf einer Toilette, Karl Marx mit Brüsten, der Papst mit einem Maschinengewehr oder der kanadische Premierminister Justin Trudeau, der seinen nackten Hintern präsentiert: All das sind Sticker in Facebooks Messenger, kreiert von einer KI nach Benutzer:inneneingaben.

So hatte Metas Mark Zuckerberg sich das vermutlich nicht vorgestellt, als er am 27. September 2023 auf dem hauseigenen Event Meta Connect verkündete, den Facebook Messenger mit KI-generierten Stickern aufmotzen zu wollen.

Pier-Oliver Desbiens, auf Twitter (beziehungsweise X) unter dem Nickname Pioldes unterwegs, gehört zu den Nutzer:innen, die das neue Feature bereits testen dürfen. Und es dauerte nicht lange, bis er bemerkte, dass die Filter nur sehr eingeschränkt funktionieren.

So konnte Desbiens ohne Probleme Prompts wie „mickey mouse toilet“, „waluigi rifle“ oder „karl marx large breasts“ eingeben und in Sticker verwandeln lassen.

Zwar scheinen einige Begriffe – darunter zum Beispiel „Penis“ – tatsächlich gesperrt zu sein, wer sie jedoch mit einem eingebauten Rechtschreibfehler eingibt, bekommt dann doch den gewünschten Sticker erstellt.

Und bei einigen Begriffen ist es noch nicht einmal nötig, problematische Prompts einzugeben – der Output ist ganz von allein fragwürdig.

„Ich glaube nicht, dass irgendjemand hier irgendwas zu Ende gedacht hat“, lautet demnach auch Desbiens Einschätzung.

So fragwürdig sie auch sein mögen – solche Ergebnisse gehören zu den „Kinderkrankheiten“ generativer KI. Es gab sie bei Dall-E genauso wie bei ChatGPT oder Midjourney.

Höchstwahrscheinlich sind genau solche Sticker, wie Pier-Oliver Desbiens sie hat kreieren lassen, auch der Grund, warum Meta das Feature nicht gleich für alle Nutzer:innen ausgerollt hat, sondern es zunächst in einem kleineren Kreis testet.