Auf Facebook häufen sich Berichte über Betrüger und Spammer, die mittels KI-generierter Bilder Nutzer in die Irre führen wollen. Ein kurioses Beispiel dafür ist ein Bild, bekannt als „Krabben-Jesus“. Das sorgt neben anderen Variationen wie „Wassermelonen-Jesus“ oder „Spaghetti-Jesus“ für Aufsehen.

Ziel dieser skurrilen Kreationen ist es, die Aufmerksamkeit auf bestimmte Facebook-Seiten zu lenken und so neue Nutzer anzuziehen. Einem Artikel der Stanford University zufolge gelingt es den Betreibern dieser Seiten, mit solchen Inhalten erfolgreich und kosteneffizient neue Follower zu gewinnen.

Die Jesus-Variationen sorgen für sogenannte „WTF-Momente“ und sind nur die Spitze des Eisbergs. Die kuriosen Bilder sind so konzipiert, dass sie Menschen dazu animieren, sie mit anderen zu teilen, was wiederum zu einer größeren Reichweite der jeweiligen Seiten führt.

Neben diesen Bildern gibt es aber auch solche, die alltägliche Objekte wie Haushaltswaren, ganze Häuser oder Kunstwerke darstellen, die angeblich von Kindern geschaffen wurden. Damit wollen Betrüger die nicht existierenden Waren an Facebook-Nutzer verkaufen.

Die täuschend echten Kreationen der KI-Bildgeneratoren machen es für viele Nutzer schwierig, zu erkennen, dass diese Bilder nicht real sind. Viele Kommentare unter solchen Bildern zeigen, dass Menschen diese Bilder für echt halten. Andere Kommentare versuchen, vor der Betrugsmasche zu warnen.

Die Studie legt nahe, dass Facebook die Verbreitung solcher Bilder fördert. Da die Bilder oft viel Engagement generieren, werden sie häufiger in den Feeds der Nutzer angezeigt.

Im Rahmen der Studie wurden 120 Facebook-Seiten analysiert, die mindestens 50 KI-generierte Bilder veröffentlicht haben.

Die Autoren der Studie fordern das Unternehmen auf, klarere Richtlinien und Offenlegungen bezüglich der Verwendung und Kennzeichnung KI-generierter Inhalte zu implementieren. Die Studie ist aktuell auf einem Preprint-Server zugänglich.