KI-Tool Midjourney sperrt Nutzer, weil er Bilder von fremdgehenden Politikern generierte
Midjourney kann auch Bilder, die es gar nicht generieren will. (Bild: Shutterstock/Zhuravlev Andrey)
Es sollte der Beweis sein, dass man Bildern generell nicht mehr trauen kann. Der Twitter-Nutzer Justin Brown wollte zeigen, wie leicht es ist, gefälschte Bilder von Politikern, die ihre Ehepartner betrügen, zu erstellen. Und tatsächlich ist es ihm gelungen, einige sehr glaubwürdige Bilder zu erhalten. Das gefiel den Machern hinter dem verwendeten Tool Midjourney AI indes so gar nicht.
Fremdgehende Politiker begeistern Midjourneys Macher nicht
„Ich wurde von Midjourney AI verbannt, weil ich realistische Bilder von Politikern, die ihre Frauen betrügen, für eine Serie mit dem Titel ‚AI wird die Erpressungsindustrie revolutionieren‘ erstellt habe“, schrieb Brown in einem Twitter-Thread. Dort zeigte er die Bilder und wies darauf hin, dass „wenn sie mit Intelligenz und Absicht eingesetzt wird, AI eine Waffe sein kann“.
Zu den per AI fingiert fremdgehenden Politikern gehören unter anderem der aktuelle Präsident Joe Biden, der ehemalige Präsident Donald Trump, der ehemalige Gouverneur von New Jersey, Chris Christie, und der Gouverneur von Florida, Ron DeSantis.
„Nachdem die Serie auf Reddit einige Aufmerksamkeit erregt hatte, wurde sie von den Moderatoren entfernt und Midjourney wurde fast sofort gesperrt“, erzählt Brown gegenüber PetaPixel. „Ich bin in der Vergangenheit schon mit Sperren konfrontiert worden – wegen unanständiger Wörter oder kontroverser Figuren – aber ich habe nie eine Sperre erhalten.“
Reddit-Post führt zu unverzüglicher Sperre
Zu vermuten steht, dass die Sperre direkt einhergeht mit dem Umstand, dass Brown die Serie auf Reddit gepostet hatte. „Mir wurde von Midjourney kein direkter Grund für die Sperre genannt“, erklärt er, „aber der Zeitpunkt der Reddit-Veröffentlichung und die Sperre korrelieren direkt miteinander.“
Das wäre durchaus verständlich und sogar zu begrüßen, denn Brown gibt zu, dass er bereits gesehen hat, wie einige seiner Bilder missbraucht worden waren. „Ich habe die Bilder [in der Fotoserie] nie als echt dargestellt“, so Brown gegenüber PetaPixel. „Aber ich weiß, dass einige dieser Bilder von anderen aus dem Zusammenhang gerissen und weitergegeben wurden, daher würde es mich nicht überraschen, wenn es Leute gibt, die glauben, dass sie echt sind.“
