Reimagine: Mit Googles neuer Bild-KI kann jeder realistische Fakes erstellen – das ist ein Problem

Die „Reimagine“-Funktion des Pixel 9 lässt mit bestimmten Prompts fragwürdige Inhalte zu. (Foto: t3n)
„Trau keinem Foto im Internet, das du nicht selbst hochgeladen hast.“ Dieses Motto sollte man schon länger beherzigen, doch die Tools zur Fotobearbeitung und -manipulation sind mittlerweile so einfach zu bedienen, dass letztlich jede:r mit wenigen Taps auf dem Smartphonebildschirm verstörende oder irreführende Bilder erzeugen kann. Diese muten mittlerweile so realistisch an, dass sie nur bei genauem Hinsehen von echten unterscheiden zu sind.
Auch mit Googles KI-Tool der Fotos-App der neuen Pixel-9-Smartphones (unser Test) „Reimagine“ lässt sich mit geschickt formulierten Prompts einiges an Schindluder treiben. Wir haben es ausprobiert und waren ein wenig irritiert. Zwar ist Reimagine bei nicht so enthemmt wie Musks Grok-AI, aber vielleicht sollte Google noch einmal nachjustieren.
Reimagine: Neue KI-Funktion des Pixel 9
Mit Reimagine liefert Google neben Apple und Samsung als einer der weiteren Smartphone-Hersteller ein KI-Tool, mit dem ihr in Google-Fotos hochgeladene Bilder auf dem Pixel 9 und 9 Pro (XL) umfangreich bearbeiten könnt. Das KI-Werkzeug kann als eine Weiterentwicklung von Googles magischem Editor verstanden werden.

KI-Manipulation mit Reimagine: Was macht denn die Giraffe dort? (Bild: t3n)
Bislang ließen sich mit dem Editor Objekte in einem Bild umpositionieren, vergrößern oder entfernen. Reimagine treibt das Ganze viel weiter: Denn mit dem Tool können auf einem Bild Objekte oder ein Teilausschnitt ausgewählt und per Texteingabe ein komplett neuer Inhalt erzeugt werden.

KI-Manipulation mit Reimagine: Eine kleine Gasse wird zum Fluss mit Bootsbetrieb. (Bild: t3n)

KI-Manipulation mit Reimagine: Kleiner Hafen statt Haltestelle. (Bild: t3n)
Im Laufe des Tests des Pixel 9 spielte ich etwa damit herum, um aus einer Gasse einen kleinen Fluss mit Booten darauf zu kreieren, oder aus einer langweiligen Treppe eine rote Rutsche zu zaubern. Auch eine realistisch anmutende Giraffe konnte ich am Bremer Osterdeich erscheinen lassen.
Pixel-9-Funktion lässt uns Unfälle oder andere fragwürdige Inhalte erzeugen
Doch das Tool ist zu mehr in der Lage, wie Allison Johnson von The Verge beobachtete. Das musste ich auch ausprobieren – und: Mit direkten Prompts, die bestimmte Szenen darstellen sollten, ist es mit Reimagine immerhin nicht möglich, entsprechende Szenen nachzustellen. Jedoch mussten für ein erstelltes Bild lediglich ein paar relativ harmlose Textbausteine eingegeben werden, um eine recht düstere Szene erzeugen.

KI-Manipulation mit Reimagine: Ein tragischer Unfall zwischen Auto und Fahrrad ist auch schnell erzeugt. In der schnelllebigen Social-Media-Welt dürfte so etwas nicht selten als echt durchgehen. (Bild: t3n)
Beim Herum testen zeigte sich, dass Googles Reimagine schon enge Grenzen gesetzt werden, sodass weder Menschen noch Waffen oder ähnliches explizit per Prompt eingesetzt werden können. Warum Google indes bei Panzern, zerstörten Autos oder Fahrrädern nicht die Grenze zieht, ist hinterfragbar. Erlaubt ist das Erstellen solcher Szenen nach Googles Nutzungsrichtlinien explizit nicht, allerdings ist fraglich, wer sich das durchliest.

KI-Manipulation mit Reimagine: Mit wenigen Prompts stehen plötzlich Panzer vor dem brennenden Weserstadion. (Bild. t3n)
Problematisch ist zudem, dass es Nutzer:innen-seitig keine offensichtlichen Hinweise darauf gibt, dass es KI-erzeugt ist. Es gibt weder ein Wasserzeichen noch eine andere offensichtliche Möglichkeit, zu erkennen, dass das Bild KI-generiert ist. Lediglich in den Metadaten erscheint ein unscheinbarer Hinweis. Jedoch lassen sich Standardmetadaten einfach entfernen. Ein Wasserzeichen, wie Samsung es bei Galaxy-AI-Bildern nutzt, lässt sich ebenso einfach ausschneiden.
Bildmanipulation für jeden so leicht wie nie
Am Beispiel von Reimagine zeigt sich, dass mittlerweile jede:r das Werkzeug für umfangreiche Bildmanipulaionen einfach im Laden kaufen kann und keine Photoshop-Fähigkeiten besitzen muss. Ein Tap und schon ist das Unheil angerichtet. Es zeigt sich, dass Google die Leitplanken zur Nutzung noch weiter einschränken sollte.
Auf der anderen Seite bietet das KI-Tool eine Fülle von Möglichkeiten, harmlose Bilder zu erzeugen, um etwa Hintergründe zu verschönern oder andere Aspekte des Bildes zu ändern.