„Trau keinem Foto im Internet, das du nicht selbst hochgeladen hast.“ Dieses Motto sollte man schon länger beherzigen, doch die Tools zur Fotobearbeitung und -manipulation sind mittlerweile so einfach zu bedienen, dass letztlich jede:r mit wenigen Taps auf dem Smartphonebildschirm verstörende oder irreführende Bilder erzeugen kann. Diese muten mittlerweile so realistisch an, dass sie nur bei genauem Hinsehen von echten unterscheiden zu sind.

Auch mit Googles KI-Tool der Fotos-App der neuen Pixel-9-Smartphones (unser Test) „Reimagine“ lässt sich mit geschickt formulierten Prompts einiges an Schindluder treiben. Wir haben es ausprobiert und waren ein wenig irritiert. Zwar ist Reimagine bei nicht so enthemmt wie Musks Grok-AI, aber vielleicht sollte Google noch einmal nachjustieren.

Mit Reimagine liefert Google neben Apple und Samsung als einer der weiteren Smartphone-Hersteller ein KI-Tool, mit dem ihr in Google-Fotos hochgeladene Bilder auf dem Pixel 9 und 9 Pro (XL) umfangreich bearbeiten könnt. Das KI-Werkzeug kann als eine Weiterentwicklung von Googles magischem Editor verstanden werden.

Bislang ließen sich mit dem Editor Objekte in einem Bild umpositionieren, vergrößern oder entfernen. Reimagine treibt das Ganze viel weiter: Denn mit dem Tool können auf einem Bild Objekte oder ein Teilausschnitt ausgewählt und per Texteingabe ein komplett neuer Inhalt erzeugt werden.

Im Laufe des Tests des Pixel 9 spielte ich etwa damit herum, um aus einer Gasse einen kleinen Fluss mit Booten darauf zu kreieren, oder aus einer langweiligen Treppe eine rote Rutsche zu zaubern. Auch eine realistisch anmutende Giraffe konnte ich am Bremer Osterdeich erscheinen lassen.

Doch das Tool ist zu mehr in der Lage, wie Allison Johnson von The Verge beobachtete. Das musste ich auch ausprobieren – und: Mit direkten Prompts, die bestimmte Szenen darstellen sollten, ist es mit Reimagine immerhin nicht möglich, entsprechende Szenen nachzustellen. Jedoch mussten für ein erstelltes Bild lediglich ein paar relativ harmlose Textbausteine eingegeben werden, um eine recht düstere Szene erzeugen.

Beim Herum testen zeigte sich, dass Googles Reimagine schon enge Grenzen gesetzt werden, sodass weder Menschen noch Waffen oder ähnliches explizit per Prompt eingesetzt werden können. Warum Google indes bei Panzern, zerstörten Autos oder Fahrrädern nicht die Grenze zieht, ist hinterfragbar. Erlaubt ist das Erstellen solcher Szenen nach Googles Nutzungsrichtlinien explizit nicht, allerdings ist fraglich, wer sich das durchliest.

Problematisch ist zudem, dass es Nutzer:innen-seitig keine offensichtlichen Hinweise darauf gibt, dass es KI-erzeugt ist. Es gibt weder ein Wasserzeichen noch eine andere offensichtliche Möglichkeit, zu erkennen, dass das Bild KI-generiert ist. Lediglich in den Metadaten erscheint ein unscheinbarer Hinweis. Jedoch lassen sich Standardmetadaten einfach entfernen. Ein Wasserzeichen, wie Samsung es bei Galaxy-AI-Bildern nutzt, lässt sich ebenso einfach ausschneiden.

Am Beispiel von Reimagine zeigt sich, dass mittlerweile jede:r das Werkzeug für umfangreiche Bildmanipulaionen einfach im Laden kaufen kann und keine Photoshop-Fähigkeiten besitzen muss. Ein Tap und schon ist das Unheil angerichtet. Es zeigt sich, dass Google die Leitplanken zur Nutzung noch weiter einschränken sollte.

Auf der anderen Seite bietet das KI-Tool eine Fülle von Möglichkeiten, harmlose Bilder zu erzeugen, um etwa Hintergründe zu verschönern oder andere Aspekte des Bildes zu ändern.