Das Generieren und Manipulieren von Bildern, Videos, Audio und Text mit Hilfe künstlicher Intelligenz wird zunehmend besser. Dadurch wird es für Rezipient:innen gleichermaßen schwieriger, die Authentizität eines medialen Inhalts zu erkennen.

Tech-Firmen wie zum Beispiel Adobe arbeiten daher derzeit vermehrt an Lösungen, um KI-Inhalte als solche zu kennzeichnen und unabhängig von der Medienkompetenz der Betrachter:innen schnell identifizierbar zu machen.

Auch Google stellt mit seiner Technologie Synth ID jetzt ein Tool zur Verfügung, das KI-bearbeitete Bilder mit einem Wasserzeichen versieht. Sofort erkennbar sind manipulierte Aufnahmen deshalb aber noch nicht.

Bei Synth ID handelt es sich laut Google um eine Software, die „unmerkliche, digitale Wasserzeichen direkt in KI-generierte Bilder, Audio-Dateien, Texte oder Videos einbettet“. Damit sollen künftig Bilder markiert werden, die mit dem Reimagine-Tool in Googles Magic Editor bearbeitet wurden.

Das System wurde vom Google Deepmind-Team entwickelt, um Metadaten in Medienprodukte einzubetten. Schon jetzt markiert Synth ID komplett von einer KI generierte Bilder, zum Beispiel solche, die mit Googles Text-zu-Bild-Modell Imagen erstellt wurden.

In Zukunft findet sich das KI-Wasserzeichen dann auch auf Bildern, die „nur“ bearbeitet wurden. Mit Googles Reimagine-Funktion, die standardmäßig auf dem Pixel 9 verfügbar ist, lassen sich nämlich nicht nur Fotos verschönern, sondern spielend leicht äußerst überzeugende Deepfakes erstellen. Die Kennzeichnung macht also nicht nur Sinn, sondern wird auch dringend notwendig.

Allerdings funktioniert das Wasserzeichen nicht so zuverlässig, wie man sich das als Medienkonsument:in wünschen würde. Google selbst räumt ein, dass kleinere Änderungen, wie zum Beispiel eine Farbänderung an einer Blume im Hintergrund, von Synth ID eventuell nicht erkannt wird.

Außerdem ist das Wasserzeichen nicht sofort und für alle sichtbar. Um eine KI-Bearbeitung zu erkennen, muss man das „Über dieses Bild“-Tool in Google Lens nutzen

Das ist insofern nachvollziehbar, als dass selbstverständlich niemand einen riesigen Schriftzug über seinem mühsam bearbeiteten Foto haben möchte. Andererseits setzt die Identifikation eines manipulierten Bildes dann schon wieder eine Medienkompetenz und Recherchebereitschaft bei Rezipient:innen voraus, die viele einfach nicht haben.

Bemängeln lässt sich außerdem, dass Google mit Synth ID auf ein anderes System setzt als zum Beispiel Adobe. Um KI-veränderte Medien schnell und von allen identifizierbar zu machen, dürfte ein einheitliches System auf Dauer allerdings unverzichtbar sein.