Mit diesem Google-Tool könnt ihr prüfen, ob Inhalte per KI erstellt wurden
Das Google-Tool schaut ganz genau hin, ob es sich um KI-generierte Inhalte handelt. (Bild: Shutterstock/Melnikov Dmitriy)
KI-generierte Inhalte zu erkennen, ist in einigen Fällen nicht so einfach. Deshalb haben einige Unternehmen wie Google Wasserzeichen-Tools für ihre Chatbots erstellt. Diese Tools verstecken für die User:innen unsichtbare Identifikatoren in Bildern, Videos und Texten. Später lässt sich so nachweisen, dass die Inhalte mit einer KI generiert wurden. Um das Identifizieren solcher Inhalte leichter zu machen, hat Google jetzt ein neues Tool entwickelt.
SynthID Detector: So erkennt das Tool KI-generierte Inhalte
Der sogenannte SynthID Detector basiert dabei auf dem Wasserzeichen-Tool von Google, SynthID. Dementsprechend ist es auch nur möglich, damit Inhalte zu erkennen, die mit Googles diversen KI-Programmen erstellt wurden. Wenn jemand ein KI-generiertes Bild von ChatGPT in den SynthID Detector hochlädt, dürfte die Erkennung fehlschlagen.
Ladet ihr aber einen Text, ein Video, ein Bild oder sogar Audiodateien in den SynthID Detector hoch, die mit Googles KI erstellt wurden, sollte das Programm einen Warnhinweis abliefern. Google zeigt das in der Ankündigung an dem Beispiel eines Bildes. Darauf ist ein Kamel in einer verschneiten Berglandschaft zu sehen. Das Bild wurde zunächst mit Googles KI-Tools erstellt. Es handelt sich um ein echtes Foto einer Berglandschaft, in dessen Bildmitte die KI ein Kamel gesetzt hat.
Das Google-Tool scannt die Datei und stellt fest, dass sich in der Mitte des Bildes mehrere SynthID-Wasserzeichen befinden. Zudem zeigt das Tool an, dass sich in vielen anderen Bereichen des Bildes keine Wasserzeichen finden lassen. Das bedeutet also für User:innen, dass das Kamel KI-generiert ist, aber der Rest des Bildes wohl nicht mit Gemini oder einem anderen Google-Programm erstellt wurde. SynthID Detector geht auch bei anderen Inhalten wie Texten, Videos und Audio so vor. Bei Audiodateien werden so etwa einzelne Segmente hervorgehoben, die mit KI bearbeitet wurden.
Zunächst stellt Google SynthID Detector einigen ausgewählten Tester:innen zur Verfügung. Journalist:innen, Medienschaffende und Forscher:innen können sich auf eine Warteliste eintragen, um Zugriff auf das Tool zu bekommen. Ob und wann Google SynthID Detector für alle User:innen ausgerollt wird, ist nicht bekannt.
