
Viele KI-Inhalte werden mit Wasserzeichen geschützt. (Foto: MDV Edwards/Shutterstock)
Bild-KI werden längst nicht mehr nur als lustige Spielereien gesehen, sondern auch im Arbeitsalltag von Künstlern, Designern und Journalisten eingesetzt. Um klar zu kennzeichnen, dass es sich hierbei um nicht reale Aufnahmen handelt, werden Wasserzeichen eingesetzt.
Forscher der University of Maryland (UMD) haben jetzt jedoch herausgefunden, dass KI-Wasserzeichen, die entwickelt wurden, um die Authentizität von generierten Inhalten zu überprüfen, leicht zu umgehen sind. Obwohl diese Wasserzeichen für das menschliche Auge unsichtbar sind, sollen sie den Missbrauch von KI-generierten Inhalten verhindern.
Die Informatikforscher der UMD stellten fest, dass die aktuellen Methoden zur Anwendung von KI-Wasserzeichen Schwächen aufweisen. Soheil Feizi, Professor an der UMD, bestätigte gegenüber Engadget, dass die von seinem Team durchgeführten Tests zeigten, dass es derzeit keine zuverlässigen Wasserzeichenanwendungen gibt. Die Forscher konnten die vorhandenen Methoden mühelos umgehen und sogar gefälschte Embleme zu Bildern hinzufügen, die nicht von KI stammten.
Im Falle von zerstörerischen Angriffen können Kriminelle Wasserzeichen einfach als Teil des Bildes behandeln. Durch Anpassen von Helligkeit, Kontrast, Verwendung von JPEG-Komprimierung oder einfaches Drehen eines Bildes kann ein Wasserzeichen entfernt werden. Es ist jedoch wichtig zu beachten, dass diese Methoden nicht nur das Wasserzeichen beseitigen, sondern auch die Bildqualität beeinträchtigen und sichtbar verschlechtern.
Die Forschung der UMD wirft Fragen zur Effektivität der derzeitigen KI-Wasserzeichen auf und stellt die Zuverlässigkeit dieser Sicherheitsmaßnahme infrage. Unternehmen, die auf KI-Wasserzeichen setzen, um Fehlinformationen zu bekämpfen, könnten möglicherweise anfällig für Umgehungsversuche sein, wie die Forschung zeigt.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team