Anzeige
Anzeige
Analyse

Tiktok führt KI-Erkennung ein – warum das eine große Sache ist

Tiktok kennzeichnet bald KI-Inhalte. Auf den ersten Blick nicht aufregend, doch dahinter verbirgt sich eine Initiative mit mehr als 200 Firmen. Eines ihrer Ziele: wieder mehr Vertrauen für Medien im Netz schaffen.

4 Min.
Artikel merken
Anzeige
Anzeige
(Bild: Montage t3n / Smart Mockups)

Spätestens mit der Erfindung von Software zur Bildbearbeitung haben Fotos als Beweismittel oder Quelle an Wert eingebüßt – zumindest dann, wenn sie nicht genau geprüft und auf ihre Plausibilität untersucht werden. Zu einfach kann man Fotos in unserer digitalen Welt manipulieren, Dinge herausretuschieren oder neue Inhalte einfügen. Mit der Verbreitung generativer Bild-KI können inzwischen selbst Laien in Sekunden komplett frei erfundene Bilder, teilweise sogar fotorealistisch, erstellen.

Anzeige
Anzeige

Man denke nur an den Papst in einem weißen Designermantel oder Fotos der angeblichen Verhaftung von Donald Trump zurück. Bei genauem Hinsehen (Hände!) sind sie oft noch als KI-Schöpfung zu erkennen, bei der aktuellen Geschwindigkeit der technischen Entwicklung in wenigen Monaten aber wahrscheinlich schon nicht mehr zu entlarven. Und auch bei Videoinhalten werden die KI-Modelle immer besser.

Kann man Fotos und Videos also nie wieder trauen? Sind Medien in Artikeln oder in sozialen Netzwerken künftig höchstens schmückendes Beiwerk? Es gibt Initiativen, die genau das verhindern wollen. Eine der größten ist die 2019 gegründete Content Authenticity Initiative (CAI). Hinter dem sperrigen Namen stecken Initiatoren wie Adobe, die New York Times und – heute kaum noch vorstellbar – Twitter.

Anzeige
Anzeige

Seit 2021 gibt es zudem die Coalition for Content Provenance and Authenticity (C2PA), der zusätzlich noch ARM, die BBC, Intel und Microsoft angehören. Inzwischen ist die Liste der teilnehmenden Firmen auf mehr als 200 angewachsen und beinhaltet bekannte Namen wie Airbus, AI Labs, Canon, dpa, Funke Mediengruppe, France Télévisions, Leica, Nikon, Nvidia, Qualcomm, Reuters, Shutterstock oder Samsung. Twitter, das heute X heißt, ist auf der Liste übrigens nicht mehr zu finden – dafür nun aber Tiktok.

Die Kette des Vertrauens

Doch woran arbeitet die Initiative jetzt und wie genau will sie Fotos und andere Dateien gegen Manipulation schützen? Indem die C2PA einen neuen Open-Source-Industriestandard für Metadaten festlegt und die CAI sich für die Verbreitung des Standards einsetzt.

Anzeige
Anzeige

Nun sind Metadaten zum Beispiel bei Bildern alles andere als eine neue Erfindung. Sie beinhalten häufig den verwendeten Kamera-Typ, Aufnahmedatum und Ort oder Informationen dazu, welches Objektiv genutzt wurde. Diese Angaben sind mit dem Foto gespeichert und können von Programmen abgerufen werden. Allerdings sind sie auch leicht zu ändern, nicht gegen Manipulation geschützt und somit in der Regel auch kein Beweis für die Echtheit eines Fotos.

Genau hier setzen die neuen C2PA-Metadaten an. Die speichern zwar auch ab, mit welcher Kamera ein Bild geschossen wurde, von wem, wann und wo, protokollieren allerdings auch alle Bearbeitungsschritte, die ein Foto durchläuft – also ob es zum Beispiel zugeschnitten wurde. Und damit die C2PA-Metadaten vertrauenswürdig sind, werden sie kryptografisch mit Signaturen und Hashcodes gegen Manipulation abgesichert. Ziel ist es, eine Kette des Vertrauens von der Erstellung der Datei bis zu den Konsument:innen zu schaffen.

Anzeige
Anzeige

Damit aus einem neuen Industriestandard auch ein echter Mehrwert entsteht, müssen Technologieunternehmen, Medienhäuser und soziale Netzwerke zusammenarbeiten. Kamerahersteller wie Leica entwickeln Modelle, die die C2PA-Daten unterstützen. Softwarehersteller wie Adobe integrieren den Standard in ihre Programme, um zum Beispiel eine Nachbearbeitung mit Photoshop in den Metadaten anzugeben, und Medienhäuser und soziale Netzwerke passen ihre Webauftritte so an, dass Endnutzer:innen auf Wunsch alle C2PA-Metadaten angezeigt bekommen, um die Echtheit eines Fotos selbst verifizieren zu können.

In einem Artikel der New York Times ist dann zum Beispiel auf Fotos ein kleines Logo mit den Buchstaben „cr“ zu sehen, was für Content-Credentials, also Inhaltsnachweis, steht. Wird es angeklickt, öffnet sich ein Fenster mit weiteren Informationen: zum Beispiel dem Namen der Fotoagentur oder der Fotograf:in, welche Bearbeitungsschritte mit welchem Programm durchgeführt wurden, ob und wie KI zum Einsatz kam und wann das Foto von der New York Times veröffentlicht wurde.

Hinter dem kleinen „cr“ in der Bildecke verstecken sich verschiedene Metadaten. (Bild: Content Credentials)

Ganz ähnlich sieht die Darstellung in sozialen Netzwerken und somit auch bei Tiktok aus. Auch hier sind die Informationen hinter dem kleinen Logo versteckt und auf einen Klick abrufbar. Wahlweise kann das Foto oder Video mit einem Webtool der CAI eigenständig und unabhängig geprüft werden, um noch sicherer zu gehen, dass die Angaben bei Medien oder in sozialen Netzwerken wirklich stimmen.

Anzeige
Anzeige

Wie weit ist der Standard?

Auch wenn die Initiative schon 2019 gegründet wurde, steht die Einführung des Standards immer noch am Anfang. Version 1.0 der technischen Spezifikationen wurde Anfang 2022 veröffentlicht. Aufseiten der Hardwarehersteller gibt es bereits zwei Geräte, bei denen die Spezifikationen der C2PA eingesetzt werden. Mit der M11-P hat Leica im Oktober 2023 die erste Content-Authenticity-Kamera vorgestellt. Dabei handelt es sich um ein Modell, das sich mit knapp 9.000 Euro ganz klar an professionelle Fotograf:innen richtet.

Der Chiphersteller Qualcomm wiederum hat mit dem Snapdragon 8 Gen 3 bereits einen Prozessor für Android-Smartphones im Angebot – damit können die Kameras ebenfalls Fotos im C2PA-Standard schießen. Die Zielgruppe hier ist deutlich breiter. Und auch OpenAI, die Firma hinter ChatGPT, bindet inzwischen C2PA-Metadaten in Bilder ein, die mit der generativen Bild-KI Dall-E 3 erstellt werden.

Aufseiten der Medienhäuser und Softwareanbieter ist die Implementierung von Content-Credentials noch nicht so weit verbreitet. Biobiochile aus Chile ist bisher das einzige Medienhaus, das im Livebetrieb darauf setzt. Auch Adobe, eines der Gründungsmitglieder, bietet den sogenannten Inhaltsurhebernachweis bisher nur als Beta-Funktion in Photoshop an.

Anzeige
Anzeige

Und bei den sozialen Netzwerken? Mit dem Ausstieg von Twitter, lange dem einzigen soziale Netzwerk bei der C2PA, schien die Initiative ins Stocken zu geraten – bis jetzt. Daher ist der Schritt von Tiktok, nun auf Content-Credentials zu setzen, auch so wichtig. Gerade in sozialen Netzwerken ist die Einführung eines vertrauensvollen Standards für Fotos und Videos elementar, um Fake News und gezielte Desinformationskampagnen zu erschweren. Die Chance, dass uns das kleine cr-Logo auf Fotos, Videos oder Dokumenten in Zukunft immer häufiger im Internet begegnet, wächst.

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Kommentare

Community-Richtlinien

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Kommentar abgeben

Melde dich an, um Kommentare schreiben und mit anderen Leser:innen und unseren Autor:innen diskutieren zu können.

Anmelden und kommentieren

Du hast noch keinen t3n-Account? Hier registrieren

Anzeige
Anzeige