Um dem enormen Risiko durch Deepfakes entgegenzutreten, hat China jetzt ein Gesetz erlassen. (Bild: dpa)
Chinas staatliche Internetbehörde CAC hat Regeln für Deepfakes erlassen. Sie verbieten etwa den Einsatz der Technologie, wenn die abgebildeten Personen damit nicht einverstanden sind.
Zusätzlich dürfen Deepfakes nicht dafür eingesetzt werden, Dinge oder Äußerungen darzustellen, die gegen die nationalen Interessen verstoßen könnten. The Register betont, darunter sei jede Form von illegalen und schädlichen Informationen oder der Einsatz von KI-generierten Figuren zusammengefasst, um zu täuschen und zu verleumden.
Fälschungen müssen als Kreationen gekennzeichnet sein
Die CAC hat sich speziell auf den Einsatz von synthetischen Abbildern von Menschen konzentriert. So erlaubt die Behörde zwar das Verwenden, etwa als Chatbot, aber er muss als digitale Kreation gekennzeichnet sein. Sie stellt Versuche, diese Kennzeichnung zu löschen, zu manipulieren oder zu verbergen, unter Strafe.
Zudem gelten für Deepfakes auch alle anderen Regeln, die China zur Regulierung des örtlichen Internetverkehrs aufgestellt hat. Das US-Medium kramt dazu das Winnie-Puh-Verbot aus, das vor Jahren erlassen worden ist. Dabei geht es um Karikaturen, die den Präsidenten Xi Jinping als dümmlichen Comic-Bär zeigen. Sie sind in China verboten – und das nun auch als Deepfake.
Deepfake-Kreative müssen sich zu erkennen geben
Weitere Vorschriften belegen die Deepfake-Dienstleister mit Pflichten. Sie müssen dafür sorgen, dass ihre KI- und ML-Modelle sowie Algorithmen genau sind und sie regelmäßig überprüfen. Zudem gelten für die erzeugten Daten erhöhte Sicherheitsrichtlinien.
Alle Nutzer:innen von Deepfake-Dienstleistungen verpflichten die neuen Regeln zur Registrierung – und zwar unter ihrem echten Namen. Zudem setzten sie „solide Mechanismen“ gegen Desinformation und Systeme für Beschwerden und Meldungen voraus. Den Verteilplattformen fällt dabei die Verantwortung für die Sicherheit zu. Das CAC bietet auf der einen Seite dabei Hilfe an, verweist andererseits aber auch auf Maßnahmen, die die Behörde ergreifen kann.
Deepfakes dürfen nicht das Cyberspace-Ökosystem stören
Die Regeln für den Einsatz der neuen Technologie sollen sicherstellen, dass Nachteile vermieden werden. Peking erhofft sich auf der anderen Seite Vorteile für das Land. Deepfakes, so die Regierung, sollen die „gesunde Entwicklung von Internet-Informationsdiensten fördern und das positive Ökosystem des Cyberspace aufrechterhalten“. Am 10. Januar 2023 treten die neuen Richtlinien in Kraft.
