Am 17. April hat das Europaparlament neue Entwürfe für den EU AI Act vorgestellt. Darin enthalten: die Anforderung, dass KI-Tools wie ChatGPT offenlegen müssen, mit welchen Inhalten die KI trainiert worden ist. Das soll vor allem Verlagen, Künstler:innen und Content-Creator:innen zum Vorteil gereichen.

Im neuen Entwurf sollen die Entwickler:innen von KI-Tools offenlegen, welches urheberrechtlich geschützte Material genutzt wurde, um die Systeme zu trainieren.

Nach den neuen Bestimmungen müssen Entwickler:innen generativer KI-Modelle eine „hinreichend detaillierte Zusammenfassung“ der urheberrechtlich geschützten Materialien veröffentlichen, die bei der Entwicklung verwendet worden sind. Denn die generativen KI-Modelle erstellen die neuen Inhalte, nachdem sie Milliarden bestehender Inhalte verwertet haben.

Der Entwurf ist noch nicht endgültig, allerdings spiegelt er eine Einigung unter den Mitgliedsstaaten wider. Noch in diesem Jahr soll eine endgültige Fassung des Gesetzes ausgehandelt und verabschiedet werden.

Eine solche Regelung würde es Künstler:innen, Content-Creator:innen und Verlagen ermöglichen, einen Anteil der Profite zu verlangen, wenn ihre Arbeiten zum Training der künstlichen Intelligenz verwendet worden sind. Denn es ist dann nachvollziehbar, inwiefern ihre Inhalte zur Produktentwicklung beigetragen haben.

Die eigentliche Frage wird allerdings nicht gelöst: Haben KI-Unternehmen das Recht, Content aus dem gesamten Netz zu scrapen, um die Modelle zu trainieren? Mit dem neuen Entwurf will das EU-Parlament zumindest „die Rechenschaftspflicht, Transparenz und Kontrolle der Modelle“ erhöhen, so Dragoș Tudorache, das rumänische Mitglied des Europaparlaments. Er ist Co-Leiter der Arbeit am EU AI Act.

Wie es sich bei generativer KI mit dem Urheberrecht verhält, ist nicht vollständig geklärt – bisher wurden Tools erst veröffentlicht und dann hinterher vor Gericht die Urheberrechtsfrage verhandelt.

Stable Diffusion und Midjourney beispielsweise sahen sich im Januar einer Sammelklage wegen Verletzung des Urheberrechts entgegen. Im selben Monat klagte Getty Images gegen Stable Diffusion.

Im Februar hatte der Bundesverband Digitalpublisher und Zeitungsverleger, kurz BDZV, in einem Statement gefordert: Anbieter wie Google oder Microsoft, die KI in der Suche nutzen, um Nutzer:innen-Fragen zu beantworten, müssen Lizenzgebühren zahlen. Denn diese Antworten seien erst auf Basis von Online-Inhalten Dritter wie Blogger:innen, Content-Creator:innen oder eben Redaktionen möglich.

In weiteren Anpassungen müssen Anbieter von KI-Tools auch dafür sorgen, dass im europäischen Nutzungsraum EU-Recht durchgesetzt wird. Die KI darf also nicht mit Prompts dahin gebracht werden, dass sie kinderpornografische Inhalte produziert oder zum Beispiel den Holocaust leugnet.

Die Entwickler:innen von Basismodellen oder KI, die auf großen Datensätzen trainiert wird, müssen nachweisen, dass sie vorhersehbare Risiken wie für Gesundheit, Sicherheit oder Rechtsstaatlichkeit erkennen und abmildern, so der Entwurf.