Seit Monaten hat das Europaparlament über den Entwürfen für den AI Act gebrütet, jetzt scheint ein Ende der Verhandlungen in Sicht. Zahlreiche Unternehmen wären von den neuen Regelungen betroffen – darunter auch die Macher von ChatGPT.
Hochrisiko-Einstufung: Diese Regeln könnte der AI Act bringen
Der AI Act der europäischen Union soll dafür sorgen, dass das Potenzial von KI-Anwendungen ausgeschöpft wird, ohne dass gesellschaftlicher Schaden entsteht. Wie das am Besten gelingen kann, wurde in der letzten Zeit ausführlich diskutiert, immer wieder wurde der Gesetzesentwurf verschärft, umformuliert und kritisiert.
Das Grundprinzip soll wie folgt aussehen: KI-Systeme werden in verschiedene Risiko-Kategorien unterteilt und unterliegen je nach Einstufung unterschiedlich strengen Vorschriften. Dabei liegt es an den Betreibern, sich um die Risikoabschätzung zu kümmern, das Ergebnis in eine Datenbank einzutragen und die entsprechenden Auflagen einzuhalten.
Besonders strenge Regeln gelten für Anwendungen, die als hoch riskant eingestuft werden. Die Betreiber müssen eine Risikoabschätzung durch Dritte einholen, es braucht menschliche Kontrollinstanzen und Mindeststandards für die Sicherheit, Transparenz und Datenqualität. Außerdem ist eine kontinuierliche Risiko-Überwachung und -Bewertung Pflicht. Und genau diese Auflagen könnten künftig auch für textgenerierende Anwendung wie OpenAIs ChatGPT gelten.
ChatGPT, Bard und Co. gelten als hoch riskant
Ein Blick in die Entwürfe zeigt nämlich: Erstellt eine KI-Anwendung Texte, von denen man fälschlicherweise annehmen könnte, dass sie von einem Menschen geschrieben wurden, fällt sie laut EU in die Hochrisiko-Kategorie. Ausnahmen gelten für Texte, die von Menschen überprüft werden und für die eine Person oder Organisation rechtlich verantwortlich ist – das ist bei ChatGPT, Jasper.Ai und vielen weiteren aber nicht der Fall.
Auch KI-Anwendungen, die Video- oder Ton-Inhalte generieren, in denen Personen etwas tun oder sagen, werden als hoch riskant eingestuft. Dazu zählt beispielsweise Microsofts Vall-E und der Stimmgenerator Murf.Ai. Eine Ausnahmeregelung soll es hier für Kunstdarstellungen geben.
Insgesamt ist die Liste der Hochrisiko-Anwendungen noch deutlich länger, von Systemen zur biometrischen Identifizierung über Kategorisierung bis hin zu Modellen, die beispielsweise Strom, Heizung oder Internet regulieren.
Tritt der AI Act in Kraft, kommt auf die Betreiber ein deutlicher Mehraufwand zu – es sei denn, sie entscheiden sich, ihr Produkt gänzlich vom europäischen Markt zu nehmen.
Dann wird ChatGPT entweder so dermaßen beschnitten, dass es nicht mehr nutzbar ist, oder es wird tatsächlich für die EU gesperrt. Das wäre echt schade. Aber wer weiß, wann das umgesetzt wird. Aber mal ehrlich, was wurde aus diesen Artikel 13 EU-Urheberrechtsreform, vor dem alle YouTuber so große Angst hatten? Hat man auch irgendwie nichts mehr von gehört.