Als Grund für die Sperre des KI-basierten Chatbots gab Italiens Datenschutzbehörde Verstöße gegen den Daten- und Jugendschutz an. Sie hegt den Verdacht, dass OpenAI, der Mutterkonzern von ChatGPT, gegen die europäische Datenschutz-Grundverordnung (EU-DSGVO) verstößt.

Die DSGVO gilt immer dann, wenn personenbezogene Daten verarbeitet werden, und es dürfte kein Zweifel bestehen, dass KI-Chatbots wie ChatGPT große Mengen des Materials, mit dem sie ihre KI-Modelle trainierten, aus dem öffentlichen Internet bezogen haben.

Nun präsentierte die italienische Behörde ihre Forderungen an OpenAI, bei deren Einhaltung die Sperre aufgehoben würde. OpenAI müsse transparent werden und eine Informationsmitteilung über seine Datenverarbeitung veröffentlichen, heißt es darin.

Zudem müsse sofort eine Altersbeschränkung eingeführt werden, um zu verhindern, dass Minderjährige auf die Technologie zugreifen. Damit einher geht die Forderung nach verlässlicheren Maßnahmen zur Altersüberprüfung.

Weiter habe OpenAI die Rechtsgrundlage zu klären, die es für die Verarbeitung von Personendaten für das Training seiner KI beansprucht – und es müsse Benutzer:innen (und Nichtbenutzer:innen) Möglichkeiten bieten, Rechte an ihren personenbezogenen Daten auszuüben, einschließlich der Aufforderung zur Korrektur von potentiellen Fehlinformationen, die von ChatGPT über sie generiert wurden. Ein australischer Bürgermeister hat OpenAI bereits wegen Verleumdung verklagt.

Italienischen Nutzer:innen soll zudem auch die Möglichkeit gegeben werden, der Verarbeitung ihrer Daten durch OpenAI zum Trainieren seiner Algorithmen zu widersprechen. Ebenfalls eingefordert wird eine Sensibilisierungskampagne, mit der den Italiener:innen klar gemacht werden soll, dass ihre Informationen verarbeitet werden, um die KI zu schulen. Diese sei „über Radio, Fernsehen, Zeitungen und Internet“ durchzuführen.

Gewisse Forderungen müssten bis Ende April erfüllt werden, für andere gab die italienische Datenschutzbehörde OpenAI mehr Zeit, etwa für das Vorlegen einer verlässlichen Altersüberprüfungstechnologie.

Besonderen Wert legt die italienische Behörde auf den Schutz von Kindern unter 13 Jahren, die laut Geschäftsbedingungen ChatGPT nicht nutzen dürften. Allerdings fehlen laut ihr adäquate Filter oder Sperren in diese Richtung. Bei Bedarf, teilte sie mit, werde sie weitere Maßnahmen gegen OpenAI ergreifen.

Italien ist nicht das einzige Land, das wegen ChatGPT Bedenken hat. Mittlerweile haben auch Kanadas Datenschutzbeauftragte eine Untersuchung gegen OpenAI eingeleitet.