Das geplante europäische KI-Gesetz geht Datenschützern nicht weit genug. Die Europäische Datenschutzbehörde EDPB und der Europäische Datenschutzbeauftragte haben ein gemeinsames Statement zu den Plänen der Europäischen Kommission veröffentlicht. Sie loben, dass die Anwendung von KI reguliert werden soll, aber fordern für bestimmte Bereiche strengere Regeln.

Der Entwurf der Europäischen Kommission sieht ein Stufenmodell zur Einschätzung des Risikos von KI-Systemen vor. Unter anderem biometrische Überwachung mithilfe von KI sowie Social-Scoring-Systeme sollen als hochriskant eingestuft werden.

Die Datenschutzbehörden fordern ein generelles Verbot von KI zur automatisierten Erkennung menschlicher Merkmale im öffentlichen Raum. Solche Systeme würden „das Ende der Anonymität an diesen Orten“ bedeuten und Grundrechte einschränken.

Beim Thema Social Scoring sehen die Behörden nur eine medizinische Anwendung als gerechtfertigt an. Ansonsten fordern sie auch für diesen Bereich ein Verbot. Intelligente Systeme, die bei Menschen bestimmte Emotionen hervorrufen sollen, würden demnach gegen Grundwerte der EU verstoßen und könnten zu Diskriminierung führen.

Auch Systeme, die Menschen mithilfe biometrischer Daten bestimmten Gruppen zuordnen, sollten demnach verboten werden.

Den Behörden fehlt ein klares Statement, dass die Datenschutzbestimmungen auch für die Verarbeitung von Daten durch KI gelten. Sie fordern, dass die Einhaltung der Vorschriften zur Bedingung für den Markteintritt in der EU wird.

Die EDPB und der Datenschutzbeauftragte fordern außerdem, dass Konzepte für die internationale Zusammenarbeit bei der Strafverfolgung hinzugefügt werden.
Der Entwurf der Kommission wird als nächstes im Europäischen Ministerrat und dem Parlament diskutiert. Es ist also noch Raum für Änderungen und mögliche Verschärfungen.