Nur in Ausnahmefällen soll biometrische Überwachung erlaubt sein. (Foto: Andrey Mihaylov / shutterstock)
Die EU wird weltweit erstmalig einen Rechtsrahmen für künstliche Intelligenz erarbeiten. Die Europäische Kommission hat dazu einen Vorschlag gemacht. Je nach Gefahrenpotenzial sollen KI-Anwendungen in Kategorien eingeteilt und reguliert werden.
Das sieht das Gesetz vor
Als Hochrisikoanwendungen gelten Systeme, die Bewerbungen bewerten oder Kreditwürdigkeit berechnen. Dafür sollen bestimmte Regeln gelten. Für Massenüberwachung oder Manipulation, wie beispielsweise beim Social Scoring, soll der Einsatz von KI gänzlich verboten werden.
Das gilt auch für Gesichtserkennung zur Strafverfolgung im öffentlichen Raum. Der Vorschlag hierzu sorgte für Kritik vom Europäischen Datenschutzbeauftragten, Bürgerrechtsorganisationen und Mitgliedern des Europäischen Parlaments.
Denn es sind Ausnahmen vorgesehen, wenn der Einsatz der Technologie zur Vermeidung anderer Gefahr dringend nötig ist. Die Kommission nennt die Suche nach einem vermissten Kind oder das Verhindern eines Terroranschlages als Beispiel. In solchen Fällen könnte ein Gericht eine zeitlich und örtlich begrenzte Erlaubnis erteilen.
Datenschutzbeauftragter fordert strengere Regeln
Die Europäische Datenschutzbehörde hatte zuvor ein Moratorium für den Einsatz biometrischer Erkennungssysteme gefordert. Auch für Überwachungssysteme, die sich nicht auf Gesichtserkennung, sondern Gangart, Fingerabdrücke, DNA, Stimme oder Tastenanschläge beziehen, fordert die Behörde strengere Regeln.
„Ein strengerer Ansatz ist notwendig, da die biometrische Fernidentifizierung, bei der die KI zu noch nie da gewesenen Entwicklungen beitragen kann, extrem hohe Risiken für ein tiefes und undemokratisches Eindringen in das Privatleben des Einzelnen birgt“, begründet die Datenschutzbehörde ihre Bedenken. Sie wird den Vorschlag der Kommission eingehend prüfen und Änderungsvorschläge erarbeiten.
Kritik auch aus Politik und Gesellschaft
Auch die europäische Bürgerrechtsorganisation EDRi hatte die Ausnahmen kritisiert. Das Verbot gehe außerdem nicht weit genug, weil es sich nur auf Strafverfolgung beziehe.
Mitglieder des Europäischen Parlamentes äußerten sich ebenfalls kritisch. FDP-Politikerin und Vizepräsidentin des Parlaments Nicola Beer vermisst „ein klares Verbot von Gesichtserkennung im öffentlichen Raum“.
Patrick Beyer, Parlamentsmitglied für die Piratenpartei, sagte gegenüber der Tagesschau, dass die geplanten Ausnahmen biometrische Massenüberwachung sogar dort ermöglichen könnten, wo sie bisher rechtswidrig sei.
Das Europäische Parlament und die Mitgliedstaaten beraten in den kommenden Monaten über den Vorschlag der Kommission.
