In der Europäischen Union sollen bestimmte Anwendungsbereiche künstlicher Intelligenz verboten werden. Die Kommission will am 21. April Regeln vorschlagen, um „hochriskante KI-Systeme“ zu kontrollieren und teilweise zu verbieten, wie Politico berichtet. Das Magazin hat einen Entwurf für das Regelwerk veröffentlicht.

Demnach droht Unternehmen, die verbotene KI-Systeme anwenden oder gegen Auflagen verstoßen, eine Geldstrafe von bis zu 20 Millionen Euro oder vier Prozent ihres Umsatzes.

Künstliche Intelligenz ermögliche „neue manipulative, süchtig machende, soziale Kontroll- und wahllose Überwachungspraktiken, die besonders schädlich sind und verboten werden sollten“.

Manipulative Systeme und Massenüberwachung würden den Werten der EU widersprechen und sollten deshalb verboten werden, heißt es in dem Entwurf.

Für öffentliche Behörden, die solche Systeme benutzen, um die öffentliche Sicherheit zu schützen, sollen Ausnahmen gelten.

Als hochriskante KI-Systeme werden Systeme bezeichnet, die die Kreditwürdigkeit von Personen prüfen, bei Bewerbungsprozessen entscheiden, Mitarbeiter bewerten, öffentliche Räume überwachen oder über Asylanträge entscheiden.

Für Unternehmen, die solche Systeme einsetzen, will die Kommission Verfahren zur Selbstbeurteilung vorschreiben. Systeme für biometrische Überwachung und Sicherheitskomponenten in Maschinen sollen von Dritten geprüft werden.

„Es liegt im Interesse der Union, die technologische Führungsrolle der EU zu wahren und sicherzustellen, dass die Europäer von neuen Technologien profitieren, die nach den Werten und Grundsätzen der EU entwickelt wurden und funktionieren“, heißt es in dem Entwurf.

Die EU soll demnach zum Vorreiter bei der Entwicklung sicherer, vertrauenswürdiger und ethischer KI-Systeme werden. Die Kommission bewegt sich mit ihrem Vorschlag also auf dem schmalen Grat zwischen der Förderung von Zukunftstechnologien und der Wahrung europäischer Grundwerte. Es wäre die erste Regulierung von KI dieser Art.