Automatisierte Gesichtserkennung könnte in der EU strenger reguliert werden. (Foto: Pixinoo/Shutterstock)
In der Europäischen Union sollen bestimmte Anwendungsbereiche künstlicher Intelligenz verboten werden. Die Kommission will am 21. April Regeln vorschlagen, um „hochriskante KI-Systeme“ zu kontrollieren und teilweise zu verbieten, wie Politico berichtet. Das Magazin hat einen Entwurf für das Regelwerk veröffentlicht.
Demnach droht Unternehmen, die verbotene KI-Systeme anwenden oder gegen Auflagen verstoßen, eine Geldstrafe von bis zu 20 Millionen Euro oder vier Prozent ihres Umsatzes.
Verbot für Manipulation und Massenüberwachung
Künstliche Intelligenz ermögliche „neue manipulative, süchtig machende, soziale Kontroll- und wahllose Überwachungspraktiken, die besonders schädlich sind und verboten werden sollten“.
Manipulative Systeme und Massenüberwachung würden den Werten der EU widersprechen und sollten deshalb verboten werden, heißt es in dem Entwurf.
Für öffentliche Behörden, die solche Systeme benutzen, um die öffentliche Sicherheit zu schützen, sollen Ausnahmen gelten.
Auflagen für Hochrisiko-Anwendungen
Als hochriskante KI-Systeme werden Systeme bezeichnet, die die Kreditwürdigkeit von Personen prüfen, bei Bewerbungsprozessen entscheiden, Mitarbeiter bewerten, öffentliche Räume überwachen oder über Asylanträge entscheiden.
Für Unternehmen, die solche Systeme einsetzen, will die Kommission Verfahren zur Selbstbeurteilung vorschreiben. Systeme für biometrische Überwachung und Sicherheitskomponenten in Maschinen sollen von Dritten geprüft werden.
Technologie nach den europäischen Werten der EU
„Es liegt im Interesse der Union, die technologische Führungsrolle der EU zu wahren und sicherzustellen, dass die Europäer von neuen Technologien profitieren, die nach den Werten und Grundsätzen der EU entwickelt wurden und funktionieren“, heißt es in dem Entwurf.
Die EU soll demnach zum Vorreiter bei der Entwicklung sicherer, vertrauenswürdiger und ethischer KI-Systeme werden. Die Kommission bewegt sich mit ihrem Vorschlag also auf dem schmalen Grat zwischen der Förderung von Zukunftstechnologien und der Wahrung europäischer Grundwerte. Es wäre die erste Regulierung von KI dieser Art.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team