Anzeige
Anzeige
Analyse

Braucht künstliche Intelligenz ein eigenes Gesetz?

Die technischen Möglichkeiten von KI verbessern sich stetig. Das zieht Erweiterungen der gesetzlichen Anforderungen nach sich. Unser Gastautor gibt einen Überblick über aktuelle und geplante rechtliche Grundlagen.

Von Ilan Leonard Selz
6 Min.
Artikel merken
Anzeige
Anzeige

Künstliche Intelligenz muss programmiert und trainiert werden. (Bild: maxuser / shutterstock)

Für den Begriff der künstlichen Intelligenz existiert zwar keine einheitliche Definition, zu einem besseren Verständnis können allerdings einige maßgebende Eigenschaften benannt werden. Um als KI bezeichnet werden zu können, sollte eine Anwendung zu autonomem Handeln und eigenständigen Lernprozessen in der Lage sein, um einen bestimmten Output liefern oder Prognoseentscheidungen treffen zu können.

Zudem sollte sie eine Adaptionsfähigkeit gegenüber ihrer Umgebung aufweisen. Häufig trifft man auf die Unterscheidung zwischen starker und schwacher KI, wobei die erstere zu logisch-intellektuellem Denken und komplexen Abstraktionen fähig ist. Letztere zeichnet sich durch Mustererkennung und die Begabung aus, auf unbekannte Probleme zu reagieren. Schwache KI kann jedoch nicht abstrahieren und ist nur in einem bestimmten Anwendungsfeld einsetzbar. In aller Regel stuft man die heutigen KI-Anwendungen als schwache KI ein, die aber dennoch zu hohen technischen Leistungen fähig sein können.

Anzeige
Anzeige

Neben Chatbots können KI-Anwendungen vielfältige Anliegen aufnehmen und eigenständig bearbeiten. Beispielsweise gibt es Systeme, die anhand bildgebender Verfahren in der Medizin Tumorstrukturen erkennen und eine Erstdiagnose stellen können. Ebenfalls bereits möglich sind Verfahren, in denen eine KI in Videosequenzen Personen am Gang identifizieren oder Lungenkrankheiten wie Covid-19 über das Atemgeräusch erkennen kann.

KI, Recht und Ethik

Da die Fähigkeiten von KI weiterhin stetig ansteigen, besteht auch ein erhöhter Bedarf an rechtlichen Vorgaben. Weil KI vermehrt an Stellen eingesetzt wird, an denen sie Entscheidungen mit mittelbarer oder unmittelbarer Wirkung für Individuen trifft, bilden ethische Überlegungen die Grundlage der Regulierung. Es ist gerade die Stärke von KI, gleichartige Fälle sehr schnell, effizient und mit einer geringen Fehleranfälligkeit zu lösen. Auf der anderen Seite bedeutet das jedoch, dass teils komplexe moralische Fragestellungen übergangen und „auf die Schnelle“ entschieden werden. Den Ausgangspunkt einer ethischen Betrachtungsweise bildet Art. 1 Abs. 1 Grundgesetz (beziehungsweise auf europäische Ebene Art. 1 Grundrechte-Charta), die Garantie der Menschenwürde.

Anzeige
Anzeige

Demnach darf der Mensch nicht zum Objekt gemacht werden. Für KI bedeutet das insbesondere, dass Algorithmen, die Entscheidungen mit Wirkung für Einzelpersonen treffen, keine Grund- und Freiheitsrechte missachten dürfen. Eine solche Gefahr besteht beispielsweise in Situationen, in denen eine KI bei einem selbstfahrenden Fahrzeug in einer Unfallsituation über das Leben von Unfallbeteiligten entscheiden muss, und wenn sie über die Kreditwürdigkeit oder die Strafbarkeit einer Person befindet. Diese und viele weitere Fragen lassen sich rechtlich zwar nicht letztgültig regeln, ein gesetzlicher Rahmen kann aber dabei helfen, Grenzen zu ziehen und zu verhindern, dass KI missbräuchlich eingesetzt wird.

Anzeige
Anzeige

Zu diesem Zweck gibt es bislang kein einheitliches „KI-Recht“, daher finden sich Vorgaben an ganz unterschiedlichen Orten wie etwa dem Haftungs-, Urheber oder Leistungsschutzrecht. Das Allgemeine Gleichbehandlungsgesetz (AGG) verbietet Diskriminierungen und schließt Entscheidungen durch KI mit ein. Auch besteht ein Grundrechtsschutz gegen bestimmte Einsatzformen von KI. Da Daten das Fundament für die Lernprozesse von KI-Anwendungen bilden, spielt das Datenschutzrecht mit der Datenschutz-Grundverordnung (DSGVO) eine zentrale Rolle.

Datenschutz bei künstlicher Intelligenz

Die Datenschutzkonferenz (DSK), der Zusammenschluss der deutschen Aufsichtsbehörden, hat daher die Hambacher Erklärung verabschiedet, in der übergeordnete Leitlinien für die Entwicklung und den Einsatz von KI genannt werden. Das Verbot der Objektivierung des Menschen bildet auch hier die Grundlage, aus der sich weitere Ziele ergeben. Zu ihnen gehören Grundsätze wie Transparenz, Nachvollziehbarkeit und Datenminimierung. Ferner sollte der Einsatz von KI nur verfassungsgemäße Zwecke verfolgen, Diskriminierungen vermieden und Entwicklung sowie Nutzung von technisch-organisatorischen Schutzmaßnahmen begleitet werden.

Anzeige
Anzeige

Die rechtlich bindenden Vorgaben finden sich in der DSGVO. Sie müssen immer dann beachtet werden, wenn KI eingesetzt wird, die mit personenbezogenen Daten arbeitet. In den meisten Fällen wird das zutreffen, wenn nicht ausschließlich anonymisierte Daten verarbeitet werden. Das sind solche, bei denen der Bezug zu einer natürlichen Person zuvor vollständig entfernt wurde. Zum Anlernen einer KI werden zumeist große Mengen historischer Daten benötigt. Auf den Personenbezug im Datenpool kommt es für die Mustererkennung der meisten Anwendungen dabei gar nicht an. Da es sich aber häufig um historische Echtdaten handeln wird, die sich auf eine konkrete Person beziehen, wird zumindest eingangs ein Personenbezug bestehen.

Die datenschutzrechtlichen Anforderungen sind daher bis zu einer effektiven Anonymisierung zu beachten. Kommt die KI dann im Produktivbetrieb wieder mit personenbezogenen Daten in Berührung, greift das Datenschutzrecht erneut. Dann müssen die datenschutzrechtlichen Grundsätze eingehalten werden: Vor allem muss die Datenverarbeitung einem legitimen Zweck dienen, transparent ausgestaltet und durch eine Rechtsgrundlage gedeckt sein. Zudem müssen angemessene technisch-organisatorische Maßnahmen getroffen und im Falle automatisierter Einzelfallentscheidungen gesonderte Regeln beachtet werden.

Ein Europäischer Rechtsrahmen für künstliche Intelligenz

Dabei soll es allerdings nicht bleiben: Die EU-Kommission hat den Entwurf einer Verordnung veröffentlicht, um europaweit eine einheitliche und verbindliche Regulierung zu gewährleisten. Die Verordnung wäre das weltweit erste Gesetz, das ausdrücklich und ausschließlich das Thema KI zum Gegenstand hat. Die Regelungen würden sowohl Entwickler*innen als auch Unternehmen, die KI einsetzen oder importieren, betreffen. Mit dem Vorschlag versucht die EU den Spagat zwischen einer starken Förderung von KI-Technologien einerseits und der Regulierung zum Schutz der Bürger*innen sowie ihr Vertrauen in KI-Anwendungen andererseits.

Anzeige
Anzeige

Das, was bislang vor allem in unverbindlichen Leitlinien formuliert wurde, soll mit der Verordnung gesetzlich verpflichtend werden – insbesondere die Vorgabe, dass KI-Systeme in der EU sicher, transparent, ethisch und unter menschlicher Kontrolle agieren müssen. Um dieses Ziel zu erreichen, werden sie in verschiedene Risikoklassen eingeteilt, die vom minimalen Risiko über geringes und hohes bis hin zum unannehmbaren Risiko reichen. Systeme mit dem höchsten Risiko sollen grundsätzlich nicht verwendet werden dürfen. Als Beispiele nennt die EU-Kommission unter anderem Social Scoring durch Behörden oder Spielzeug, das mit einem Sprachassistenten versehen ist und Kinder zu riskantem Verhalten verleitet.

KI-Anwendungen mit minimalem Risiko (die einen Großteil aller Systeme ausmachen dürften) hingegen sollen gar nicht weiter reguliert werden. Zu ihnen gehören zum Beispiel Spamfilter. Für Systeme mit einem nur begrenzten Risiko, wie etwa die eingangs erwähnten Chatbots, sollen geringe Transparenzverpflichtungen gelten, damit Nutzer*innen eine informierte Entscheidung darüber treffen können, ob sie diese Systeme verwenden wollen.

Die eigentliche Regulierung ist für die KI-Systeme mit hohem Risiko gedacht. Unternehmen müssen vor dem Einbringen in den Verkehr darauf achten, dass im Rahmen einer Konformitätsbewertung die Einhaltung aller rechtlichen Anforderungen geprüft wird. Dafür ist es vor allem notwendig, dass die verwendeten Datensätze richtig sowie vollständig sind und die Datenverarbeitungen sorgfältig dokumentiert werden. Anschließend müssen die Anwendungen registriert und mit einer CE-Kennzeichnung versehen werden. Des Weiteren sollen Behörden die in den Verkehr gebrachten KI-Systeme stärker kontrollieren. Zu den Systemen mit hohem Risiko zählen unter anderem solche, die über den Zugang zu Bildungs- und Berufsangeboten entscheiden, im Rahmen der Strafverfolgung oder der Rechtspflege eingesetzt werden oder die Entscheidungen im Rahmen zentraler Dienstleistungen, wie etwa der Kreditvergabe, treffen.

Anzeige
Anzeige

Fazit

Da KI-Anwendungen inzwischen vielfältige Einsatzfelder gefunden haben und die technische Entwicklung weiter voranschreitet, sind eigene und einheitliche Regelungen grundsätzlich zu begrüßen. In ihrer Ausgestaltung könnte die geplante EU-Verordnung sicherstellen, dass die vielen Potenziale künstlicher Intelligenz künftig weiter ausgeschöpft werden können, während zugleich der Schutz der Bürgerinnen und Bürger gestärkt wird. Ob beziehungsweise wann die Verordnung in Kraft treten wird, lässt sich allerdings nur schwer absehen.

Es folgen zunächst Verhandlungen im EU-Parlament und im Europäischen Rat. Doch schon jetzt ist der Vorschlag ein deutliches Zeichen, in welche Richtung die rechtliche Regulierung von KI-Anwendungen gehen wird. Und auch mit den bestehenden gesetzlichen Vorgaben wird ein hohes Schutzniveau erreicht. Einsatz und Entwicklung von KI benötigen klare Prozesse und die Verwendung von Daten, die durch sachgerechte Anonymisierung und ein überzeugendes Datennutzungskonzept sorgfältig nutzbar gemacht wurden. Die Regulierung sollte daher nicht als Hemmnis, sondern als Chance wahrgenommen werden, damit die KI-Anwendungen weiterhin mit einem hohen Vertrauen eingesetzt und weiterentwickelt werden können.

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Kommentare (1)

Community-Richtlinien

Matthias

Das mit Art. 1 GG erinnert schon fast an die 3 Robotergesetze von Isaac Asimov.
Wäre gut, wenn ein Gesetz darauf basieren würde.
Dass es Regulierung braucht, zeigt das Beispiel mit Amazons Fahrern in den USA, die angeblich von KI gekündigt wurden.

Wir müssen uns allerdings entscheiden, ob KI menschenähnlich werden soll oder nicht. KI wird niemals so gut sein wie Menschen wenn wir andere Datenschutz Maßstäbe ansetzen. Auf der Straße lassen wir uns von vielen anderen Menschen beobachten, aber wehe es schaut ne Kamera zu. Menschen geben wir bereitwillig unsere Daten, aber wehe ne KI kennt unseren Vornamen.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Kommentar abgeben

Melde dich an, um Kommentare schreiben und mit anderen Leser:innen und unseren Autor:innen diskutieren zu können.

Anmelden und kommentieren

Du hast noch keinen t3n-Account? Hier registrieren

Anzeige
Anzeige