Anzeige
Anzeige
Ratgeber

KI im Unternehmen: Was mit dem Beschluss des EU-AI-Acts wichtig wird

Wer überlegt, im Unternehmen eine KI-Anwendung einzuführen, sollte sich auch um die rechtlichen Rahmenbedingungen kümmern. Unsere Gastautoren erklären, was angesichts der neu verabschiedeten KI-Verordnung wichtig ist.

5 Min.
Artikel merken
Anzeige
Anzeige
DSGVO, AI-Act: Wer KI im Unternehmen einführt, muss sich auch um den gesetzlichen Rahmen kümmern. (Bild: Phonlamai Photo/Shutterstock)

Künstliche Intelligenz (KI) ist da und nicht mehr aufzuhalten. Um wettbewerbsfähig zu bleiben, müssen sich Unternehmen und Behörden mit ihr befassen. Doch dem Nutzen, der durch künstliche Intelligenz entstehen kann, stehen komplexe rechtliche Anforderungen gegenüber. Dieser Beitrag zeigt die Eckpfeiler der rechtlichen Anforderungen – und soll Mut machen.

Anzeige
Anzeige

Im Überblick: Die Anwendungsbereiche von KI

2023 war das Jahr der generativen KI. ChatGPT löste eine Welle der Begeisterung für die Möglichkeiten und den Einsatz von Large Language Models (LLM) aus. Nur zwei Monate nach der Veröffentlichung hatte ChatGPT mehr als 100 Millionen Nutzer:innen. Seitdem kommen täglich neue KI-Anwendungen – sei es zur Erstellung von Bildern, zur Audioerkennung oder zur Spracheingabe – auf den Markt.

Unternehmen stehen seitdem zwangsläufig vor der Frage, ob und wie sie ihre eigenen Produkte durch KI ergänzen können oder wie Unternehmensprozesse mittels KI verbessert werden können. Neben den klassischen Anwendungsbereichen – Marketing, Support und Vertrieb – gibt es unternehmensweit Einsatzfelder für KI.

Anzeige
Anzeige

Einen konkreten Anwendungsbereich haben KI-Systeme in der Sprach- und Textverarbeitung. Eine KI kann unter anderem autonome Übersetzungen vornehmen und automatisierte Antworten auf Kundenanfragen generieren.

In der Medizin hilft KI durch Bild- und Objekterkennung bei der Diagnostik, in der Gebäudesicherheit beim Erkennen verdächtiger Aktivitäten, in der Automobilindustrie sind Assistenzsysteme und autonomes Fahren von großer Bedeutung. Branchenübergreifend werden KI-Systeme in der Qualitätskontrolle und Fehlererkennung eingesetzt.

Anzeige
Anzeige

Unschlagbarer Vorteil von KI ist, dass die Automatisierung Prozesse massiv beschleunigt und deutlich günstiger macht. Durch KI steht die Automatisierung erstmals nahezu jedem Unternehmen offen – aber damit steigen auch die Compliance-Vorgaben. Wichtige Schlagworte sind dabei: Datenschutz, Haftung, Befangenheit, geistiges Eigentum und natürlich die KI-Verordnung, der EU-AI-Act.

KI-Systeme: Welche rechtlichen Anforderungen gibt es? 

Wie bei jeder anderen Datenverarbeitung auch, müssen bei dem Einsatz von KI die Bestimmungen der DSGVO gewahrt werden. In diesem Zusammenhang gibt es einige rechtliche Hürden zu nehmen; bei umfassender Beratung sind sie jedoch keine Showstopper. Diese Anforderungen lassen sich gut in den Griff bekommen. Vor dem Einsatz von KI müssen Unternehmen prüfen, wie sie die KI möglichst datensparsam nutzen, die Betroffenenrechte umsetzen sowie gegebenenfalls eine Datenschutzfolgenabschätzung durchführen.

Anzeige
Anzeige

Die Haftung beim Einsatz von KI-Systemen wird künftig auch die Gerichte beschäftigen. Grund dafür sind zwei Neuheiten im Zusammenhang mit der KI-Regulierung. So wird zum einen der Schutz durch das Produkthaftungsgesetz auf KI-Systeme erweitert. Zum anderen arbeitet die EU an einer KI-Haftungsrichtlinie. Sie wird insbesondere die Beweislast bei Schadensersatzansprüchen gegen Anbieter von KI-Systemen zugunsten der Geschädigten regeln.

KI-Systeme können aufgrund einer Voreingenommenheit (im Englischen „bias“) ungeeignete Ergebnisse liefern. Das kann auf unzureichende Trainingsdaten zurückzuführen sein. In der Praxis werden voreingenommene Ergebnisse der KI riskant, wenn der User das Ergebnis der KI als bare Münze nimmt und nicht hinterfragt. Beide Aspekte müssen daher bei der Einführung von KI berücksichtigt werden: Die Trainingsdaten müssen sorgfältig ausgewählt und die Ergebnisse der KI weiterhin von einem Menschen überprüft werden.

Auch auf dem Gebiet des geistigen Eigentums kann es gerade beim Einsatz von generativer KI zu Hindernissen kommen. So ist es derzeit beispielsweise möglich, urheberrechtlich geschützte Inhalte durch ChatGPT wiedergeben zu lassen. Peinlich und teuer kann das werden, wenn so der Werbetext der Konkurrenz auf unbemerkte Art und Weise kopiert wird. Auch hier muss im Ergebnis der Mensch noch einmal die Ergebnisse der Maschine kontrollieren.

Anzeige
Anzeige

EU-AI-Act: Die KI-Regulierung der Europäischen Union kommt

Die KI-Verordnung der EU ist der neuste Wurf zur Regulierung von KI. Sie wurde am 21. Mai 2024 vom Rat der Europäischen Union gebilligt und wird zeitnah in Kraft treten. Für einige der Pflichten wird es jedoch Umsetzungszeiträume geben. Nach China ist die EU der zweite große Rechtskreis, der eine umfassende KI-Regulierung hat.

Die KI-Verordnung sieht einen risikobasierten Ansatz vor. KI-Systeme werden durch ein komplexes Geflecht aus Anlagen und Verweisungen in verschiedene Risikokategorien eingeordnet: Für die Praxis besonders relevant ist die Einordnung als Hochrisiko-KI sowie die Einordnung als sogenannte General-Purpose-AI (mit und ohne systemischem Risiko).

An die jeweilige Einordnung werden verschiedene Pflichten geknüpft. KI-Systeme in Medizinprodukten oder zur biometrischen Identifizierung können eine Hochrisiko-KI sein – das bedeutet hohe technische Anforderungen, umfangreiche Transparenzpflichten und hohe Anforderungen an die verwendeten Trainingsdaten.

Anzeige
Anzeige

Doch auch KI-Systeme ohne Hochrisiko-KI – das können KI-gestützte Empfehlungssysteme oder Spamfilter sein – müssen gewisse Pflichten nach der KI-Verordnung erfüllen. In der Praxis aufwendiger kann bei diesen Systemen die Erfüllung der datenschutzrechtlichen Vorgaben sein. Anspruchsvoll ist etwa die Gewährleistung der Transparenz: KI-Systeme stellen sich meist als Blackbox dar – trotzdem muss den Anwendern erläutert werden, was mit den personenbezogenen Daten passiert.

KI-Verordnung kann für Bußgelder bis zu 35 Millionen Euro sorgen

Nach der KI-Verordnung gibt es auch KI-Systeme, die ganz verboten sind: Das betrifft Technologien mit einem inakzeptablen Risiko, etwa aufgrund eines Social Scorings oder Teile von biometrischer Videoüberwachung und Verhaltensbeeinflussung.

Bereits die Risikoklassifizierung von KI-Systemen erfordert eine genaue Prüfung, technisches Verständnis und juristischen Sachverstand. Umso aufwendiger wird die exakte Bestimmung der bestehenden rechtlichen Pflichten – sei es aus der KI-Verordnung oder anderen Rechtsgebieten (Datenschutzrecht, Urheberrecht, IT-Recht etc.). Als Faustformel gilt: je höher das Risiko, desto höher die rechtlichen Anforderungen.

Anzeige
Anzeige

Die KI-Verordnung kommt mit großen Schritten und wird diverse Herausforderungen mit sich bringen. Diese sind jedoch gut beherrschbar und es können bereits heute Maßnahmen getroffen werden, um einen erfolgreichen Einsatz von KI vorzubereiten.

Unternehmen, die über den Einsatz von KI nachdenken, sollten von Anfang an die rechtlichen Auswirkungen berücksichtigen. Nicht zuletzt, da die KI-Verordnung – vergleichbar mit der DSGVO – Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes vorsieht. Ein frühzeitiges Handeln kann ein Umsetzungschaos – wie zum Start der DSGVO – vermeiden.

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Kommentare

Community-Richtlinien

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Kommentar abgeben

Melde dich an, um Kommentare schreiben und mit anderen Leser:innen und unseren Autor:innen diskutieren zu können.

Anmelden und kommentieren

Du hast noch keinen t3n-Account? Hier registrieren

Anzeige
Anzeige