News

KI-Forscher fordern Gesetz gegen Emotionserkennung

Immer häufiger wird KI zur Erkennung von Emotionen genutzt. Aber funktioniert das? (Foto: Shutterstock)

Verschiedene Hersteller bieten KI-Systeme an, die die Emotionen von Nutzerinnen und Nutzern erkennen sollen. Forscher des AI Now Institute zweifeln jedoch daran, dass die Systeme wie beworben funktionieren, und fordern den Gesetzgeber auf, den Einsatz dieser Technologie zu beschränken.

Gesichtserkennung wird heute nicht mehr nur zum Auseinanderhalten von Personen genutzt. Gleich eine ganze Reihe an Firmen bietet KI-Systeme an, die erkennen sollen, wie sich eine Person fühlt. Daraus wiederum sollen je nach Einsatzgebiet weitere Rückschlüsse über die Person getroffen werden können. Diese Technologien sollen beispielsweise im Rahmen von Bewerberinterviews genutzt werden oder um zu erkennen, wie stark ein Patient leidet. Ein Riesenmarkt: Einer Prognose zufolge könnte der Sektor bis 2024 einen Wert von mehr als 91 Millionen US-Dollar erreichen.

Mehrere wissenschaftliche Studien kommen jedoch zu dem Schluss, dass die Mimik einer Person keine ausreichende Grundlage für die Erkennung ihrer Emotionen bietet. Das AI Now Institute fordert daher jetzt in seinem Jahresbericht, dass der Gesetzgeber den Einsatz dieser Technologie eingrenzen sollte, wenn sie für Entscheidungen genutzt wird, die Einfluss auf das Leben von Menschen haben. Bis das geschieht, sei es die Pflicht von Technologieunternehmen, Produkte zur Emotionserkennung nicht an Kunden auszuliefern, solange die Funktionsweise dieser Werkzeuge nicht wissenschaftlich bewiesen sei.

AI Now Institute fordert Moratorium für den Einsatz von Gesichtserkennung im öffentlichen Leben

Das AI Now Institute gehört zur New York University und untersucht die gesellschaftlichen Auswirkungen von künstlicher Intelligenz. Im Jahresbericht des Instituts warnen die Autoren unter anderem auch davor, dass der Einsatz von Gesichtserkennung im politischen und sozialen Bereich negative Auswirkungen haben könnte. Um das eindeutig zu klären, müsse es ein Moratorium geben, damit Forscher, Gesetzgeber und Gemeinden die möglichen Nachteile verstehen und mit passenden Gesetzen darauf reagieren können.

In dem Bericht wird auch der Einsatz von künstlicher Intelligenz bei der Festsetzung von Arbeitszielen kritisiert. Darunter würden vor allem Arbeitnehmer aus dem Niedriglohnsektor leiden, denen die Möglichkeit gegeben werden sollte, die von einer KI erstellten Vorgaben anzufechten. Außerdem fordert das Institut, dass Wissenschaftler aus dem Machine-Learning-Sektor potenzielle Risiken ihrer Forschung besser erfassen, indem sie die Herkunft ihrer Trainingsdaten wie auch ihrer Modelle besser dokumentieren.

Ebenfalls interessant:

Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Schreib den ersten Kommentar!

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!

Hey du! Schön, dass du hier bist. 😊

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team bestehend aus 65 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Danke für deine Unterstützung.

Digitales High Five,
Stephan Dörner (Chefredakteur t3n.de) & das gesamte t3n-Team

Anleitung zur Deaktivierung