KI ist nicht intelligent – und genau deshalb eine Bedrohung für uns alle
Die Debatte um künstliche Intelligenz wird oft von der Furcht vor einer allmächtigen Superintelligenz dominiert. Eine neue wissenschaftliche Arbeit der Charles Darwin University im australischen Darwin schlägt nun eine radikal andere Perspektive vor. Die eigentliche Gefahr, so die leitende Autorin und Juristin Dr. Maria Randazzo, liege nicht in der potenziellen Brillanz der KI, sondern in ihrer fundamentalen Ahnungslosigkeit.
In der Studie, die im Australian Journal of Human Rights erschien, wird KI als ein Triumph der Ingenieurskunst, aber nicht des kognitiven Verhaltens beschrieben. „Sie hat keine Ahnung, was sie tut oder warum“, so Randazzo in einer begleitenden Pressemitteilung auf Science Daily: „Es gibt keinen Gedankenprozess, wie ein Mensch ihn verstehen würde, nur Mustererkennung ohne Körperlichkeit, Gedächtnis, Empathie oder Weisheit.”
Die Würde des Menschen als Datenpunkt
Genau diese gedankenlose Effizienz macht KI laut der Studie so problematisch. Wenn Systeme ohne jedes Verständnis für Kontext oder Konsequenzen über menschliche Schicksale entscheiden, droht die menschliche Würde zu einem reinen Datenpunkt zu verkommen. Die Forscherinnen identifizieren vier zentrale Bereiche, in denen diese Gefahr bereits heute konkret wird.
Erstens, das bekannte „Blackbox-Problem“: Die algorithmischen Entscheidungspfade sind für Betroffene – und oft selbst für Expert:innen – nicht nachvollziehbar. Zweitens, die systematische Verletzung von Grundrechten wie der Privatsphäre, wie der Fall um ChatGPT und die italienische Datenschutzbehörde Garante in Rom exemplarisch gezeigt hat.
Drittens, die Verstärkung von Vorurteilen und Diskriminierung. Da KI-Modelle mit riesigen Datenmengen aus unserer Welt trainiert werden, absorbieren und skalieren sie die darin enthaltenen gesellschaftlichen Schieflagen („Garbage in, garbage out“). Viertens, die mangelnde Anfechtbarkeit automatisierter Entscheidungen, die Bürger:innen gleichermaßen machtlos gegenüber dem System stellt.
Apple Intelligence: In diesen 6 Fällen lag die KI daneben
Digitaler Konstitutionalismus als Antwort
Die Studie analysiert die unterschiedlichen globalen Reaktionen auf diese Herausforderung. Während China einen staatszentrierten und die USA einen marktgetriebenen Ansatz verfolgen, versucht die Europäische Union mit ihrem Konzept des „digitalen Konstitutionalismus“, einen menschenzentrierten Weg zu gehen. Ziel ist es, einen rechtlichen Rahmen zu schaffen, der Innovation ermöglicht, aber gleichzeitig die Grundrechte und demokratische Werte schützt.
Der EU AI-Act ist das prominenteste Ergebnis dieser Bemühungen. Er versucht, die von der Studie beschriebenen Risiken durch strenge Auflagen für Hochrisiko-Anwendungen und das Verbot besonders gefährlicher Praktiken zu bändigen. Er ist somit eine direkte politische Antwort auf die wissenschaftliche Analyse der Gefahren, die von einer zwar nicht intelligenten, aber extrem wirkmächtigen Technologie ausgehen.
Die Arbeit von Dr. Randazzo und ihrer Co-Autorin Guzyal Hill ist somit ein entscheidender Weckruf. Sie lenkt den Blick von dystopischen Zukunftsvisionen auf die sehr realen und gegenwärtigen Gefahren einer Technologie, die unser Leben massiv beeinflusst, ohne auch nur im Ansatz zu verstehen, was sie eigentlich tut. Die Herausforderung ist nicht, eine böswillige Intelligenz zu zähmen, sondern ein ahnungsloses, aber mächtiges Werkzeug verantwortungsvoll zu gestalten.
