OpenAI investiert in KI-Ethik: Können Algorithmen bald moralische Entscheidungen treffen?
OpenAI fördert ein Forschungsprojekt, das sich mit der Entwicklung von Algorithmen beschäftigt, die bei der moralischen Entscheidungsfindung helfen sollen. Wie Techcrunch berichtet, wird das Projekt mit dem Titel „Research AI Morality“ an der privaten Duke University im US-Bundesstaat North Carolina durchgeführt. Die finanzielle Unterstützung von OpenAI Inc, der gemeinnützigen Organisation des Unternehmens, beträgt insgesamt eine Million Dollar.
Über das Projekt ist nur wenig bekannt
Walter Sinnott-Armstrong, Professor für praktische Ethik an der Duke University, leitet das Forschungsprojekt gemeinsam mit der Co-Forscherin Jana Borg. Ziel des Projekts ist es, Algorithmen zu entwickeln, die menschliche moralische Urteile vorhersagen können – vor allem in Situationen, in denen in Bereichen wie Medizin, Recht oder Wirtschaft moralische Werte miteinander in Konflikt stehen. Die Förderung des Projekts endet im Jahr 2025.
Die beiden Projektleiter haben bereits ein Buch und mehrere Studien über das Potenzial von KI als „moralisches GPS“ verfasst, das Menschen unterstützen soll, bessere Entscheidungen zu treffen. In größeren Teams haben sie zum Beispiel einen „moralischen“ Algorithmus entwickelt, der bei der Entscheidung hilft, wem eine Niere gespendet wird. Sie untersuchten auch, in welchen Szenarien Menschen es vorziehen würden, dass KI moralische Entscheidungen trifft.
Die Forschung steht vor einer riesigen Herausforderung
Über das Projekt, das von OpenAI gefördert wird, sind nur wenige Details bekannt. Auf Nachfrage erklärte Sinnott-Armstrong, dass er die Forschung derzeit nicht kommentieren könne. Wie und ob die Ergebnisse praktisch umgesetzt werden, bleibt daher unklar. Zudem stellt sich die Frage, ob aktuelle Algorithmen überhaupt in der Lage sind, ein so komplexes und vielschichtiges Konzept wie Moral abzubilden – eine Herausforderung, die in der grundlegenden Arbeitsweise moderner KI-Systeme begründet liegt.
Modelle für Maschinelles Lernen sind im Grunde nicht mehr als statistische Maschinen. Sie werden mithilfe großer Datenmengen aus dem Internet trainiert, um Muster zu erkennen und darauf basierend Vorhersagen zu treffen. So kann etwa Whatsapp Vorschläge machen, wie ein begonnener Satz sinnvoll fortgesetzt werden könnte. Andere Modelle, die zum Beispiel auf Schach spezialisiert sind, berechnen den nächsten Zug, der den größten strategischen Vorteil bietet.
Ist eine „moralische KI“ überhaupt möglich?
KI-Systeme tendieren dazu, die Werte westlicher Gesellschaften zu übernehmen, denn genau das sind die Vorstellungen, mit denen sie meistens gefüttert werden. Ein echtes Verständnis für ethische Prinzipien, Argumentationen oder die Emotionen, die in moralische Entscheidungen einfließen, haben sie aber nicht. Selbst innerhalb einer Gesellschaft gehen die Vorstellungen von Ethik und Moral oft weit auseinander. Das führt dazu, dass scheinbar einfache Fragen sehr unterschiedlich beantwortet werden können – je nachdem, wen man fragt.
Philosophen debattieren seit Jahrtausenden über die Vorzüge verschiedener ethischer Theorien. Trotzdem ist ein allgemeingültiger Ansatz noch lange nicht in Sicht. Ein Algorithmus, der die moralischen Urteile von Menschen vorhersagen soll, muss all das berücksichtigen. Das ist eine sehr hohe Hürde, die es zu überwinden gilt – vorausgesetzt, ein solcher Algorithmus ist überhaupt möglich.
