Generative KI-Tools wie ChatGPT könnten die Finanzstabilität beeinträchtigen. Diese Bedenken hat Gary Gensler, Vorsitzender der amerikanischen Börsenaufsicht, gegenüber der New York Times geäußert.

„Diese Technologie wird das Zentrum zukünftiger Krisen sein, zukünftiger Finanzkrisen“, zitiert die Zeitung Gensler. Das habe mit mächtigen ökonomischen Faktoren wie Skalierbarkeit und Netzwerken zu tun.

Als Forscher am Massachusetts Institute of Technology schrieb Gensler bereits 2020 einen wissenschaftlichen Aufsatz über die möglichen Auswirkungen einer breiten Nutzung von KI auf das Finanzsystem. Künstliche Intelligenz könne die Analyse von Finanzdaten zwar effizienter machen und Risiken minimieren, aber eine breite Nutzung könne auch zu Vereinheitlichung und Regulierungslücken führen. Das offensichtlichste Risiko am Einsatz von KI-Tools bei Handelsentscheidungen sei, dass Algorithmen, denen KI-Tools folgen, meist eine undurchsichtige „Blackbox“ seien.

Aufgrund von Plattform- und Netzwerkeffekten vermuten Gensler und seine Mitautorin, dass es nur wenigen KI-Firmen gelingen werde, grundlegende KI-Modelle für Unternehmen zu entwickeln. In den USA könnte es demnach nur zwei oder drei solcher grundlegenden KI-Modelle geben. Dies sei gefährlich, denn dann würden sich alle auf dieselben Informationen verlassen und ähnlich reagieren. Dieses „Herdenverhalten“ würde eine Gleichschaltung des ganzen Wirtschaftssystems begünstigen und einen Finanzcrash wahrscheinlicher machen.

Gensler befürchtet, dass die KI-Modelle, die Anlageverhalten analysieren oder Anlageempfehlungen machen, die Interessen der Unternehmen über die der Anleger:innen stellen könnten. Wie schnell so etwas passieren könne und wie mächtig Vorhersagealgorithmen seien, würden zwei Dinge zeigen: der durch Social Media befeuerte Handel mit Meme-Aktien und die zunehmende Anzahl privater Anleger:innen auf Trading-Apps.

Um die befürchteten Effekte abzumildern, hat die Börsenaufsicht im vergangenen Monat eine Regel vorgeschlagen: Trading-Plattformen sollen stärker in die Pflicht genommen werden, indem sie verhindern sollen, dass KI ihre Kund:innen benachteiligt. Weder Beratende noch Broker sollten über den Investor:innen stehen. „Deshalb haben wir einen spezifischen Vorschlag gemacht, der diese Konflikte beseitigt, die in die Modelle eingebettet sein könnten“, so Gensler gegenüber der New York Times.

Mit ihrem Vorschlag will die Behörde die Sorgfaltspflicht der Analageberatenden gegenüber ihren Kund:innen auf generative KI wie ChatGPT übertragen. Noch ist nicht klar, wer in den USA für die Fehler künstlicher Intelligenz haftet. Gensler hält es jedoch für fair, zu verlangen, dass Unternehmen sichere Tools bauen und Nutzende die Verantwortung nicht an die Technologie abgeben.