Finanzsystem gefährdet: SEC-Vorsitzender warnt vor künstlicher Intelligenz

Generative KI-Tools wie ChatGPT könnten die Finanzstabilität beeinträchtigen. Diese Bedenken hat Gary Gensler, Vorsitzender der amerikanischen Börsenaufsicht, gegenüber der New York Times geäußert.
„Diese Technologie wird das Zentrum zukünftiger Krisen sein, zukünftiger Finanzkrisen“, zitiert die Zeitung Gensler. Das habe mit mächtigen ökonomischen Faktoren wie Skalierbarkeit und Netzwerken zu tun.
Als Forscher am Massachusetts Institute of Technology schrieb Gensler bereits 2020 einen wissenschaftlichen Aufsatz über die möglichen Auswirkungen einer breiten Nutzung von KI auf das Finanzsystem. Künstliche Intelligenz könne die Analyse von Finanzdaten zwar effizienter machen und Risiken minimieren, aber eine breite Nutzung könne auch zu Vereinheitlichung und Regulierungslücken führen. Das offensichtlichste Risiko am Einsatz von KI-Tools bei Handelsentscheidungen sei, dass Algorithmen, denen KI-Tools folgen, meist eine undurchsichtige „Blackbox“ seien.
Aufgrund von Plattform- und Netzwerkeffekten vermuten Gensler und seine Mitautorin, dass es nur wenigen KI-Firmen gelingen werde, grundlegende KI-Modelle für Unternehmen zu entwickeln. In den USA könnte es demnach nur zwei oder drei solcher grundlegenden KI-Modelle geben. Dies sei gefährlich, denn dann würden sich alle auf dieselben Informationen verlassen und ähnlich reagieren. Dieses „Herdenverhalten“ würde eine Gleichschaltung des ganzen Wirtschaftssystems begünstigen und einen Finanzcrash wahrscheinlicher machen.
Gensler befürchtet, dass die KI-Modelle, die Anlageverhalten analysieren oder Anlageempfehlungen machen, die Interessen der Unternehmen über die der Anleger:innen stellen könnten. Wie schnell so etwas passieren könne und wie mächtig Vorhersagealgorithmen seien, würden zwei Dinge zeigen: der durch Social Media befeuerte Handel mit Meme-Aktien und die zunehmende Anzahl privater Anleger:innen auf Trading-Apps.
Um die befürchteten Effekte abzumildern, hat die Börsenaufsicht im vergangenen Monat eine Regel vorgeschlagen: Trading-Plattformen sollen stärker in die Pflicht genommen werden, indem sie verhindern sollen, dass KI ihre Kund:innen benachteiligt. Weder Beratende noch Broker sollten über den Investor:innen stehen. „Deshalb haben wir einen spezifischen Vorschlag gemacht, der diese Konflikte beseitigt, die in die Modelle eingebettet sein könnten“, so Gensler gegenüber der New York Times.
Mit ihrem Vorschlag will die Behörde die Sorgfaltspflicht der Analageberatenden gegenüber ihren Kund:innen auf generative KI wie ChatGPT übertragen. Noch ist nicht klar, wer in den USA für die Fehler künstlicher Intelligenz haftet. Gensler hält es jedoch für fair, zu verlangen, dass Unternehmen sichere Tools bauen und Nutzende die Verantwortung nicht an die Technologie abgeben.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team