Anzeige
Anzeige
News

Sicherheitsforscher Roman Yampolskiy besorgt: Ist KI-Kontrolle unmöglich?

Der Sicherheitsforscher Roman Yampolskiy argumentiert, dass es derzeit keinen Beleg dafür gibt, dass wir KI wirklich kontrollieren können. Warum das, seiner Meinung nach, zu einer Katastrophe führen könnte.

2 Min.
Artikel merken
Anzeige
Anzeige
Können wir eine ausreichend fortgeschrittene KI überhaupt kontrollieren? (Bild: Midjourney / t3n)

Hinweis: Wir haben in diesem Artikel Provisions-Links verwendet und sie durch "*" gekennzeichnet. Erfolgt über diese Links eine Bestellung, erhält t3n.de eine Provision.

Spätestens wenn wir eines Tages in der Lage sein sollten, KI-Systeme zu entwickeln, die über menschliche oder gar übermenschliche Fähigkeiten verfügen, müssen wir in der Lage sein, die Sicherheit dieser Systeme zu garantieren. In seinem demnächst erscheinenden Buch argumentiert Sicherheitsforscher Roman Yampolskiy, dass es bislang in der wissenschaftlichen Literatur keinen Beleg dafür gibt, dass wir KI-Systeme tatsächlich in dem dafür notwendigen Maße kontrollieren können.

Anzeige
Anzeige

„Obwohl das Problem der KI-Kontrolle als eines der wichtigsten Probleme der Menschheit erkannt wurde, wird es nach wie vor nur unzureichend verstanden, definiert und erforscht“, warnt Yampolskiy im Vorwort von AI: Unexplainable, Unpredictable, Uncontrollable*.

Yampolskiy kritisiert, dass viele KI-Forscher:innen glauben würden, dass KI kontrolliert werden kann, obwohl es dafür keine echten Beweise gebe. „Die Beweislast liegt bei denjenigen, die behaupten, dass das Problem lösbar ist, und das derzeitige Fehlen eines solchen Beweises spricht deutlich für die Gefahren, die mit dem Vorschlag zur Entwicklung von genereller künstlicher Intelligenz verbunden sind“, schreibt Yampolskiy.

Anzeige
Anzeige

KI-Forscher: Mangelnde Kontrolle könnte zur Katastrophe führen

Yampolskiy argumentiert, dass derzeit vieles darauf hinweist, dass wir viel eher eine übermenschliche KI schaffen können, als dass wir diese auch kontrollieren können. Er vermutet sogar, dass eine ausreichende intelligente Software niemals gänzlich kontrollierbar gemacht werden kann.

Ein grundsätzliches Problem gängiger KI-Systeme liegt darin, dass wir nicht wissen, wie sie auf bestimmte Ergebnisse kommen. Wir können lediglich das Ergebnis bewerten. Langfristig sei das aber ein Problem. Denn wenn wir uns immer mehr auf KI-Systeme verlassen, würden wir gar nicht merken, wenn das System zunehmend falsche oder manipulative Antworten gibt.

Anzeige
Anzeige

Die weitere Erforschung sogenannter erklärbarer KI-Systeme sei daher dringend notwendig, meint Yampolskiy. Außerdem müsse immer sichergestellt werden, dass jede Entscheidung einer KI rückgängig gemacht werden kann. Genau das sei bei den heute gängigen Ansätzen nicht vorgesehen.

Auch wenn Yampolskiy auch radikalen Schritten wie Verboten bestimmter KI-Systeme offen gegenübersteht, ist er der Technologie nicht grundsätzlich abgeneigt. Für Yampolskiy geht es vor allem darum, jetzt ausreichend Ressourcen in die KI-Sicherheitsforschung stecken – damit wir im Idealfall in Zukunft KI-Systeme entwickeln, denen dann möglicherweise gewisse Fähigkeiten fehlen, die aber dafür von uns Menschen kontrolliert werden können.

Mehr zu diesem Thema
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Schreib den ersten Kommentar!
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige