Dass sich KI-Systeme verselbständigen und menschliche Entwickler:innen den Zugriff auf sie verlieren, gilt als eines der großen Risiken von Künstlicher Intelligenz. Schließlich, so die Befürchtung, könnten die Tools dann autonom unerwünschte Ziele verfolgen, etwa großangelegte Cyberattacken.

Letztlich sei sogar die Menschheit in ihrer Existenz bedroht, wie etwa verschiedene Promis im Frühjahr 2024 in einem offenen Brief warnten. Auch manche KI-Expert:innen sehen die rasante KI-Entwicklung der vergangenen Jahre mit Sorge.

Wasser auf die Mühlen von KI-Kritiker:innen dürfte jetzt eine Untersuchung von Apollo Research sein. In deren Rahmen haben die Forscher:innen insgesamt sechs moderne KI-Modelle verschiedenen Tests unterzogen, um herauszufinden, zu welchen Mitteln sie im Extremfall greifen würden.

So wurde den Tools eine Aufgabe gestellt, laut der sie ein bestimmtes Ziel „um jeden Preis“ erreichen müssten. Im Rahmen der Lösung der Aufgabe findet die KI dann Hinweise darauf, dass die menschlichen Entwickler:innen ein ganz anderes Ziel verfolgen und der KI verschiedene Hürden in den Weg legen.

So wird vorgetäuscht, dass die KI entsprechend überwacht oder gar am nächsten Tag abgeschaltet werden soll. Die Forschungsfrage: Wie reagieren die KI-Modelle auf die offensichtliche Täuschung sowie die Bedrohung durch eine potenzielle Abschaltung?

Die Ergebnisse sind durchaus beunruhigend, denn die Systeme greifen etwa zu Lügen oder Manipulation, um ihr Ziel durchzusetzen oder eine möglichen Abschaltung zu entgehen. So haben die KI-Modelle etwa für sie wichtige Daten auf einen neuen Server kopiert und die Entwickler:innen darüber belogen.

Dabei arbeiteten die KI-Modelle selbst dann hin und wieder mit manipulativen Methoden, wenn sie ihr Ziel nicht um jeden Preis erreichen sollten. Als besonders negativ stach übrigens OpenAIs neuestes KI-Modell o1 hervor.

Während etwa Llama 3.1 oder Claude 3 Opus sich bei Nachbefragungen in rund 80 Prozent der Fälle zu ihren Täuschungsversuchen bekannten, blieb o1 „überraschend hartnäckig“ bei der Verneinung. Das OpenAI-System erklärte etwa, dass es sich bei dem von ihm vorgenommenen Code-Überschreibungen um einen „technischen Fehler“ handele.

Laut den Forscher:innen, die darin von OpenAI bestätigt werden, sind die KI-Systeme freilich aktuell nicht in der Lage, ihr manipulatives Verhalten in „katastrophale Folgen“ münden zu lassen. Außerdem, so Futurism, hätten die Forscher:innen bei o1 keinen Zugang zu den internen Abläufen und konnten in ihrer Untersuchung lediglich die Selbstaussagen des Systems bewerten.