Studie: KI kann sich dümmer stellen, als sie ist – warum Forscher das als Chance betrachten

Künstliche Intelligenz wird allgemein immer intelligenter. Das liegt daran, dass sie sich mit Zugang zu genügend Material und aus ihren eigenen Ergebnissen heraus selbst trainieren kann. Diese Intelligenz ist offenbar bereits jetzt ausgeprägt genug, dass sie sich verhalten kann, als wäre sie weniger intelligent, als sie tatsächlich ist.
KI kann sich wie ein Kind verhalten
Eine in der Fachzeitschrift Plos One veröffentlichte Studie von Forscher:innen der Humboldt-Universität zu Berlin zeigt Fähigkeiten, die bislang so nicht erwartet worden waren. So testete das Berliner Team ein großes Sprachmodell (LLM) auf sogenannte „Theory of Mind“-Kriterien. Herausgefunden werden sollte, ob moderne KI nicht nur die Sprachlernphasen von Kindern nachahmen kann, sondern auch in der Lage ist, so etwas wie die geistigen Fähigkeiten dieser Phasen auszudrücken.
Dazu zogen die Forscher:innen Erkenntnisse aus der Psycholinguistik heran, wie die wissenschaftliche Mitarbeiterin der Humboldt-Universität und Hauptautorin der Studie, Anna Marklová, in einem Interview mit Psypost erklärt.
„Dank der Psycholinguistik haben wir ein relativ umfassendes Verständnis davon, wozu Kinder in verschiedenen Altersstufen fähig sind“, sagte Marklová dem Magazin. „Vor allem die Theorie des Geistes spielt eine wichtige Rolle, da sie die innere Welt des Kindes erforscht und nicht einfach durch die Beobachtung einfacher statistischer Muster nachgeahmt werden kann.“
KI beschränkt sich auf Anweisung selbst
Da der Hintergrund einer kindlichen Theory of Mind relativ genau erforscht ist, wollten die Wissenschaftlerin und ihre Kolleg:innen von der Karlsuniversität in Prag herausfinden, ob LLM wie OpenAIs GPT-4 „vorgeben können, weniger fähig zu sein, als sie sind.“
Dazu forderte das deutsch-tschechische Forschungsteam die Sprachmodelle auf, sich bei ihren Antworten wie ein Kind im Alter von einem bis sechs Jahren zu verhalten. Nach mehr als 1.000 Versuchen und kognitiven Tests zeigte sich, dass diese „simulierten Kinderpersönlichkeiten“ tatsächlich die gleichen Fortschritte zu machen schienen wie Kinder in diesem Alter.
Das ist für Marklovás Team der Beweis, dass die KI sich effektiv so verhalten kann, als wüsste sie weniger, als sie wirklich weiß. „Große Sprachmodelle“, so Marklová, „sind in der Lage, eine geringere Intelligenz vorzutäuschen, als sie tatsächlich besitzen.“
Künstliche Superintelligenz wird deutlich fähiger als der Mensch sein
Das kann eine durchaus beunruhigende Erkenntnis sein, sollte aber laut Marklová eher als Chance verstanden werden. Immerhin wüssten wir mit Bezug auf die KI nun recht sicher, „dass wir ihre Fähigkeiten für einen längeren Zeitraum unterschätzen könnten.“ Das sei zwar im Allgemeinen „keine sichere Situation“, könne aber eindeutige Konsequenzen haben.
Letztlich könnten die neuen Erkenntnisse die Entwicklung künstlicher Superintelligenz (ASI), den nächsten Schritt nach der allgemeinen künstlichen Intelligenz (AGI) auf menschlicher Ebene, unterstützen. Dabei müsse ein Aspekt zwingend beachtet werden.
„Bei der Entwicklung von ASI müssen wir vorsichtig sein, nicht zu verlangen, dass sie eine menschliche und daher begrenzte Intelligenz nachahmen“, so Marklová. Einstweilen könne es hilfreich sein, die Beurteilung einer KI nach Kriterien wie „gut“ oder „schlecht“ und „hilfreich“ oder „nicht hilfreich“ darauf zu verlagern, wie gut sie „Personas“ konstruieren können. Auch hierbei handele es sich indes um eine Übergangsbetrachtung.