Mark Zuckerberg will laut Medienberichten ein KI-Labor aufbauen, um eine künstliche allgemeine Intelligenz (AGI) zu entwickeln. AGI ist ein ziemlich schillernder Begriff, der nicht wirklich gut definiert ist. Ganz allgemein versteht man darunter aber ein menschenähnliches Intelligenzniveau, oder eine KI, die sogar das Level menschlicher Intelligenz überschreitet.

Ob das überhaupt möglich ist – und wenn ja, wie -, ist unter KI-Forschenden heftig umstritten. Meta will die Entwicklung nun aber mit Nachdruck vorantreiben. Laut der Nachrichtenagentur Bloomberg rekrutiert Zuckerberg persönlich Spitzenkräfte aus dem Bereich KI und räumt der Besetzung und dem Aufbau dieses neuen Teams „laut mit der Angelegenheit vertrauten Personen höchste Priorität ein“.

Der Meta-CEO will Berichten zufolge 50 Mitarbeitende für das Team einstellen. Weil wir wissen, dass Menschen wie Zuckerberg viel beschäftigt sind, haben wir in der Redaktion diskutiert und schon mal ein paar Personalvorschläge zusammengestellt, an die bei Meta bestimmt niemand denkt.

Matthias Kreienbrink, t3n: Auch eine KI muss lernen, zu spielen. Die Spieltheorie gibt Antworten darauf, wie gesellschaftlicher, wirtschaftlicher oder auch technologischer Wandel spielerisch voranschreiten kann. Und zwar so, dass möglichst viele Menschen sich eingeladen fühlen, mitzugestalten.

Christian Stein, Mitgründer des Gamelab Berlin, beschäftigt sich mit genau solchen Themen. Er hat Literatur und Informatik studiert, arbeitet also an der Schnittstelle zwischen Geist und Technologie. Er ist zudem beschäftigt am Exzellenzcluster „Matters of Activity“, das unter anderem zu dem Zusammenspiel aus Biologie und Technologie forscht. Mit Christian Fischer haben wir schon ein Interview zu Spieltheorie und Changemanagement geführt.

Jedes Team, das an einer „Superintelligenz“ arbeitet, braucht auch Personen, die der KI kritisch gegenüberstehen – ohne aber gleich kulturpessimistisch sein. Sibylle Berg hat sich für Bücher wie „Nerds retten die Welt“ oder „RCE“ mit vielen Expert:innen aus unterschiedlichen Bereichen unterhalten, um wichtige Fragen unserer Zeit zu verhandeln. Darunter auch immer die digitale Revolution. „Nerds“ sind ihr wichtig – besonders, wenn sie kritisch sind. Eine „Superintelligenz“ braucht aber auch mindestens eine Person, die Geschichten erzählen kann. Wir denken und handeln zu großen Teilen in Narrationen. Wer könnte das besser verstehen als eine begnadete Autorin?

Florian Zandt, t3n: Schon jetzt kann der unüberdachte Einsatz generativer KI großen Lücken in Sicherheitskonzepte reißen. Wenn sich dann noch die Verheißungen rund um AGI bewahrheiten und niemand mehr auf die entsprechenden Prozesse schaut, braucht es zwingend den Input von Sicherheitsexpert:innen.

So wie Manuel Atug. Atug ist nicht nur ausgewiesener Fachmann auf dem Gebiet der Cybersicherheit und Mitglied im Chaos Computer Club, sondern auch Gründer der von Wirtschaft und Lobbyverbänden unabhängigen Arbeitsgruppe Kritische Infrastrukturen, kurz AG Kritis. Aufgrund seiner Expertise berät Atug regelmäßig Bund und Länder – und wäre auch in einem Superintelligenz-Team ein wertvolles Mitglied.

KI-Kritiker:innen gibt es viele, ein großer Teil davon lehnt generative KI in Gänze ab. Arvind Narayanan, Informatikprofessor und Leiter des Center of Information Technology Policy in Princeton, gehört nicht dazu. Und das obwohl er sein jüngstes, mit dem Princeton-Doktoranden Sayash Kapoor verfasste Buch AI Snake Oil betitelt hat.

Narayanan geht es dabei allerdings um die nüchterne Betrachtung von KI abseits der üblichen Hype-Zyklen. Zusammen mit Kapoor spricht er sich dafür aus, generative KI als normale Technologie zu begreifen, weder als Utopiekatalysator noch als Bringer der Apokalypse. Dieser nüchterne Blick lohnt sich gerade bei einem Thema wie AGI, die von der KI-Industrie als Heilsbringer beworben wird.

Nils Bolder, t3n: Die Philosophin und Ethikerin Dorothea Winter beschäftigt sich besonders mit den Themen Digitalisierung und KI. Wenn man eine Superintelligenz schaffen möchte, sollte sie der Gesellschaft nutzen – dafür braucht es einen ethischen Handlungsrahmen und eben Dorothea Winter.

Wolfgang Stieler, Technology Review: Was aktuellen KI-Systemen auf dem Weg zur menschenähnlichen Intelligenz noch fehlt, ist die Fähigkeit, selbstständig dazuzulernen. Ein AGI-Team sollte also unbedingt an dieser Frage arbeiten.

Der isländische KI-Forscher Kristinn Thórisson, der seit über 30 Jahren zum Thema AGI forscht, arbeitet an solchen KIs. Sein Ziel: KI-Agenten, die vollständig autonom vorgehen – nur mit grundlegendem Wissen über das Lernen an sich starten und dann im Lauf der Zeit ihre eigene Programmierung ändern. Dabei gehe das System nur von „einer kleinen Menge an vom Designer spezifiziertem Code – einem Seed“ aus, schreibt er, und entwickelt sich dann autonom weiter. Das System soll dann weitgehend eigenständig entscheiden, was und wie es lernt.

In eine ganz ähnliche Richtung geht auch die Forschung von Pierre-Yves Oudeyer von der Universität Bordeaux. Er nennt das „Developmental AIs“, KI, die „kontinuierlich und selbst motiviert“ lernt, „autotelisch“ – sich selbst einen Sinn gebend. Erste Experimente mit solchen KI-Agenten waren vielversprechend, sie liefen allerdings in simulierten, extrem vereinfachten Umgebungen ab.

Damit das Team die Fähigkeiten seiner KI nicht gnadenlos überschätzt, braucht es schließlich auch Forschende, die vermeintliche Durchbrüche kritisch hinterfragen. Melanie Mitchell wäre dafür die ideale Kandidatin, denn sie forscht am Santa Fe Institute unter anderem an der Frage, wieviel Intelligenz tatsächlich in großen Sprachmodellen wie GPT 4 steckt.

Es bleibt abzuwarten, wie sich Mark Zuckerbergs ehrgeizige Pläne zur Entwicklung einer künstlichen allgemeinen Intelligenz entfalten werden. Die Auswahl der richtigen Talente wird entscheidend für den Erfolg des KI-Labors sein. Unsere Vorschläge können hier richtungsweisend sein. Wir sind gespannt, ob es eine:r unserer Kandidat:innen in Zuckerbergs Team schafft.