Wegen Sicherheitsbedenken gegangen: Ex-OpenAI-Manager heuert bei Rivale Anthropic an
Mitte Mai 2024, kurz nachdem OpenAI die Weiterentwicklung von ChatGPT vorgestellt hatte, machte Anthropic den hauseigenen KI-Chatbot Claude in Europa verfügbar. Anthropic soll unter anderem von Ex-Mitarbeiter:innen von OpenAI gegründet worden sein, die mit dem Sicherheitskurs und der kommerziellen Ausrichtung der KI-Firma unzufrieden waren.
Leike geht zur Konkurrenz
Mittlerweile soll Anthropic, das sich der Entwicklung sicherer KI-Systeme verschrieben hat, über 18 Milliarden US-Dollar wert sein. Zu den Investoren gehören etwa SAP, Google, Amazon und Zoom. Und jetzt ist mit Jan Leike ein weiterer hochrangiger Ex-OpenAI-Mitarbeiter an Bord, wie The Verge berichtet.
Leike hatte den ChatGPT-Entwickler erst vor wenigen Tagen im Unfrieden verlassen. In einer Reihe von Beiträgen auf X warf Leike OpenAI unter anderem vor, die Gefahren der Entwicklung von KI auszublenden. Insbesondere, wenn es um eine mögliche Super-KI (Artificial General Intelligence, AGI).
Altman zu unvorsichtig bei KI-Entwicklung?
Eine interne Warnung von OpenAI-Forscher:innen vor den Fähigkeiten der KI Q* (Q-Star) soll ja ausschlaggebend für den Rausschmiss von OpenAI-Chef Sam Altman gewesen sein. In einem Brief an den Verwaltungsrat war eine neue Entdeckung rund um Q* als potenzielle Gefahr für die Menschheit gewertet worden.
Altman war nach einigen Chaostagen wieder ins Unternehmen zurückgekehrt. Die Bedenken dürften aber nicht bei allen OpenAI-Mitarbeiter:innen zerstreut worden sein. Jedenfalls nicht jene von Mitgründer Ilya Sutskever, der Altmans Abgang mit vorangetrieben haben soll, aber zuletzt selbst OpenAI verließ.
Verantwortung für die Menschheit
Leike hatte etwa Mitte Mai geschrieben, dass die Sicherheitskultur des Unternehmens in den vergangenen Jahren zugunsten von „funkelnden Produkten“ – damit ist wohl vor allem ChatGPT gemeint – in den Hintergrund getreten sei. Dabei habe OpenAI eine Verantwortung für die gesamte Menschheit zu tragen.
Bei Anthropic dürfte sich Leike jetzt wieder seinem Steckenpferd widmen können – der Kontrolle von superintelligenten KI-Systemen mit dem Ziel, dass diese nach menschlichen Werten handeln. Bei OpenAI soll hingegen das zu diesem Zweck zuvor eigens gegründete „Superalignment“-Team nach dem Weggang von Sutskever und Leike aufgelöst worden sein.
