OpenAI: Was das Paper eines Board-Mitglieds mit dem Führungschaos zu tun hatte - t3n

Ein kritisches Paper vom ehemaligen Board-Mitglied Helen Toner soll letztlich zu OpenAIs Implosion beigetragen haben. Was steht in dem Bericht? Laut einem Bericht der New York Times war einer der Auslöser für das Führungschaos bei OpenAI ein im Oktober 2023 veröffentlichtes Paper. Offenbar war Sam Altman von dem kritischen Ton wenig angetan, zumal mit Helen Toner eine der drei Autor:innen selbst Mitglied im OpenAI-Board war. Konkret geht es in dem Paper um Aussagen oder Handlungen von staatlichen oder privaten Akteuren aus dem KI-Sektor, die sie zu einem späteren Zeitpunkt bezahlen müssen. Und zwar entweder in finanzieller oder politischer Hinsicht oder im Hinblick auf ihre Reputation. In dem Paper von Toner und ihren zwei Kollegen werden diese „kostspieligen Signale“ anhand von drei Fallbeispielen beleuchtet. Das letzte dieser Beispiele befasst sich mit dem privaten KI-Sektor – und genau hier wird auch OpenAI genannt. Worum geht es bei der Kritik an OpenAI? Mit der Veröffentlichung des großen Sprachmodells GPT-4 hat OpenAI auch eine sogenannte System Card veröffentlicht. Diese enthält eine Liste potenzieller Risiken, die aus der Nutzung des KI-Modells entstehen könnten. Außerdem enthält sie Informationen darüber, wie lange und in welchem Umfang OpenAI vor der Veröffentlichung daran gearbeitet hat, potenzielle Risiken zu minimieren. [crosslinks ids="1591050,1590733,1590890"] „Mit der Veröffentlichung einer so gründlichen und offenen Bewertung der Mängel seines Modells hat sich OpenAI in gewisser Weise selbst die Hände gebunden und die Erwartung geweckt, dass das Unternehmen in Zukunft ähnliche Risikobewertungen für wichtige neue Versionen erstellen und veröffentlichen wird“, heißt es dazu in dem Paper von Toner und ihren Kollegen. Neben den Kosten, die entstehen, wenn OpenAI diese Erwartungshaltung auch in Zukunft bedient, hat das Unternehmen nach Ansicht der Autor:innen des Papers auch dadurch Kosten verursacht, weil sie GPT-4 aufgrund der in der System Card genannten Maßnahmen später veröffentlicht haben, als eigentlich möglich gewesen wäre. „Diese Kosten lassen sich insofern verringern, als dass OpenAI einen größeren Marktanteil erlangen kann, indem es glaubhaft sein Engagement für die Entwicklung sicherer und vertrauenswürdiger Systeme unter Beweis stellt“, so die Autor:innen. Sprich: Die Kosten wären am Ende eine sinnvolle Investition, die sich später bezahlt macht. Allerdings wird in dem Paper eingeworfen, dass OpenAI die Effektivität dieser Maßnahmen durch andere Handlungen minimiert habe. Konkret gemeint ist damit die Veröffentlichung von ChatGPT vier Monate zuvor. Der heute weltweit bekannte KI-Chatbot setzt nämlich noch auf GPT-3.5 – und für dieses KI-Modell hat OpenAI nie so umfassende Sicherheitstests durchgeführt und veröffentlicht. Anthropic: Startup ehemaliger OpenAI-Mitarbeiter:innen als positives Beispiel Im Paper werden die Handlungen von OpenAI direkt mit denen des Konkurrenten Anthropic verglichen. Es ist möglich, dass genau dieser Vergleich bei Sam Altman für Ärger gesorgt hat. Anthropic wurde 2021 von den Geschwistern Daniela und Dario Amodei gegründet. Letzterer war bis dahin OpenAIs Vizepräsident für KI-Forschung. Die Amodeis hatten OpenAI aus Streit über die zunehmende Kommerzialisierung verlassen. Laut einem Bericht der New York Times sollen sie zuvor versucht haben, das Board von der Absetzung Altmans zu überzeugen. Eine Anthropic-Sprecherin widerspricht dieser Aussage jedoch. In dem von Toner mitverfassten Paper schneidet Anthropic im direkten Vergleich zu OpenAI besser ab. So habe das Unternehmen seinen KI-Chatbot Claude nur deswegen öffentlich gemacht, weil OpenAI zuvor bereits ChatGPT veröffentlicht hatte. „Indem Anthropic die Veröffentlichung von Claude verzögerte, bis ein anderes Unternehmen ein ähnlich leistungsfähiges Produkt auf den Markt brachte, zeigte das Unternehmen seine Bereitschaft, genau die Art von hektischen Maßnahmen zu vermeiden, die die Veröffentlichung von ChatGPT anscheinend anspornte“, so die Autor:innen des Papers. Was hat Sam Altman an dem Paper gestört? Letztlich geht es in Toners Paper darum, welche Wirkung absichtlich und unabsichtlich gesendete Signale haben können. Eine tiefergehende Kritik am Vorgehen von OpenAI ist es allerdings nicht. Laut der New York Times reichte es aber dennoch aus, um Altman zu verärgern. „Jede Kritik eines Vorstandsmitglieds hat großes Gewicht“, soll der neue und alte OpenAI-CEO in einer Mail geschrieben haben. Toner, die als Direktor am Center for Security and Emerging Technology an der Georgetown University beschäftigt ist, soll ihr Paper wiederum als Teil ihrer wissenschaftlichen Arbeit verteidigt haben. Später soll Altman dann mit dem Board-Mitglied und OpenAI-Chefwissenschaftler Ilya Sutskever den Ausschluss von Toner aus dem Board diskutiert haben. Sutskever hat sich dann jedoch auf die Seite von Toner gestellt, Altman wurde gefeuert und das Führungschaos bei OpenAI nahm seinen Lauf. Mittlerweile ist Altman wieder CEO und sowohl Toner als auch Sutskever haben ihren Sitz im Aufsichtsrat von OpenAI verloren.