Anzeige
Anzeige
News

Wegen Sicherheitsbedenken gegangen: Ex-OpenAI-Manager heuert bei Rivale Anthropic an

Erst vor wenigen Tagen war OpenAI-Manager Jan Leike wegen Sicherheitsbedenken von Bord gegangen. Jetzt hat der KI-Forscher seinen Einstieg bei Anthropic bekanntgegeben – einem der größten Rivalen des ChatGPT-Entwicklers.

2 Min.
Artikel merken
Anzeige
Anzeige
Jan Leike: Weg von OpenAI – hin zu Claude-Entwickler Anthropic. (Koshiro K/Shutterstock)

Mitte Mai 2024, kurz nachdem OpenAI die Weiterentwicklung von ChatGPT vorgestellt hatte, machte Anthropic den hauseigenen KI-Chatbot Claude in Europa verfügbar. Anthropic soll unter anderem von Ex-Mitarbeiter:innen von OpenAI gegründet worden sein, die mit dem Sicherheitskurs und der kommerziellen Ausrichtung der KI-Firma unzufrieden waren.

Anzeige
Anzeige

Leike geht zur Konkurrenz

Mittlerweile soll Anthropic, das sich der Entwicklung sicherer KI-Systeme verschrieben hat, über 18 Milliarden US-Dollar wert sein. Zu den Investoren gehören etwa SAP, Google, Amazon und Zoom. Und jetzt ist mit Jan Leike ein weiterer hochrangiger Ex-OpenAI-Mitarbeiter an Bord, wie The Verge berichtet.

Leike hatte den ChatGPT-Entwickler erst vor wenigen Tagen im Unfrieden verlassen. In einer Reihe von Beiträgen auf X warf Leike OpenAI unter anderem vor, die Gefahren der Entwicklung von KI auszublenden. Insbesondere, wenn es um eine mögliche Super-KI (Artificial General Intelligence, AGI).

Anzeige
Anzeige

Altman zu unvorsichtig bei KI-Entwicklung?

Eine interne Warnung von OpenAI-Forscher:innen vor den Fähigkeiten der KI Q* (Q-Star) soll ja ausschlaggebend für den Rausschmiss von OpenAI-Chef Sam Altman gewesen sein. In einem Brief an den Verwaltungsrat war eine neue Entdeckung rund um Q* als potenzielle Gefahr für die Menschheit gewertet worden.

Altman war nach einigen Chaostagen wieder ins Unternehmen zurückgekehrt. Die Bedenken dürften aber nicht bei allen OpenAI-Mitarbeiter:innen zerstreut worden sein. Jedenfalls nicht jene von Mitgründer Ilya Sutskever, der Altmans Abgang mit vorangetrieben haben soll, aber zuletzt selbst OpenAI verließ.

Anzeige
Anzeige

Verantwortung für die Menschheit

Leike hatte etwa Mitte Mai geschrieben, dass die Sicherheitskultur des Unternehmens in den vergangenen Jahren zugunsten von „funkelnden Produkten“ – damit ist wohl vor allem ChatGPT gemeint – in den Hintergrund getreten sei. Dabei habe OpenAI eine Verantwortung für die gesamte Menschheit zu tragen.

Googles neue KI-Suche geht nach hinten los Quelle:

Bei Anthropic dürfte sich Leike jetzt wieder seinem Steckenpferd widmen können – der Kontrolle von superintelligenten KI-Systemen mit dem Ziel, dass diese nach menschlichen Werten handeln. Bei OpenAI soll hingegen das zu diesem Zweck zuvor eigens gegründete „Superalignment“-Team nach dem Weggang von Sutskever und Leike aufgelöst worden sein.

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Schreib den ersten Kommentar!
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige