10 Millionen Dollar für sichere KI: OpenAI, Google und andere starten Förderprogramm
Das Frontier Model Forum bekommt mit Chris Meserole seinen ersten Exekutivdirektor. Meserole hatte zuvor bei dem einflussreichen US-amerikanischen Thinktank Brookings Institution als KI-Experte gearbeitet. Neben der Ernennung des neuen und ersten Chefs des vor drei Monaten gegründeten Industriegremiums hat das Frontier Model Forum auch die Schaffung eines mit zehn Millionen US-Dollar ausgestatteten Förderprogramms angekündigt.
Das Geld wird laut Pressemitteilung von den Mitgliedern des Forums sowie von der Stiftung des IDG-Gründers Patrick J. McGovern, dem ehemaligen Google-CEO Eric Schmidt und dem estnischen Tech-Investor und Kazaa-Entwickler Jaan Tallinn bereitgestellt.
Mit dem Geld soll die Entwicklung von Instrumenten unterstützt werden, mit denen „die Gesellschaft die leistungsfähigsten KI-Modelle wirksam testen und bewerten kann.“
Im Juli 2023 hatten die Firmen hinter dem Frontier Model Forum eine freiwillige Selbstverpflichtung im Weißen Hause unterschrieben, mit der sie sich unter anderem dazu verpflichtet haben, Dritten die Erkennung und Meldung von Sicherheitslücken in ihren KI-Systemen zu vereinfachen. Der KI-Sicherheitsfonds sei ein wichtiger Teil, um diese Verpflichtung zu erfüllen, heißt es vom Frontier Model Forum.
Branchengremium der KI-Riesen: Das steckt hinter dem Frontier Model Forum
Mit ChatGPT-Entwickler OpenAI und dem ebenfalls auf große Sprachmodelle spezialisierten Unternehmen Anthropic gehören zwei der bekanntesten KI-Startups zu den Gründern des Frontier Model Forum. Ihnen zur Seite stehen mit Microsoft und Google zwei der größten Tech-Unternehmen der Welt.
Die zwei Startups und zwei Tech-Konzerne sind auch finanziell verbunden. Microsoft ist OpenAIs größter Geldgeber. Google wiederum gehörte zu den ersten Großinvestoren von Anthropic.
Gegründet wurde das Frontier Model Forum eine Woche nachdem sich die beteiligten Firmen gegenüber der US-Regierung verpflichtet hatten, potenzielle Gefahren durch KI einzudämmen. Erklärtes Ziel der Organisation ist, die Entwicklung verantwortungsvoller KI-Systeme voranzutreiben sowie ihr Wissen mit Politik, Wissenschaft und Zivilgesellschaft zu teilen.
Wie genau diese Ziele umgesetzt werden sollen, bleibt aber weiterhin unklar. Laut der Organisation will das Frontier Model Forum in den kommenden Monaten einen Beirat bestimmen, der dann Strategie und Prioritäten mitbestimmen soll. Dort sollen „eine Reihe von Perspektiven und Fachkenntnissen“ vertreten sein.