10 Millionen Dollar für sichere KI: OpenAI, Google und andere starten Förderprogramm
Das Frontier Model Forum bekommt mit Chris Meserole seinen ersten Exekutivdirektor. Meserole hatte zuvor bei dem einflussreichen US-amerikanischen Thinktank Brookings Institution als KI-Experte gearbeitet. Neben der Ernennung des neuen und ersten Chefs des vor drei Monaten gegründeten Industriegremiums hat das Frontier Model Forum auch die Schaffung eines mit zehn Millionen US-Dollar ausgestatteten Förderprogramms angekündigt.
Das Geld wird laut Pressemitteilung von den Mitgliedern des Forums sowie von der Stiftung des IDG-Gründers Patrick J. McGovern, dem ehemaligen Google-CEO Eric Schmidt und dem estnischen Tech-Investor und Kazaa-Entwickler Jaan Tallinn bereitgestellt.
Mit dem Geld soll die Entwicklung von Instrumenten unterstützt werden, mit denen „die Gesellschaft die leistungsfähigsten KI-Modelle wirksam testen und bewerten kann.“
Im Juli 2023 hatten die Firmen hinter dem Frontier Model Forum eine freiwillige Selbstverpflichtung im Weißen Hause unterschrieben, mit der sie sich unter anderem dazu verpflichtet haben, Dritten die Erkennung und Meldung von Sicherheitslücken in ihren KI-Systemen zu vereinfachen. Der KI-Sicherheitsfonds sei ein wichtiger Teil, um diese Verpflichtung zu erfüllen, heißt es vom Frontier Model Forum.
Mit ChatGPT-Entwickler OpenAI und dem ebenfalls auf große Sprachmodelle spezialisierten Unternehmen Anthropic gehören zwei der bekanntesten KI-Startups zu den Gründern des Frontier Model Forum. Ihnen zur Seite stehen mit Microsoft und Google zwei der größten Tech-Unternehmen der Welt.
Die zwei Startups und zwei Tech-Konzerne sind auch finanziell verbunden. Microsoft ist OpenAIs größter Geldgeber. Google wiederum gehörte zu den ersten Großinvestoren von Anthropic.
Gegründet wurde das Frontier Model Forum eine Woche nachdem sich die beteiligten Firmen gegenüber der US-Regierung verpflichtet hatten, potenzielle Gefahren durch KI einzudämmen. Erklärtes Ziel der Organisation ist, die Entwicklung verantwortungsvoller KI-Systeme voranzutreiben sowie ihr Wissen mit Politik, Wissenschaft und Zivilgesellschaft zu teilen.
Wie genau diese Ziele umgesetzt werden sollen, bleibt aber weiterhin unklar. Laut der Organisation will das Frontier Model Forum in den kommenden Monaten einen Beirat bestimmen, der dann Strategie und Prioritäten mitbestimmen soll. Dort sollen „eine Reihe von Perspektiven und Fachkenntnissen“ vertreten sein.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team