Im Bereich der künstlichen Intelligenz hat sich OpenAI spätestens mit ChatGPT einen Namen gemacht. Jetzt hat das Unternehmen in einem Blogbeitrag bekannt begeben, dass ein sogenanntes Preparedness-Team gegründet wird. Dieses Team soll Bedrohungen durch KI verfolgen, bewerten, prognostizieren und die Allgemeinheit davor schützen. Der Einsatzbereich umfasst dabei sogar chemische, biologische, radiologische und nukleare Szenarien.

Der OpenAI-CEO, Sam Altman, der sich öffentlich bereits besorgt über die potenziellen Gefahren der KI geäußert hat, scheint mit der Gründung dieses Teams einen wichtigen Schritt einzuleiten. Bereits im Mai dieses Jahres äußerte Altman vor dem Kongress seine Sorge über die Möglichkeit, dass KI außer Kontrolle geraten könnte.

Dabei betonte er die Notwendigkeit einer Zusammenarbeit mit der Regierung, um Katastrophen zu verhindern. Die Schaffung des Preparedness-Teams könnte jetzt als direkte Reaktion auf Altmans immer wieder erwähnte Besorgnis über die Gefahren von künstlicher Intelligenz interpretiert werden.

Die Schlüsselrolle des Preparedness-Teams besteht darin, risikoinformierte Richtlinien zu entwickeln und diese aufrechtzuerhalten. Diese Richtlinien sollen einen umfassenden Rahmen für die Überwachung, Bewertung und Vorhersage der gefährlichen Fähigkeiten von KI-Systemen bieten.

So sollen diese Maßnahmen dazu beitragen, die Sicherheit hochleistungsfähiger KI-Systeme zu gewährleisten und die Entwicklung neuer Technologien verantwortungsbewusst zu lenken.

Während OpenAI daran arbeitet, KI zu einer alltäglichen Realität zu machen, betont es gleichzeitig auch die Verpflichtung, die schlimmsten Auswirkungen so gering wie möglich zu halten und im besten Fall vollständig zu verhindern. Das Unternehmen verspricht dabei, KI einzudämmen und sich mit Cybersecurity-Bedenken auseinanderzusetzen, ohne jedoch konkrete Details zu nennen.