
OpenAI will KI nicht zu mächtig werden lassen. (Foto: Camilo Concha / Shutterstock)
Im Bereich der künstlichen Intelligenz hat sich OpenAI spätestens mit ChatGPT einen Namen gemacht. Jetzt hat das Unternehmen in einem Blogbeitrag bekannt begeben, dass ein sogenanntes Preparedness-Team gegründet wird. Dieses Team soll Bedrohungen durch KI verfolgen, bewerten, prognostizieren und die Allgemeinheit davor schützen. Der Einsatzbereich umfasst dabei sogar chemische, biologische, radiologische und nukleare Szenarien.
Der OpenAI-CEO, Sam Altman, der sich öffentlich bereits besorgt über die potenziellen Gefahren der KI geäußert hat, scheint mit der Gründung dieses Teams einen wichtigen Schritt einzuleiten. Bereits im Mai dieses Jahres äußerte Altman vor dem Kongress seine Sorge über die Möglichkeit, dass KI außer Kontrolle geraten könnte.
Dabei betonte er die Notwendigkeit einer Zusammenarbeit mit der Regierung, um Katastrophen zu verhindern. Die Schaffung des Preparedness-Teams könnte jetzt als direkte Reaktion auf Altmans immer wieder erwähnte Besorgnis über die Gefahren von künstlicher Intelligenz interpretiert werden.
Die Schlüsselrolle des Preparedness-Teams besteht darin, risikoinformierte Richtlinien zu entwickeln und diese aufrechtzuerhalten. Diese Richtlinien sollen einen umfassenden Rahmen für die Überwachung, Bewertung und Vorhersage der gefährlichen Fähigkeiten von KI-Systemen bieten.
So sollen diese Maßnahmen dazu beitragen, die Sicherheit hochleistungsfähiger KI-Systeme zu gewährleisten und die Entwicklung neuer Technologien verantwortungsbewusst zu lenken.
Während OpenAI daran arbeitet, KI zu einer alltäglichen Realität zu machen, betont es gleichzeitig auch die Verpflichtung, die schlimmsten Auswirkungen so gering wie möglich zu halten und im besten Fall vollständig zu verhindern. Das Unternehmen verspricht dabei, KI einzudämmen und sich mit Cybersecurity-Bedenken auseinanderzusetzen, ohne jedoch konkrete Details zu nennen.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team