Biologische Waffen per Prompt: OpenAI warnt vor Fähigkeiten neuer KI-Modelle
Ein Szenario, in dem zeitnah jede:r mithilfe von ChatGPT Biowaffen nachbauen kann, steht laut OpenAI kurz bevor. Schon die direkten Nachfolger des OpenAI-Reasoning-Modells o3 könnten diese Schwelle überschreiten. Das bestätigt Johannes Heidecke, führender Sicherheitsforscher bei dem KI-Startup, am vergangenen Mittwoch gegenüber Axios.
Laut Heidecke seien das Problem dabei keine komplett neuen Biowaffen, sondern der sogenannte „novice uplift“. Große Sprachmodelle werden angeblich immer besser in naturwissenschaftlichen Disziplinen wie Biologie oder Chemie. Das ermöglicht nicht nur medizinische Durchbrüche. Auch kriminelle Akteur:innen ohne Vorwissen könnten sich damit entsprechende Anleitungen in leicht verständlicher Sprache erstellen. Deswegen müsse OpenAI die Überprüfung und Filterung entsprechender Prompts weiter verbessern. „Wir brauchen ein nahezu perfektes System“, so Heidecke.
KI-Warnungen kommen häufig von den Firmen selbst
In der Vergangenheit haben nicht nur unabhängige Kritiker:innen, sondern auch die KI-Firmen selbst auf die potenziellen Gefahren des unregulierten Einsatzes von KI-Chatbots hingewiesen. Anthropic prognostiziert beispielsweise im März, dass seine Modelle bald beim Bau von Atom-, Bio- und chemischen Waffen (ABC-Waffen) helfen könnten. Im Mai führt das Startup zusammen mit Claude 4 neue Sicherheitsmechanismen zur Prävention ein.
Diese Warnungen seitens der KI-Firmen bewegen sich im Fahrwasser einer der beiden großen Strömungen im KI-Diskurs, des KI-Doomerism. Während Techno-Optimist:innen, Akzelerationist:innen oder Boomer an eine Zukunft glauben, in der künstliche Intelligenz etwa Krankheiten ausmerzt, wissenschaftlichen Fortschritt beschleunigt und Wohlstand für alle bringt, sehen Dezelerationist:innen oder Doomer die Entwicklung von KI skeptisch bis negativ. Das reicht von der Sorge über mangelnde Regulierung bis zur Furcht davor, dass eine übermächtige KI die Menschheit auslöschen wird.
Kritiker:innen wie die Computerlinguistin und Erfinderin des Begriffs „Stochastischer Papagei“ Emily Bender sehen in Doomerism und Boomerism zwei Seiten derselben Medaille. Gegenüber Business Insider erklärt die Wissenschaftlerin, dass beide Seiten KI als „Superkraft“ verstehen und das über die tatsächlichen Fähigkeiten der Technologie hinausgehe.
