Das Moratorium soll mindestens ein halbes Jahr andauern. In dieser Zeit sollen keinerlei KI-Modelle trainiert werden, die mächtiger als GPT-4 sind. Sollte sich die Branche nicht daran halten, müsse notfalls die Staatengemeinschaft eingreifen. Gefordert wird das in einem offenen Brief, den einige bekannte KI-Wissenschaftler:innen unterzeichnet haben.
Unter den Unterzeichner:innen befinden sich sowohl Forscher:innen aus dem universitären Betrieb als auch aus dem kommerziellen Sektor. So haben gleich mehrere KI-Expert:innen von Googles KI-Tochter Deepmind und auch der Stability-AI-Chef Emad Mostaque die Petition unterzeichnet. Außerdem unterstützten Tech-Persönlichkeiten wie Tesla-Chef Elon Musk und Apple-Mitgründer Steve Wozniak die Forderung.
Die Autor:innen verweisen in ihrem Brief auf einen kürzlich von OpenAI veröffentlichtem Blogbeitrag, in dem es heißt, es könne die Zeit kommen, in der unabhängig überprüft werden müsse, bevor noch mächtigere KI-Modelle trainiert werden sollten. Ihre Antwort darauf: „Wir stimmen zu. Dieser Zeitpunkt ist jetzt gekommen.“
Forscher:innen fordern Entwicklung von Sicherheitsprotokollen für KI-Entwicklung
„KI-Labore und unabhängige Experten sollten diese Pause nutzen, um eine Reihe gemeinsamer Sicherheitsprotokolle für fortschrittliche KI-Designs und -Entwicklungen zu entwickeln und umzusetzen, die von unabhängigen externen Experten streng geprüft und überwacht werden“, fordern die Unterzeichner:innen.
Gleichzeitig müsse der KI-Sektor mit den Gesetzgebern zusammenarbeiten, um robuste Regulierungssysteme zu entwickeln. Die müssen, so die Autor:innen, mindestens eine neue Regulierungsbehörde für KI, eine Überwachung aller hochleistungsfähigen KI-Systeme, Möglichkeiten um echte von synthetischen Systemen zu unterscheiden, Haftungsmöglichkeiten für durch KI zugefügte Schäden und eine solide öffentliche Finanzierung von KI-Sicherheitsforschung umfassen.
Nur so könne die Gesellschaft mit den „dramatischen wirtschaftlichen und politischen Störungen“ fertig werden, die KI verursachen werde. „Nachdem es uns gelungen ist, leistungsfähige KI-Systeme zu schaffen, können wir nun einen ‚KI-Sommer‘ genießen, in dem wir die Früchte ernten, diese Systeme zum eindeutigen Nutzen aller entwickeln und der Gesellschaft eine Chance zur Anpassung geben“, so die Unterzeichner:innen.
KI-Moratorium: Wie hoch ist die Chance auf Erfolg?
Sei es Microsoft oder Adobe: Die Vorstellung neuer KI-Features führte bei fast allen Tech-Konzernen in den letzten Monaten zu deutlichen Kurssteigerungen. Sich jetzt auf ein Moratorium einzulassen, wäre daher wohl kaum im Interesse der Anleger.
Gleichzeitig scheint auch das für den Notfall eingeforderte Eingreifen staatlicher Akteure eher unwahrscheinlich. Um nicht gegenüber anderen Staaten ins Hintertreffen zu geraten, müsste am Ende die gesamte Staatengemeinschaft mitziehen.
Immerhin könnte der Appell der Expert:innen aber dazu führen, dass die in dem offenen Brief aufgeworfenen Fragen breiter diskutiert werden. Denn wie es mit der KI-Entwicklung weitergeht, betrifft uns letztlich alle.
