KI versus Menschheit: PauseAI und die Debatte um die Zukunft künstlicher Intelligenz
Mittlerweile ist klar, künstliche Intelligenz ist hier, um zu bleiben. OpenAI baut ChatGPT weiter aus und auch die Konkurrenz entwickelt ihre großen Sprachmodelle immer weiter. Doch das scheint nicht allen zu gefallen. Die PauseAI-Bewegung fordert beispielsweise einen Stopp einiger KI-Entwicklungen. Aber warum?
Am 13. Mai 2024 standen zuletzt Demonstrierende von PauseAI vor dem britischen Ministerium für Wissenschaft, Innovation und Technologie in London. Einer der Demonstranten erzählt dem Time-Magazin, er mache sich Sorgen, dass die KI-Unternehmen nicht genug tun, um die Sicherheit der Technologie zu gewährleisten. Auf seinem Schild steht „The human race is Russian roulette“ – mit der Menschheit werde russisches Roulette gespielt.
Das sind die Forderungen der Bewegung
Mitglieder von PauseAI sehen in der Entwicklung künstlicher Intelligenz eine Gefahr. So heißt es auf der Website: „Wir sind eine Gemeinschaft […], die sich zum Ziel gesetzt hat, die Risiken der künstlichen Intelligenz […] zu mindern. Wir wollen unsere Regierungen davon überzeugen, einzugreifen und die Entwicklung von übermenschlicher KI zu stoppen.“
Deswegen fordert die Bewegung, wie der Name schon vermuten lässt, KI-Entwicklungen zu stoppen – allerdings nicht alle. Besorgt sind die Mitglieder von PauseAI über AGI, also Artificial General Intelligence. In dem Vorschlag sind damit KI-Systeme gemeint, die stärker als GPT‑4 seien. Denn: Die Menschheit wisse noch nicht, wie sie diese Tools kontrollieren könne. Genügend Institutionen und Strukturen, die einen sicheren Umgang garantieren, gebe es nicht.
Die Bewegung ist mittlerweile weltweit aktiv. Es gab laut Time schon Demonstrationen in den USA, Großbritannien, Brasilien, Australien und Norwegen. Auch in Deutschland gibt es mehrere Gruppierungen: in Berlin, Oldenburg und Augsburg.
Risiken gibt es schon heute
Dass generative KI, also künstliche Intelligenz, die eigenständige Dinge erschaffen kann, auch die heutige Gesellschaft vor Herausforderungen stellt, ist bekannt. So kursieren schon heute künstlich erstellte Fake News im Internet, die wirken, als wären sie aus der Tagesschau. Auch durch Deepfakes können Gefahren entstehen. Zusätzlich können auch KI-Tools diskriminieren, wenn sie nicht richtig trainiert werden. Denn auch die Trainingsdaten enthalten Vorurteile.
Die wohl extremste Prognose von PauseAI ist weiter in Zukunft gerichtet: Anhänger:innen befürchten, dass eine Super-KI das Ende der Menschheit bedeuten könnte. Damit sind sie sogar nicht allein. KI-Forschenden glauben, dass es eine durchschnittlich 14-prozentige Wahrscheinlichkeit gibt, dass eine superintelligente KI, die intelligenter ist als der Mensch, sehr schlimme Konsequenzen hätte. Weil solche Systeme Zugang zum Internet haben, würden sie laut PauseAI andere Geräte hacken können. Dadurch würden Menschen gezielt manipuliert werden oder sogar Atomwaffen gezündet werden können.
Um das zu verhindern, sollen alle Arbeiten, die zu einer AGI führen könnten, gestoppt werden. Dass das jedoch so gut wie alle heutigen KI-Systeme ausschließt, sagt die Bewegung selbst. PauseAI hat momentan nicht wirklich viel Momentum. Bei der Demonstration in London erschienen laut Time ungefähr 20 Menschen.
