KI außer Kontrolle? Ex-Google-Chef Schmidt warnt: „Müssen irgendwann den Stecker ziehen“

Eric Schmidt spricht deutliche Warnungen aus. Computer würden bald in der Lage sein, ihre eigenen Entscheidungen zu treffen. Spätestens dann müssten die Menschen ihnen den Stecker ziehen, so der langjährige Google-CEO.
Ex-Google-Chef: KI-Technologie wird „mächtigere Ziele“ haben
In einem Interview in der ABC-Nachrichtensendung „This Week“ plädierte Schmidt dafür, dass die Menschen die Vorteile der KI nutzen müssen, „während sie die menschliche Würde und die menschlichen Werte bewahren“. Das sei beileibe nicht einfach.
Denn die sozialen Medien hätten den globalen Zeitgeist schnell verändert, „und jetzt stellen Sie sich eine viel intelligentere, viel stärkere Art vor, Nachrichten zu senden, Dinge zu erfinden, die Innovationsrate, die Entdeckung von Medikamenten und all das, plus all die schlechten Dinge, wie Waffen und Cyberangriffe.“
Bald werde es Computer geben, die „von selbst laufen und entscheiden, was sie tun wollen“, ist sich Schmidt sicher. Zwar konzentriere sich die Branche derzeit eher auf KI-Agenten, aber die Technologie werde „mächtigere Ziele“ haben.
Schmidt: Physikalischer Stecker für KI unabdingbar
„Irgendwann sagt man zum Computer: ‚Lerne alles und mache alles‘, und das ist ein gefährlicher Punkt“, meint er. Wenn das System sich selbst verbessern könne, „müssen wir ernsthaft darüber nachdenken, den Stecker zu ziehen.“
Auch die Gefahr, dass ein entsprechend leistungsfähiges KI-System in der Lage sein würde, Bemühungen, es abzuschalten, entgegenzuwirken, hält er für real: „Theoretisch sollten wir besser jemanden haben, der den Stecker in der Hand hält.“
Schmidt zieht zudem in Zweifel, ob es sinnvoll sein kann, dass „jede Person das Äquivalent eines Universalgelehrten in der Tasche“ habe. Es sei nicht klar, „was es bedeutet, jedem Einzelnen diese Art von Macht zu geben“.
Ebenso sorgt er sich um die Frage, was ein Unternehmen, das sich im KI-Wettlauf einen Vorsprung sichern will, alles tun könnte. Vielleicht würden dann Schritte bei Sicherheitstests übersprungen, was am Ende dazu führen könnte, dass das Unternehmen ein System herausbringt, das schädlich ist.
Regierungen täten derzeit „noch nicht“ genug, um die KI auf dem Weg zur Superintelligenz zu regulieren. Schmidt zeigt sich indes zuversichtlich, dass „sie es tun werden, weil sie es müssen“.
China rollt den KI-Markt gleichsam von unten auf
Ebenfalls besorgt den Ex-Google-Chef die Aufholjagd Chinas im KI-Bereich. Zwar seien die USA derzeit noch „China ein paar Jahre voraus“, dennoch hole das Land schnell auf und das obwohl sowohl die Trump- als auch die Biden-Regierung versucht haben, China den Zugang zu fortschrittlichen Chips und anderen Technologien zu beschneiden.
„Es ist von entscheidender Bedeutung, dass Amerika dieses Rennen gewinnt, global und insbesondere vor China“, warnt Schmidt. Diesbezüglich setze er auf die kommende US-Regierung, die „sich weitgehend auf den Konflikt zwischen China und den USA konzentrieren werde“.
Tatsächlich sind beide Staaten auf dem KI-Sektor in unterschiedlichen Bereichen vorn. Die USA sind derzeit technologisch führend, hauptsächlich im Bereich der Grundlagenforschung und bei den Spitzentechnologien, während China bei der Skalierung und Implementierung von KI-Systemen auf breiter Ebene führend ist, was an den aufgrund kaum vorhandener Datenschutzregeln riesigen Datensätzen aus der eigenen Bevölkerung, primär aus der Überwachung selbiger, resultiert.