Der ehemalige Google-CEO Eric Schmidt warnt vor künstlicher Intelligenz. Sie stelle ein existenzielles Risiko für die Menschheit dar und könne dazu führen, dass Menschen schwer verletzt oder sogar getötet werden.

Diese Meinung teilte er auf dem CEO Council Summit des Wall Street Journal in London, wie CNBC berichtet. „Und existenzielles Risiko ist definiert als viele, viele, viele, viele Menschen, die verletzt oder getötet werden“, sagte Schmidt dort.

„Es gibt nicht heute, aber schon bald Szenarien, in denen diese Systeme in der Lage sein werden, Zero-Day-Exploits in Cyber-Problemen zu finden oder neue Arten der Biologie zu entdecken. Nun, das ist heute eine Fiktion, aber die Prämisse dürfte wahr sein. Und wenn das passiert, wollen wir wissen, wie wir sicherstellen können, dass diese Dinge nicht von bösartigen Menschen missbraucht werden.“

Zero-Day-Exploits sind Bugs in einer Software, die dem Hersteller nicht bekannt sind. Das wiederum bedeutet, dass sie ausgenutzt werden können. Hacker nutzen solche Exploits häufig, um zum Beispiel Daten zu stehlen oder fremde Geräte zu übernehmen.

Schmidt warnt also davor, dass künstliche Intelligenz solche Sicherheitslücken in der Zukunft selbständig finden und ausnutzen könnte. Deshalb ist er der Meinung, dass KI reguliert werden sollte, bevor es zu spät ist. 

Wie genau diese Regulierung aussehen könnte, teilte er allerdings nicht. Er sagte nur, dass das eine umfassendere Frage sei, die die gesamte Gesellschaft betreffe. Auch welche Behörde für so eine Regulierung zuständig wäre, ließ er offen.

Auch OpenAI-CEO Sam Altman hat sich vor Kurzem zur Regulierung von KI geäußert. Ihm zufolge sollen KI wie Atomwaffen reguliert werden. Damit meint er, dass es für KI eine ähnliche Kontrollinstanz wie die IAEA für Atomwaffen geben sollte. 

Die IAEA regelt die Sicherheitsvorgaben für Atomwaffen und hat über 150 Mitgliedsstaaten. Sie trägt laut Altman dazu bei, dass Atomwaffen seit 1945 nicht mehr als Waffen eingesetzt werden.