Er gilt als einer der Pioniere in der Forschung zu künstlichen neuronalen Netzen und Deep Learning. Jetzt warnt der kanadische Informatiker Yoshua Bengio aber vor möglichen Gefahren, die künftig von Künstlicher Intelligenz (KI) ausgehen könnten.

Demnach könnten KI-Systeme, wenn sie weiter trainiert werden wie derzeit, sich irgendwann gegen Menschen wenden. Einige Menschen mit „viel Macht“ möchten vielleicht sogar, dass die Menschheit durch Maschinen ersetzt werde, erklärte Bengio gegenüber CNBC.

Eine sogenannte allgemeine künstliche Intelligenz (AGI), an der derzeit gearbeitet werde, würde nicht nur über menschenähnliche Intelligenz, sondern auch die Fähigkeit zum Selbststudium verfügen, so Bengio. Es sei wichtig, sich vorzustellen, was das mit einer Gesellschaft anrichten könne.

Von ebenso großer Bedeutung sei die Frage, wer diese potenzielle künftige Macht kontrolliert. „Systeme, die mehr wissen als die meisten Menschen, können in den falschen Händen gefährlich sein und zum Beispiel auf geopolitischer Ebene für mehr Instabilität oder Terrorismus sorgen“, so Bengio.

Das Problem sei, dass es viele Milliarden koste, leistungsfähige KI-Systeme zu errichten und zu trainieren. Und es seien nur wenige Organisationen oder Staaten in der Lage, die Entwicklung wirklich großer Systeme zu finanzieren – die natürlich um so stärker würden.

Schon innerhalb weniger Jahrzehnte, oder nur einiger Jahre, könnte die Menschheit entsprechende negative Auswirkungen spüren. Bisher fehle es etwa an Methoden, die KI-Systeme wirksam davon abhalten würden, sich gegen Menschen zu wenden. „Wir wissen einfach nicht, wie das geht“, so der KI-Pionier.

Es sei aber noch nicht zu spät, das Ruder herumzureißen und mögliche Gefahren durch KI zu verringern. Dazu müssten Regierungen aber zunächst einmal Regeln einführen, die etwa Firmen dazu verpflichten würden, sich und die Systeme, an denen sie arbeiten, zu registrieren und zu beschreiben.

Zudem müssten KI-Firmen für ihre Systeme haftbar gemacht werden. Dann würden sie vorsichtiger agieren, um nicht verklagt zu werden. Aktuell befinde man sich da in einer Grauzone, meint Bengio.

Auf kurze Sicht gesehen, sei KI aber vor allem gefährlich, wenn es um Falschinformationen gehe, etwa in Wahlkämpfen demokratischer Staaten. Dabei gehe es um noch realistischere Fake-Fotos oder -Videos sowie Chatbots, die laut einer Studie Menschen besser als Menschen von einer bestimmten Sache überzeugen könnten.

Die schwierigste Frage bleibe laut Bengio aber: „Wenn wir Wesen erschaffen, die intelligenter sind als wir und ihre eigenen Ziele verfolgen, was bedeutet das für die Menschheit? Sind wir in Gefahr?“ Um potenzielle Risiken abzumildern, bräuchte es jedenfalls viel mehr Forschung und vorausschauende Politik.