Yoshua Bengio ist Gründer und Leiter des Instituts für Lernalgorithmen an der kanadischen Universität Montreal. Bengio ist bekannt für seine bahnbrechenden Arbeiten zu neuronalen Netzwerken und tiefer Lernmethodik, für die er 2018 gemeinsam mit Geoffrey Hinton und Yann LeCun mit dem Turing Award, oft als „Nobelpreis der Informatik” bezeichnet, ausgezeichnet wurde.

Gemeinsam mit Hinton und LeCun wird er oft als einer der „Väter des Deep Learning“ bezeichnet. Es erstaunt nicht, dass sein Wort Gehör findet.

Bengio gehört zu den öffentlichen Unterzeichner:innen des offenen Briefs „Right to Warn“, der von führenden KI-Forscher:innen bei OpenAI verfasst wurde und in dem sie behaupten, dass sie über die Gefahren der Technologie zum Schweigen gebracht werden sollen.

In einem Interview mit CNBC sagte Bengio nun, dass Mitglieder einer „Elite-Tech-Randgruppe“ wollen würden, dass KI den Menschen ersetzt. „Intelligenz verleiht Macht. Wer wird diese Macht kontrollieren?“, fragte der Experte während des One Young World Summit in Montreal.

Der One Young World Summit positioniert sich als eine Plattform, die innovative Lösungen für dringende globale Herausforderungen wie nachhaltige Entwicklung, Geschlechtergleichstellung und den verantwortungsvollen Einsatz von künstlicher Intelligenz diskutieren will. So soll der als erforderlich erkannte gesellschaftliche Wandel beschleunigt werden.

„Es gibt Menschen, die diese Macht missbrauchen wollen, und es gibt Menschen, die sich freuen würden, wenn die Menschheit durch Maschinen ersetzt würde“, so Bengio. „Ich meine, das ist eine Randerscheinung, aber diese Menschen können viel Macht haben, und sie können es tun, wenn wir nicht sofort die richtigen Leitplanken setzen.“

Da die Entwicklung von KI-Systemen Milliarden von Dollar koste, könne der Aspekt der finanziellen Stärke nicht ignoriert werden, so der Experte für maschinelles Lernen. Schon jetzt seien „nur sehr wenige Organisationen und Länder“ dazu in der Lage. Es sei also bereits eine Vormachtstellung zu erkennen.

„Es wird eine Machtkonzentration geben: wirtschaftliche Macht, die schlecht für die Märkte sein kann; politische Macht, die schlecht für die Demokratie sein könnte; und militärische Macht, die schlecht für die geopolitische Stabilität unseres Planeten sein könnte“, skizziert Bengio eine düstere Zukunft.

Zwar gibt es derzeit Uneinigkeit in der Frage, ob eine künstliche allgemeine Intelligenz (AGI) oder eine KI auf menschlicher Ebene jemals erreicht werden kann. Wenn dies indes doch geschehe, bevor die globale Politik aufhole, „sind wir in Schwierigkeiten“, so Bengio.

„Wenn es in fünf Jahren geschieht, sind wir nicht bereit“, schloss er, „weil wir nicht über Methoden verfügen, um sicherzustellen, dass diese Systeme den Menschen keinen Schaden zufügen oder sich nicht gegen sie wenden.“