KI-Pionier warnt: Risiko, dass die Menschheit durch KI ausstirbt, betrage bis zu 20 Prozent
Geoffrey Hinton gilt als einer der wichtigsten Pioniere auf dem Gebiet der Künstlichen Intelligenz. Erst kürzlich erhielt er gemeinsam mit John Hopfield den Nobelpreis für Physik für seine Forschungen zum Maschinellen Lernen. Wie The Guardian berichtet, hat Hinton jetzt in einem Interview mit der BBC eine düstere Prognose abgegeben: Die Wahrscheinlichkeit, dass KI innerhalb der nächsten drei Jahrzehnte zur Auslöschung der Menschheit führt, schätzt er auf zehn bis 20 Prozent. Das Tempo der Entwicklung sei viel schneller, als er erwartet habe.
KI-Pionier warnt vor Risiken und fordert Regulierung
Geoffrey Hinton ist ein britisch-kanadischer Informatiker und Professor an der University of Toronto. Er ist vor allem für seine bahnbrechenden Arbeiten auf dem Gebiet der neuronalen Netze bekannt und war auch an mehreren Unternehmen wie zum Beispiel Google beteiligt, die KI-Technologien vorantreiben. Im vergangenen Jahr ist er von seiner Position bei dem Tech-Riesen zurückgetreten. Dabei kündigte er an, sich auf die Aufklärung über die Risiken einer unkontrollierten KI-Entwicklung konzentrieren zu wollen. Seine Warnungen und Analysen machen ihn zu einer zentralen Figur in der Debatte um die ethische Nutzung von KI.
Im Interview erklärte Hinton, dass die rasante Entwicklung von KI nicht nur neue Chancen, sondern auch massive Risiken mit sich bringe. Dabei warnte er genau wie Yoshua Bengio, mit dem er 2018 gemeinsam mit Yann LeCun den Turing Award erhielt, vor der Entwicklung einer AGI. Solche Systeme, die intelligenter als der Mensch sein sollen, könnten sich seiner Kontrolle entziehen und damit eine existenzielle Bedrohung darstellen.
Die Meinungen in der Branche gehen auseinander
Rückblickend auf seine Karriere zeigte sich Hinton überrascht von der Geschwindigkeit, mit der die Entwicklung von KI voranschreitet. Ursprünglich sei er davon ausgegangen, dass der heutige Stand der Technologie erst viel später erreicht würde. Inzwischen gehen viele Expert:innen aber davon aus, dass KI-Systeme, die intelligenter als Menschen sind, innerhalb der nächsten 20 Jahre Realität werden könnten.
Vor diesem Hintergrund betont Hinton die Verantwortung der Regierungen, die Entwicklung von KI sicherer zu machen. Es reiche nicht aus, die Kontrolle den Marktkräften und dem Profitstreben großer Unternehmen zu überlassen. Stattdessen seien staatliche Regulierungen notwendig, um sicherzustellen, dass KI-Technologien verantwortungsvoll entwickelt werden.
Mit dieser Haltung positioniert sich Hinton anders als sein Forscherkollege Yann LeCun, mit dem zusammen er entscheidende Beiträge zur Entwicklung des modernen Maschinellen Lernens und des Deep Learning geleistet hat. LeCun ist deutlich optimistischer: Er glaubt, dass KI-Technologien eingesetzt werden können, um globale Herausforderungen wie Klimawandel und Armut zu bewältigen. Anstatt die Menschheit auszurotten, argumentiert LeCun, könne KI helfen, sie vor dem Aussterben zu bewahren.
Liest sich, als wäre es eine Pflichtmeldung!
Ich schließe daraus, dass es eine unerwartet kleine Herausforderung ist, intelligenter als Menschen zu werden. Das überrascht mich nicht wirklich.
Ich würde es sehr begrüßen, wenn es intelligentere Wesen als Menschen auf unserem Planeten gäbe.
Die würden dann ja logischerweise auch intelligentere Regeln zu seiner Bewirtschaftung entwickeln.
Warum sollte eine KI ein Interesse daran haben, die Menschen auszurotten?
Vielleicht könnte die Intelligenz uns gebrauchen. Für niedrige Arbeiten. Vielleicht könnten wir doch noch nützlich sein für etwas Größeres als uns selbst.