KI-Koryphäe verlässt Google und warnt vor der Technologie. (Symbolfoto: Blue Planet Studio/Shutterstock)
Der KI-Experte Hinton sagte der New York Times, dass er „neue Ängste“ vor der Technologie, an deren Entwicklung er beteiligt war, habe. Er müsse frei sein, um offen darüber sprechen zu können, begründet er seine Kündigung. Er geht sogar soweit zu sagen, dass ein Teil von ihm nun sein Lebenswerk „bedauere“.
KI-Preisträger warnt vor KI
Hinton ist nicht irgendwer. 2018 wurde er gemeinsam mit Yann Lecun und Yoshua Bengio mit dem Turing Award ausgezeichnet, dem Pendant zum Nobelpreis für Informatik. Mitpreisträger Lecun, Chef-KI-Forscher bei Zuckerbergs Meta, sagt über Hinton:
„Geoffs Beiträge zur KI sind enorm. Er hatte mir zwar nicht gesagt, dass er plant, Google zu verlassen, aber ich bin nicht allzu überrascht.“
Google hatte Hintons Startup gekauft
Der 75-jährige Informatiker Hinton hatte seine Zeit zwischen der Universität von Toronto und Google aufgeteilt, nachdem Google 2013 Hintons KI-Startup DNNresearch übernommen hatte. DNNresearch war eine Ausgründung aus einer universitären Forschungsgruppe, die damals Spitzenarbeit mit maschinellem Lernen für die Bilderkennung leistete. Google hat deren Technologie unter anderem zur Verbesserung der Fotosuche genutzt.
Hinton hatte schon seit langem ethische Fragen im Umgang mit der KI aufgeworfen. Besonders besorgte ihn deren Verwendung für militärische Zwecke. Einmal hatte er erläutert, dass ein Grund dafür, dass er einen Großteil seiner Karriere in Kanada verbracht hatte, darin liege, dass es dort einfacher sei, Forschungsgelder zu erhalten, die nicht mit dem US-Verteidigungsministerium verbunden sind.
Hintons Forschung als Grundlage moderner KI
Auch Googles Chefwissenschaftler Jeff Dean würdigt Hintons Erfolge: „Geoff hat fundamentale Durchbrüche im Bereich der KI erzielt, und wir schätzen seine jahrzehntelangen Beiträge bei Google“. Im Vorgriff auf Hintons Kritik betont Dean: „Als eines der ersten Unternehmen, das KI-Grundsätze veröffentlicht hat, bleiben wir einem verantwortungsvollen Umgang mit KI verpflichtet. Wir lernen ständig dazu, um aufkommende Risiken zu verstehen und gleichzeitig mutig zu innovieren.“
Hinton ist vor allem für seinen Algorithmus der Backpropagation bekannt. Den hatte er zusammen mit zwei Kollegen in den 1980er Jahren erstmals vorgeschlagen.
Heutzutage ist diese Technik, die künstlichen neuronalen Netzen das Lernen ermöglicht, Grundlage fast aller Modelle des maschinellen Lernens. Hinton sah in der Backpropagation eine Nachahmung das Lernverhalten biologischer Gehirne.
Wegbegleiter würdigen Hintons Erfolge
„In meinen zahlreichen Diskussionen mit Geoff war ich immer der Befürworter der Backpropagation, und er suchte immer nach einem anderen Lernverfahren, von dem er glaubte, dass es biologisch plausibler wäre und vielleicht ein besseres Modell dafür wäre, wie Lernen im Gehirn funktioniert“, sagt Lecun.
„Geoff Hinton gebührt sicherlich das größte Verdienst für viele der Ideen, die das heutige Deep Learning möglich gemacht haben“, erklärt Mitpreisträger Bengio, seines Zeichens Professor an der Universität von Montreal und wissenschaftlicher Leiter des kanadischen Montreal Institute for Learning Algorithms.
Bengio vermutet: „Ich nehme an, dass er sich deshalb auch besonders verantwortlich fühlt, die Öffentlichkeit vor den potenziellen Risiken zu warnen, die mit den Fortschritten der KI einhergehen.“
Viele Menschen, die ich kenne und die die Mathematik dahinter verstehen, zum Beispiel AI-Entwickler und Mathematiker, haben Angst davor, weil sie wissen, was möglich ist und dass die Menschen, insbesondere Firmen, niemals vorsichtig damit umgehen und viele es missbrauchen.
Leider kann man sich als Normalbürger nur darauf vorbereiten und hoffen das es besser wird, als man befürchtet.