KI-Pionier warnt: Bedrohung von KI sei größer als Klimawandel
Geoffrey Hinton hat bei Alphabet gekündigt, um vor den Gefahren zu warnen, die von KIs ausgehen. (Bild: Dia TV/Shutterstock)
Geoffrey Hinton ist nicht irgendein KI-Experte. Schon 1986 legte er mit einem bahnbrechenden Paper die Grundlagen für neurale Netzwerke – Modelle, auf denen moderne KI heute basieren. 2018 erhielt der „Godfather of AI“ den Turing-Award als Würdigung seiner revolutionären Arbeit.
„AI-Godfather“ Hinton: Bei Alphabet gekündigt, um vor KI zu warnen
Mittlerweile steht Hinton der KI-Technologie aber äußerst kritisch gegenüber. Wie er vergangenen Freitag in einem Interview mit Reuters verriet, halte er die Gefahr für die Menschheit, die davon ausgehe, für größer als die Bedrohung durch den Klimawandel: Die KI könne intelligenter werden als der Mensch und die Kontrolle über den Planeten übernehmen.
„Ich will den Klimawandel nicht herunterspielen“, so Hinton. „Der stellt auch ein großes Risiko dar. Aber das hier könnte sich als dringender erweisen.“ Beim Klimawandel wisse man zumindest in der Theorie, wie man ihn aufhalten könne. Bei KI sei das überhaupt nicht klar.
Hinton hat extra seinen Posten beim Google-Konzern Alphabet aufgegeben, um vor den Gefahren der KI zu warnen, ohne seinem Arbeitgeber gegenüber illoyal zu erscheinen. Dabei gehört er aber nicht zu denen, die eine selbst auferlegte Pause bei der KI-Entwicklung fordern.
Hinton findet Entwicklungspause „unrealistisch“
Erst im letzten Monat hatten Tausende – unter anderem viele KI-Entwickler:innen – einen offenen Brief unterzeichnet, der ein sechsmonatiges Aussetzen aller Bemühungen fordert, eine mächtigere KI als ChatGPT-4 zu erschaffen. Hinton hält das für „nicht besonders realistisch“. Er sieht stattdessen die Politik in der Pflicht.
„Die Tech-Leader verstehen die Thematik am besten und die Politik muss sich einmischen“, so Hinton. „Es betrifft uns alle, deshalb müssen wir auch alle darüber nachdenken.“ Tatsächlich sind die EU-Kommission und US-Präsident Biden gerade dabei, Gespräche mit KI-Expert:innen zu führen und neue Gesetzgebungen zu entwickeln.
Allerdings beschränken sich die Maßnahmen oftmals auf Urheberrechtsfragen und die Pflicht für KI-Betreiber:innen, ihr Quellenmaterial offenzulegen, mit dem sie ihre Programme füttern. Stärkere Regulierungen in diesem Bereich könnten allerdings mehr Transparenz und somit auch Kontrolle schaffen, anhand derer ein gesetzliches Eingreifen überhaupt möglich wird.
Auch eine Verlangsamung der Entwicklung könnte damit einhergehen. Um die Gefahr durch KI-Technologie abzuwenden, werden aber sicher mehr und weiter reichende Gesetzgebungen nötig werden.
Bitte beachte unsere Community-Richtlinien
Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.
Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.
Dein t3n-Team