Namhafter Investor warnt vor Zerstörung der Menschheit durch gottgleiche KI
KI-Investor sieht Menschheit bedroht - durch KI. (Bild: Stable Diffusion)
In einem Gastbeitrag für die Financial Times befasst sich der für seine Investitionen im KI-Bereich bekannte Anleger Ian Hogarth mit der Befürchtung, die KI-Entwicklung stünde kurz vor ihrem größten Durchbruch. Ein bekannter Forscher für maschinelles Lernen habe ihm gesagt, dass wir „von jetzt an“ kurz vor der Entwicklung einer künstlichen Universalintelligenz (Artificial General Intelligence – AGI) stünden.
AGI: Menschen müssen gewarnt werden
Das könne er zwar von der Prognose her nicht unmittelbar nachvollziehen, schreibt Hogarth. Immerhin gebe es auch Forschende, die das Erreichen einer AGI eher in zehn Jahren oder sogar einem halben Jahrhundert oder mehr sehen würden.
Dennoch halte er es für falsch, einfach so weiterzuforschen, als würde man nicht „kurz vor etwas so Gefährlichem stehen“. Seiner Ansicht nach müssten die Menschen frühzeitig gewarnt werden.
Hogarth weiter: „Es fühlt sich zutiefst falsch an, dass folgenschwere Entscheidungen, die potenziell jedes Leben auf der Erde betreffen, von einer kleinen Gruppe privater Unternehmen ohne demokratische Kontrolle getroffen werden könnten.“
Gottähnliche KI könnte Menschheit zerstören
Dabei sei es wichtig, zu verstehen, dass AGI viel zu harmlos klinge, für das, was es tatsächlich sei: „Ein Akronym mit drei Buchstaben fasst nicht das Ausmaß dessen, was AGI darstellen würde, daher werde ich es als das bezeichnen, was es ist: Gottähnliche KI“.
Eine AGI werde „ein superintelligenter Computer, der selbstständig lernt und sich entwickelt, der seine Umwelt versteht, ohne dass er überwacht werden muss, und der die Welt um sich herum verändern kann“, sein. Zwar sei die Forschung derzeit noch nicht so weit.
„Aber die Art der Technologie macht genaue Vorhersagen, wann wir dort ankommen werden, außerordentlich schwierig. Eine gottähnliche KI könnte eine Kraft sein, die sich unserer Kontrolle oder unserem Verständnis entzieht und die Zerstörung der menschlichen Rasse einleiten könnte.“
Verzweifelter Appell: Nicht einfach drauflos entwickeln
Nun versucht Hogarth Unternehmen und Regulierer dafür zu sensibilisieren, dass vor dem Erreichen der AGI ein Umdenken erforderlich sei, denn: „Der Wettbewerb zwischen einigen wenigen Unternehmen, die gottähnliche KI erschaffen wollen, hat sich rapide beschleunigt. Sie wissen noch nicht, wie sie ihr Ziel sicher verfolgen können und haben keine Kontrolle“.
Dennoch rennen sie „auf eine Ziellinie zu, ohne zu wissen, was auf der anderen Seite liegt.“ Hogarth endet pessimistisch: „Es wird wahrscheinlich ein größeres Missbrauchsereignis – eine Katastrophe – nötig sein, um die Öffentlichkeit und die Regierungen aufzuwecken.“
Die grössere Katastrophe ist nur eine Frage der Zeit. Auch wenn man wüsste, dass eine AGI die Menschen zerstören würde, es würde dennoch mindestens ein Unternehmen versuchen diese zu entwickeln, weil es Macht und Geldgeil ist.