Die sogenannte technische oder KI-Singularität beschreibt einen Zeitpunkt, an dem die künstliche die menschliche Intelligenz übertreffen wird. Damit wäre KI in der Lage, sich selbst unumkehrbar und rasant weiterzuentwickeln und sich der menschlichen Kontrolle zu entziehen.

Ob die KI-Singularität – überhaupt oder zumindest in absehbarer Zeit – möglich ist, ist umstritten. Sollte dieses Ereignis aber tatsächlich eintreffen, wären die Folgen nicht abzuschätzen.

Im schlimmsten Fall würde sich die Menschheit, so jedenfalls warnende Stimmen, durch das Entstehen einer Art Superintelligenz (Artifical General Intelligence/AGI) abschaffen beziehungsweise abgeschafft werden.

Vor diesem Hintergrund ist die Einschätzung des Experten Ben Goertzel, CEO des KI- und Blockchain-Entwicklers SingularityNET, zu bewerten, laut der diese Singularität schon in drei bis acht Jahren erreicht sein könnte. Goertzel beruft sich dabei auf die großen Sprachmodelle wie Metas Llama 2 und Open AIs GPT-4, die ein „echter Fortschritt“ seien.

Die Popularität der KI-Technologien, auch ausgelöst durch den Hype um ChatGPT, hätten viel Geld und menschliche Energie in die Entwicklung gespült. „Immer mehr kluge junge Leuten wollen sich in die Arbeit stürzen und an einer AGI arbeiten“, so Goertzel im Gespräch mit dem Tech-Portal Decrypt.

Die durch den KI-Hype der vergangenen Monate ausgelöste mögliche rasante Weiterentwicklung von entsprechenden Technologien hatten im März 2023 auch Unternehmer:innen und Expert:innen wie Elon Musk oder Steve Wozniak adressiert. Insgesamt 1.000 Unterzeichner:innen hatten in einem offenen Brief einen Stopp der KI-Entwicklung für sechs Monate gefordert. Anderenfalls drohe ein zivilisatorischer Kontrollverlust.

Musk gilt schon länger als Mahner vor potenziellen KI-Gefahren. Sein KI-Unternehmen xAI habe er aus der Befürchtung heraus gegründet, dass eine Superintelligenz schon bald den Menschen überflüssig machen könnte.

Musk rechnet bis 2029 mit einer AGI. Sein Unternehmen solle sich daher auch der KI-Sicherheit widmen, so Musk.