Moore‘s Law ist schon seit ein paar Jahren Geschichte. Das Gesetz beruht auf den Beobachtungen des Intel-Mitgründers Gordon Moore aus dem Jahre 1965, nach denen sich die Anzahl der Transistoren auf Mikrochips etwa alle 12 bis 24 Monate verdoppelt. Die Zeit des exponentiellen Wachstums ist damit aber nicht vorbei, sondern hat sich nur auf einen anderen Technologiebereich, die künstliche Intelligenz (KI), verlagert, wie Kognitionspsychologe Christian Stöcker in seiner Spiegel-Kolumne schreibt.
Rechenpower in KI-Systemen: Steigerung um den Faktor 300.000
Hintergrund dieser Einschätzung ist eine Analyse der für OpenAI tätigen Informatiker Dario Amodei und Danny Hernandez zur Steigerung der Rechenleistung in den größten KI-Projekten der vergangenen Jahre wie Alpha Zero. Demnach hat sich in den Jahren 2012 bis 2017 eine Steigerung um den Faktor 300.000 ergeben. Das bedeutet, dass sich die Rechenleistung – gemessen in Petaflops pro Sekunde an einem Tag – alle dreieinhalb Monate verdoppelt. Zum Vergleich: Bei Moore‘s Law betrug die Doppelungsrate 18 Monate. Das ist eine Steigerung um den Faktor zwölf, wie Amodei und Hernandez schreiben.
Die enorme Steigerung der Rechenleistung führen die Forscher übrigens nur zum Teil auf eine leistungsfähigere Hardware zurück. Im Supercomputingbereich geht es dabei um Grafikkarten (GPU) und die neuen Tensor-Processing-Units (TPU), die Google entwickelt, um die Rechenpower zu beschleunigen. Einen weitaus größeren Anteil an der Entwicklung haben laut Amodei und Hernandez die Entwickler, die immer neue Wege fänden, um mehr aus der Hardware herauszuholen. In der näheren Zukunft dürften die von verschiedenen Startups entwickelten speziellen KI-Chips eine große Rolle dabei spielen, die Kosten für die Rechenpower zu senken.