Analoges Deep Learning: MIT-Team entwickelt analoge Synapsen, die menschliches Gehirn übertreffen
Am renommierten Massachusetts Institute of Technology (MIT) in Cambridge im US-Bundesstaat Massachusetts beschäftigt sich ein multidisziplinäres Team damit, eine Art von menschengemachten analogen Synapsen zu entwickeln. Dabei war es ihnen bereits gelungen, Synapsen mit einer Leistung herzustellen, die die der biologischen Synapsen im menschlichen Gehirn um den Faktor eine Million übertreffen konnte.
Synapsen aus Phosphorsilikatglas sind viel leistungsfähiger als unsere
Nun ist das Team einen Schritt weiter und stellt eine neue Version dieser Synapsen vor, die wiederum eine Million Mal schneller läuft als die vorherige Version. Für die Schaffung der Analog-Synapsen setzen die Forschenden ein anorganisches Material, das sogenannte Phosphorsilikatglas (PSG), ein.
Daraus stellen sie programmierbare Widerstände her, die sich am ehesten mit den heutigen Transistoren zum Bau von Prozessoren vergleichen lassen. So wollen sie Bausteine für einen spezialisierten analogen Prozessor schaffen, der auf die KI-Disziplin des Deep Learning spezialisiert ist.
„Durch die Wiederholung von Anordnungen programmierbarer Widerstände in komplexen Schichten können die Forscher ein Netzwerk aus analogen künstlichen ‚Neuronen‘ und ‚Synapsen‘ schaffen, das Berechnungen wie ein digitales neuronales Netzwerk ausführt. Dieses Netzwerk kann dann trainiert werden, um komplexe KI-Aufgaben wie Bilderkennung und natürliche Sprachverarbeitung zu bewältigen“, heißt es in einem auf der MIT-Website veröffentlichten Bericht.
Funktionsprinzip des menschlichen Gehirns nachgeahmt
Im menschlichen Gehirn erfolgt das Lernen durch die Verstärkung und Schwächung von Verbindungen zwischen Neuronen, die auch als Synapsen bezeichnet werden. Ein tiefes neuronales Netz verwendet ebenfalls diesen Ansatz, allerdings durch die künstliche Schwächung und Stärkung der Verbindungen im Rahmen des KI-Trainings.
Der in Arbeit befindliche analoge Prozessor soll im Wesentlichen auf diesem Design basieren, dabei aber durch die Erhöhung und Verringerung der elektrischen Leitfähigkeit der Widerstände analoges maschinelles Lernen ermöglichen. Entscheidend dabei sei, dass das anorganische Material den Widerstand extrem energieeffizient mache und dabei gleichzeitig außerordentlich bruchsicher bei hoher Spannung sei, so das MIT.
Industrielle Fertigung vorgesehen
Zudem arbeiten die Forschenden daran, die analogen Synapsen mit heute gängigen Silizium-Herstellungstechniken zu bauen, was die Preise für die Analog-Prozessoren nach unten drücken soll. Der eigentliche Vorteil liegt aber in den im Vergleich zu menschlichem Material deutlich geringeren Widerständen.
Wissenschaftlich formuliert klingt das so:
„Die Widerstände für analoges Deep Learning sind 1.000-mal kleiner als jene in biologischen Zellen. Daher kann die Raum-Zeit-Energie-Leistung der künstlichen Synapsen im Festkörperzustand die ihrer biologischen Gegenstücke bei weitem übertreffen.”
