Autonome Autos mit „Angstschaltkreis“: Forscher entwickeln KI für vorsichtigeres Fahren

(Foto: metamorworks/ Shutterstock)
Ab dem nächsten Jahr will Tesla seiner Vision vom autonomen Fahren auch in Europa ein Stück näher kommen. Laut einer Roadmap, die das Unternehmen am Donnerstag auf X veröffentlichte, hoffen die Verantwortlichen im ersten Quartal 2025 darauf, dass das als Full Self-Driving (FSD) vermarktete Fahrassistenzsystem in Europa und China die entsprechende Erlaubnis erhält.
Das ist optimistisch. Einerseits verspricht Tesla seit Jahren mehr, als es halten kann. Andererseits ist das FSD-System nicht nur immer noch weit weg vom wirklich autonomen Fahren, es gibt auch immer noch regelmäßig Berichte von Testfahrten, die in Unfällen endeten oder zumindest kurz davor. Selbstfahrende Autos, nicht nur von Tesla, müssen noch einiges lernen, um wirklich sicher zu sein und alle Situationen im Straßenverkehr meistern zu können.
Ähnlich wie das menschliche Angstgefühl
Forscher des AutoMan Research Lab der Technischen Universität Nanyang in Singapur glauben, dass Angst dabei helfen könnte. Sie haben ein KI-Modell für autonomes Fahren entwickelt, das neuronale Eigenschaften vorweist, die dem menschlichen Angstgefühl ähneln. Die Idee: Eine „ängstliche“ KI am Steuer soll vorsichtigerer und somit sicherer agieren.
Konkret wollen die Forscher die Funktionalität der Amygdala im Gehirn im Kontext von bestärkendem Lernen (reinforcement learning, RL) nachbauen. Der „Angstschaltkreis“ der Amygdala ist bei uns Menschen maßgeblich an der Einschätzung gefährlicher Situationen und am Abwehrverhalten gegen Bedrohungen beteiligt. „Durch die Modellierung der Amygdala-Funktionalität […] wollen wir die sichere Entscheidungsfindung für autonome Fahrzeuge weiter vorantreiben“, schreiben die Forscher in der Studie.
KI soll aus sicherheitskritischen Situationen lernen
Ihr Framework nennen sie Fear-Neuro-Inspired Reinforcement Learning, kurz FNI-RL. Es besteht aus zwei Komponenten. Die Erste umfasst einen „feindlichen“ Agenten, der mit Worst-Case-Szenarien trainiert wird, die im Straßenverkehr anfallen können. Dazu gehören etwa Abbiegemanöver an unübersichtlichen Kreuzungen mit Gegenverkehr oder andere Verkehrsteilnehmer:innen, die unverhofft ausscheren. „Wir ermutigen den Agenten, in einer modellbasierten Umgebung riskante Erkundungen innerhalb seiner eigenen Vorstellungskraft zu unternehmen“, heißt es. So wie wir Menschen aus negativen Erfahrungen für die Zukunft lernen, soll auch die KI aus sicherheitskritischen Situationen lernen.
Die zweite Komponente ist ein Algorithmus, der sowohl die Fahrstrategien des Agenten optimiert und gleichzeitig seine Angst innerhalb vorgegebener Grenzen hält. Auch hier soll menschliches Verhalten modelliert werden: Wenn wir eine scheinbar gefährliche Situation erkennen, dann setzen wir unser Wissen ein, um dieser entweder aus dem Weg zu gehen oder sie, wie im Fall des Straßenverkehrs, zu meistern.
Anders als bisherige KI-Ansätze im autonomen Fahren, die natürlich ebenfalls mit Extremsituationen trainiert werden und dadurch entsprechende Lösungen und Manöver lernen, wirkt im Fall von FNI-RL der „Angstschaltkreis“ vereinfacht gesagt ständig auf die Entscheidungen ein und sorgt dafür, dass die KI vorausschauender fährt. Aber ist sie auch sicherer?
KI vs. menschliche Fahrer
Um das zu testen, haben die Forscher:innen ihr Modell sowohl mit anderen gängigen Algorithmen des autonomen Fahrens als auch in einem Test mit 30 zertifizierten menschlichen Fahrer:innen verglichen. Zum Einsatz kam dabei unter anderem die Open-Source-Simulatoren SUMO und CARLA.
Tatsächlich schlug FNI-RL nicht nur die menschlichen Fahrer:innen, sondern in vielen Situationen auch die anderen Algorithmen, verursachte also weniger Unfälle und missachtete weniger Verkehrsregeln. „Die Ergebnisse zeigen, dass ein autonomer Fahragent mithilfe von FNI-RL defensives Entscheidungsverhalten an den Tag legt, wodurch die Sicherheit verbessert und die Leistung des menschlichen Fahrers in verschiedenen sicherheitskritischen Szenarien erreicht wird“, heißt es abschließend.
Dass die Technik bald Einzug in das FSD-System von Tesla erhalten, ist trotzdem nicht zu erwarten; die Forscher selbst weisen auf diverse Einschränkungen in ihrem Modell hin. Trotzdem könnte die Forschung andere Arbeiten dazu inspirieren, Erkenntnisse aus der Neurowissenschaft und Psychologie in die KI-Forschung zu bringen.