Teslas fataler Systemfehler: Video zeigt, wie die KI von der Sonne geblendet wird und eine Frau zu Tode kommt
Ein von Bloomberg veröffentlichtes Video aus dem Jahr 2023 dokumentiert den Moment, der die Versprechen des US-Elektroautobauers Tesla aus dem texanischen Austin erschüttert. Die Aufnahmen zeigen aus der Fahrerperspektive, wie ein Model Y im „Full Self-Driving“-Modus (FSD) im US-Bundesstaat Arizona in die blendende Abendsonne fährt.
Das System erkennt einen Mann auf der Straße, weicht korrekt aus, doch dann passiert das Unfassbare: Statt zu verlangsamen, beschleunigt das Fahrzeug wieder, lenkt zurück und erfasst eine 71-jährige Frau, die bei der Regelung des Verkehrs half. Sie stirbt noch am Unfallort.
Der Vorfall rückt die Achillesferse von Teslas Strategie für autonomes Fahren ins grelle Licht: den vollständigen Verzicht auf Lidar-Sensoren. Die tödliche Fehleinschätzung der KI wird direkt mit der Schwäche des rein kamerabasierten Systems bei extremen Lichtverhältnissen in Verbindung gebracht.
Eine Technologie am Limit
Während Wettbewerber, wie Google-Tochter Waymo aus Mountain View im US-Bundesstaat Kalifornien, auf ein redundantes System aus Kameras, Radar und Lidar setzen, das auch ohne gute Sicht präzise „sehen“ kann, beharrt Tesla auf seiner „Vision-only“-Doktrin.
Die dahinterstehende These: Was das menschliche Auge kann, können Kameras besser. Der Unfall in Arizona führt diese These ad absurdum, denn auch menschliche Fahrer:innen sind bei Blendung durch die Sonne massiv eingeschränkt.
Die US-Verkehrssicherheitsbehörde NHTSA (National Highway Traffic Safety Administration) aus Washington D.C. hat nach dem Vorfall eine Untersuchung eingeleitet. Brisant ist dabei nicht nur der Unfall selbst, sondern auch das Verhalten des Unternehmens: Tesla meldete den tödlichen Crash erst sieben Monate später an die zuständige Behörde.
„Noch nicht sicher“: Experte warnt vor Teslas Vorgehen
Der Fall liefert harte Munition für Kritiker:innen, die seit Jahren vor Teslas aggressivem Rollout einer unfertigen Technologie warnen. Der Umstand, dass sich zwar ein Mensch hinter dem Steuer befand, dieser aber offensichtlich nicht oder zu spät eingriff, ändert nichts an der Tatsache, dass das System eine aktive und falsche Entscheidung traf.
„Sie behaupten, sie werden in Kürze zu echtem automatisierten Fahren in der Lage sein – etwas, von dem alle Beweise nahelegen, dass sie es noch nicht sicher können“, zitiert Bloomberg den Anwalt und Verkehrsingenieur Bryant Walker Smith. Mit dem geplanten Start eines Robotaxi-Dienstes in Austin werden nun nicht mehr nur die Besitzer:innen der Fahrzeuge, sondern alle Verkehrsteilnehmer:innen zu Beteiligten in diesem großangelegten Feldversuch.
