Über (nicht) “autonome” Autos, völlig überforderte Behörden, Medien und “Technikversteher”

Ein "autonomes" Auto erfasst auf einer eigentlich hervorragend einsehbaren Strecke eine Fußgängerin, die Frau erliegt ihren Verletzungen. Der tödliche Unfall mit einem Testfahrzeug des Fahrdienstleisters Uber könnte die Branche schwer treffen und wirft ein neues Licht auf die Unzulänglichkeiten der Systeme und Zulassungsvoraussetzungen.

Ein tödlicher Unfall mit einem “autonomen” Auto, bei dem eine 49-jährige US-Amerikanerin ums Leben kam, wurde nach Ansicht vieler Experten eindeutig von dem “selbstfahrenden” Fahrzeug des Fahrdienstleisters Uber verursacht. Damit widersprechen die Experten den ersten Einschätzungen der Polizei, die der Frau eine Schuld oder zumindest Teilschuld zugesprochen hatten. Ein neues Video wirft ein ganz neues Licht auf den tragischen Unfall und – liebe Leser eines Tech-Blogs – auf einige Menschen, die sich selbst als technikaffin und rational beschreiben.

Kurz zur Vorgeschichte und als Hintergrundinformationen: Der Unfall mit Todesfolge geschah in Arizona, in der Stadt Tempe, auf der Mill Ave. Der US-Bundesstaat ist bekannt für seine vergleichsweise lasche Gesetzgebung und wirbt bei Unternehmen aktiv für die Tests autonomer Fahrzeugflotten. Die in anderen Bundesstaaten wesentlich restriktivere Gesetzgebung soll in den kommenden Monaten liberalisiert werden, um die Technologie zu fördern.

Beim von Uber eingesetzten Fahrzeug handelt es sich um einen Volvo XC90, der mit einem umfassenden Sensorpaket ausgestattet ist. Neben einem auf dem Dach montierten 360° LIDAR-Scanner, einem in der Front montierten 360° Radar sowie Seiten- und Rückwärtskameras besitzt das Auto eine Frontkamera, die sowohl in der Nähe als auch in der Ferne bremsende Autos, Verkehrsampeln und z.B. die Fahrbahn kreuzende Fussgänger erkennen soll. Die Sensoren arbeiten redundant und ergänzen einander, um die Schwächen des jeweils einzelnen Systems auszugleichen.

Während z.B. die Bremslichter eines vorausfahrenden Fahrzeugs von der Kamera auch nachts gut erkannt werden, hat sie Schwächen bei der Erkennung von Umrissen. In diesem Zusammenhang kommen dem radar und insbesondere dem LIDAR-Scanner erhöhte Bedeutung zu.

Ansonsten besitzt der Volvo XC90 die Ausstattung eines gut ausgestatteten Serienfahrzeugs mit verschiedenen Fahrerassistenzsystemen. Ein Notbremsassistent, ein Spurhalteassistent, ein Stau-Assistent mit Lenkassistent, sowie LED-Scheinwerfer mit intelligentem Fernlicht-Assistenten, usw.

Wichtig ist, dass die Fahrzeuge von Uber mit einer von Uber entwickelten Software ausgestattet sind. In diesem Punkt unterscheidet sich das Fahrzeug von den ansonsten weitestgehend baugleichen Fahrzeugen, die Volvo/Ericsson vorwiegend auf Teststrecken und in anderen kontrollierten Umgebungen betreibt. Die Software ist dafür zuständig, dass die von den Sensoren erfassten Informationen und Daten verarbeitet und interpretiert werden, um daraus wiederum ein Fahrmanöver (Spur halten, Spur wechseln, Fahren, Bremsen, Beschleunigen, Abbiegen, etc.) abzuleiten.

Dieses System gehört noch nicht in den öffentlichen Straßenverkehr

Ist die Software von dieser Aufgabe überfordert, soll sie das dem Sicherheitsfahrer hinterm Steuer rechtzeitig signalisieren. Dieser muss nach einer entsprechenden Aufforderung durch das System seine Aufmerksamkeit auf die Straße richten und in angemessener Zeit die Kontrolle über das Fahrzeug übernehmen. Dieser Vorgang wird ebenso wie andere wichtige, kritische oder alltägliche Situationen von einer Blackbox protokolliert und fliesst in die weitere Entwicklung der Systeme ein. Einige Fahrzeuge verschiedener Hersteller besitzen eine permanente Online-Verbindung und können in Echtzeit Daten von einem Server ziehen oder zwischenspeichern. Andere Fahrzeuge beherrschen die sogenannte Vehicle-to-Vehicle- oder Car-to-X-Kommunikation und können (eventuell sogar herstellerübergreifend) mit anderen Fahrzeugen, Ampeln, Verkehrsleitanlagen usw. kommunizieren und Daten austauschen. Fast alle Anbieter lassen das zugrundeliegende, u.U. hochauflösende Kartenmaterial sowie die Positionsdaten des Fahrzeugs mit unterschiedlicher Gewichtung in die Berechnungen ihrer Software einfliessen.

Die Polizei gab recht früh eine Einschätzung des Unfalls ab und verkündete, das Fahrzeug sei mit circa 45 statt der erlaubten 40 Meilen pro Stunde unterwegs gewesen. Später wurde diese Angabe zur angeblichen Geschwindigkeitsüberschreitung korrigiert und es hieß, es seien 35mph statt der erlaubten 40mph gewesen. Mittlerweile spricht man von circa 40mph, also der Einhaltung der maximal erlaubten Geschwindigkeit. Bilder der Unfallstelle und weitere Videos zeigen, dass die Geschwindigkeitsbeschränkung tatsächlich bei 45mph liegt, das Fahrzeug war also nicht zu schnell, eher langsamer als erlaubt.

Nicht nur technische, auch juristische Hürden: Das Märchen vom schon „bald“ selbstfahrenden Auto.

Ebenso früh hieß es, die Frau sei “plötzlich aus der Dunkelheit vor dem Fahrzeug aufgetaucht”, was einige Berichterstatter und Kommentatoren zu der Vermutung brachte, sie sei (ein Fahrrad schiebend) vor das Fahrzeug “gesprungen”, eventuell betrunken gewesen oder habe sogar in selbstmörderischer Absicht gehandelt. Die Polizei befeuerte diese Spekulationen, weil sie frühzeitig ihre Einschätzungen aus der Unfallaufnahme verkündeten. Nach Ansicht der Beamten sei der Unfall weder für ein Roboterauto noch für einen Menschen zu verhindern gewesen.

Irreführende Informationen und Stellungnahmen der völlig überforderten Polizei

In einer späteren Pressekonferenz teilte die Polizei mit, dass die Frau die nach Norden führende, vierspurige Einbahnstraße von Westen nach Osten überquert habe. Spätestens in diesem Moment fiel aufmerksamen Beobachtern (wie uns) auf, dass diese Angabe nicht zu früheren Schilderungen passte und darauf hindeutete, dass sich die Frau bereits vergleichsweise lang auf der geraden, gut übersehbaren Strecke befand. Sie hatte den gegenüberliegenden Bürgersteig fast erreicht, als das Fahrzeug sie erfasste und war nicht – wie zuvor vermutet – unmittelbar vor dem Unfall auf die Fahrbahn getreten.

Das wiederum lenkt die Aufmerksamkeit auf die Sensorik und Software des Fahrzeugs. Die Sensoren, insbesondere der auf dem Dach montierte LIDAR-Scanner, müssen die Frau bereits lange vor dem Aufprall “gesehen” und als eine die Fahrbahn kreuzende Person identifiziert haben. Ein LIDAR-Scanner hat bei ungehinderter Sicht eine Reichweite von circa 250 Metern und kann ein solches “Objekt” problemlos identifizieren. In Kombination mit der Far Field Frontkamera (dazu später mehr) und dem Radar gibt es an der rechtzeitigen Identifikation der Frau als “Hindernis” keinerlei Zweifel.

Zweifel entstanden, weil die Polizei die Aufzeichnung einer Dashcam veröffentlichte, auf der offenbar auch die ersten Einschätzungen der Behörden basierten. In dieser qualitativ minderwertigen Aufzeichnung ist zu sehen, wie der Lichtkegel der Scheinwerfer die weißen Turnschuhe, dann die helle Hose, dann den dunkel gekleideten Oberkörper und dann die rotblonden (statt tatsächlich blonden) Haare der Frau erfasst, bevor sie vom Fahrzeug getroffen wird. Da das in in wenigen Sekunden geschieht und die Umgebung insgesamt sehr dunkel wirkt, erschien es, als sei die Frau tatsächlich “plötzlich” vor dem Auto erschienen.

Das Problem mit dieser Aufzeichnung ist, dass sie nicht einmal ansatzweise wiedergibt, was die Sensoren des Fahrzeugs “sehen”. Die Aufzeichnung zeigt nicht, dass Radar und Lidar die Frau selbst bei Zugrundelegung dieser Lichtverhältnisse lange zuvor erkant haben. Spätestes in diesem Moment hätte die Software ein automatisches Bremsmanöver einleiten oder den eindeutig abgelenkten Fahrer dazu auffordern müssen, die Kontrolle zu übernehmen.

So kann man sich das Bild eines LIDAR-Scanners vorstellen. Fast alle Hersteller setzen auf diese Technologie.

Technikaffine Leser schalten ihr Hirn aus

Das Problem mit dieser Aufzeichnung ist aber auch, dass sie nicht einmal annähernd die tatsächlichen Lichtverhältnisse am Unfallort zeigt. Aus der Aufnahme schlussfolgerten sowohl die Polizei als auch einige Kommentatoren, dass auch ein aufmerksamer menschlicher Autofahrer den Unfall nicht hätte verhindern können.

Es handelt sich aber offenbar um eine Aufnahme, die mit geringem Dynamikumfang der Kamera gemacht wurde – sprich: Sie ist einfach nur schlecht. Jeder aufmerksame Leser eines Techblogs und angeblich technikaffine Mensch hätte eigentlich sofort feststellen müssen, das hier etwas nicht stimmen kann. Der Effekt ist hinlänglich bekannt und veranlasst die Besitzer von handelsüblichen Smartphones in schöner Regelmäßigkeit zu Beschwerden über die schlechte Aufnahmequalität ihrer Smartphone-Kameras bei widrigeren Lichtverhältnissen. Die Linse fängt einfach nicht das tatsächlich in der Realität vorhandene Licht ein und wirkt im Vergleich zu dem, was das menschliche Auge (eines menschlichen Fahrers) sieht verschwommen, dunkel, unscharf. Objekte sind kaum zu erkennen, andere Lichter sind überproportional hell, aber erst sehr spät erfasst usw.

Wie es tatsächlich am Unfallort aussieht, zeigt das nachfolgende Video, das mit einer etwas besseren Kamera bei vergleichbaren Lichtverhältnissen aufgezeichnet wurde. Der Unfall geschah bei circa Sekunde 33, kurz nach dem Unterfahren der Autobahnunterführung. Wenig später ist auf der rechten Seite ein Schild zu sehen, das auch zusammen mit dem Fahrrad der Frau auf ersten Tatortfotos auftaucht.

 

Update: Ein weiteres Video

 

Um das hier ganz klar und deutlich zu sagen: Der tödliche Unfall wäre von einem nicht sonderlich erfahrenen, aber eben aufmerksamen menschlichen Fahrer problemlos verhindert worden. Der Fahrer hätte die Frau jederzeit rechtzeitig erkennen können und müsste noch nicht einmal besonders stark bremsen oder ausweichen. Die im XC90 vorhandenen, nicht “autonomen” Fahrerassistenzsysteme hätten dem Fahrer dabei geholfen, ihm vermutlich sogar die Frau signalisiert. Der Fahrer hätte vielleicht instinktiv reaktionsschnell gehupt und die eventuell unaufmerksame (oder schwerhörige, das herannahhende Fahrzeug nicht registrierende?) Frau dazu genötigt, einen Satz nach vorne zu machen. Ein halbes Dutzend Szenarien ist denkbar.

Die Software des angeblich “autonomen” Systems von Uber hat das nicht getan, nichts davon. Sie hat weder ein Bremsmanöver noch ein Ausweichmanöver eingeleitet noch den Fahrer auf die Frau aufmerksam gemacht. Sie hat ihn offenbar nicht zur Übernahme der Kontrolle aufgefordert und hat das Fahrzeug nahezu ungebremst in die Frau fahren lassen. Wie man unter diesen Umständen zu der Einschätzung kommen, der Unfall sei weder für einen Menschen noch für ein mit dieser Sensorenvielfalt ausgestattetes System “fast unvermeidbar” gewesen, ist unbegreiflich.

Schicksalstag für die gesamte Branche

Die US-amerikanische NHTSA und NTSB ermitteln, bis zur Vorlage ihres Abschlussberichts wird sicherlich noch einige Zeit vergehen. Doch bereits heute weisen eine Vielzahl von international anerkannten Experten darauf hin, dass dieser Unfall eine Zäsur darstellt und die Entwicklung autonomer Fahrzeuge enorm zurückwerfen könnte. Zum einen scheint es, als habe Uber die Fähigkeiten des eigenen Systems in den zurückliegenden Woche und Monaten völlig übertrieben dargestellt. Das wiederum würde bedeuten, dass die Behörden schon im Rahmen ihrer Schutzpflichten für andere Verkehrsteilnehmer die Zulassungsvoraussetzungen für diese Test-Systeme im öffentliche Straßenverkehr überdenken müssen – bei allen Anbietern, ein “Reset”.

Weiterlesen:
Teslas Chef-Ingenieure warnten Elon Musk frühzeitig vor falschen Versprechungen

Zum anderen wirft dieser Vorfall aber auch ein Schlaglicht auf die Entscheidungskriterien dieser Systeme in ganz konkreten Situationen. Während ein Mensch eben individuell und situativ reagiert und – bei verbleibender Zeit und Ratio – instinktiv oder rational (in beiden Fällen durchaus auch überfordert) verfährt, handelt es sich bei diesen Systemen eben um ein weiten Teilen vordefiniertes Prozedere. Kriterien wie Zufall, Schicksal, Glück oder Pech gibt es nicht. Instinkt oder Erfahrung liessen sich eventuell durch eine KI erlernen oder simulieren, doch in diesem Entwicklungsstadium befinden wir uns noch lange nicht.

Auch Uber weit abgeschlagen: Wer im Rennen um autonome Autos wirklich führt

Das Worst Case Szenario in diesem konkreten Fall ist, dass die Software nicht im klassischen Sinne versagt hat, sondern “absichtlich” weitergefahren ist, weil “Weiterfahren” eben das Default-Prozedere für diese Situation war. Aus irgendeinem, in unzulänglicher oder knallhart logischer Abwägung der konkreten Umstände definierten Prozedere könnte die Software z.B. “entschieden” haben, dass das im Voraus identifizierte Objekt keine lebensbedrohliche Gefahr für die Fahrzeuginsassen (in Ubers Fall: Passagiere) darstellt und ein Weiterfahren nun eben eine der verbleibenden Optionen ist.

Das “Versagen” der Software würde sich dann darauf beschränken, dass es nach den bisher vorliegenden Informationen keinerlei Hilfe von der eigentlich dafür vorgesehenen Entscheidungsinstanz – dem Sicherheitsfahrer – angefordert hat.

Was man ebenfalls in diesem konkreten Fall, aber auch in einem wesentlich größeren Kontext, hinterfragen muss ist die Berücksichtigung menschlicher Kenntnisse. Mehrere Lokalreporter haben in den vergangenen Tagen darauf hingewiesen, dass den Bewohnern der Stadt dieses Areal bekannt ist und jeder weiß, dass hier regelmäßig Fußgänger abseits eines weit entfernten Übergangs die Straße kreuzen. Diese Kenntnis gehört zu einem ganz normalen, in dieser Stadt etablierten “Miteinander” im Straßenverkehr und veranlasst die menschlichen Fahrer dazu, hier etwas aufmerksamer als üblich zu sein. Wenn man bedenkt, dass heutzutage z.B. jede im Handel erhältliche Drohne eine Map mit No-Fly-Areas beinhaltet, die sie am Überfliegen bestimmter Gebiete hindert, dann gewinnt dieser Punkt eine ganz konkrete Relevanz.

Gegeneinander statt Miteinander: Das große Problem mit purer Technologie, reloaded

Die Hersteller autonomer Fahrzeuge und ihre besonders enthusiastischen Befürworter werben für die Technologie mit dem Versprechen, dass die Systeme als Flotte oder “Schwarm” lernfähig sind und von den digital erfassten Daten anderer Fahrzeuge und deren Auswertung profitieren. Was aber in diesem Konzept offenbar nicht enthalten ist ist die Berücksichtigung dieser nicht durch Verkehrszeichen oder anderweitig gekennzeichneten Zonen oder Abschnitte, in denen “jeder” von einem erhöhten Risiko weiß oder dieses z.T. sogar instinktiv erfasst. Sprich: Wenn einem auf der gleichen Strecke zu den immer gleichen Uhrzeiten immer wieder Fussgänger begegnen, die aus der naheliegenden Downtown nach hause spazieren, dann fährt man den verbleibenden, gleichartigen Rest der Strecke eben etwas vorsichtiger und passt seine Fahrweise beim nächsten und übernächsten Mal dieser Erinnerung an.

Diese “Intelligenz” fehlt diesen Systemen völlig und müsste gerade in der momentanen Testphase ein Entscheidungskriterium für die Zulassung der Fahrzeuge in einer bestimmten Stadt sein. Genaugenommen könnte man voraussetzen, dass es zu den Schutzpflichten der zuständigen, in vielen Fällen überaus zulassungswilligen Verwaltungen gehört, diese allseits bekannten Risikozonen auszuweisen und auf eine Integration dieser Informationen (aka “Daten”) zu bestehen. Die einzige Alternative wäre, dass man dieses allgemein vorhandene Wissen mit hunderten von Hinweisschildern am Straßenrand “in Stein meisselt”. Will man das – und: wer soll das bezahlen?

Das Fazit ist: Die Frau ist tot, und sie müsste es definitiv nicht sein. Wer sie als tragisches, aber eben “notwendiges” Opfer auf dem Weg zu einem sicheren Straßenverkehr für Viele betrachtet ist ein Zyniker, um nicht zu sagen: ein Arschloch. Zieht euch den Schuh gerne an, wenn er passt. Wer Menschen eine in ferner Zukunft liegende Sicherheit verspricht und dabei in einer derart fahrlässigen Weise die Sicherheit anderer Verkehrsteilnehmer gefährdet, ist – bringen wir auf den Punkt – nicht vertrauenswürdig. Das gilt, um auch das noch einmal festzuhalten, nicht nur für Uber, obwohl deren vielerorts auch in anderen Zusammenhängen kritisierte “Mentalität” … pardon, ihr “Silicon Valley Mindset” … hier sogar eine Rolle gespielt haben könnte.

Weiterlesen:

 

Autopilot: „Radfahrer werden sterben“, sagt eine Expertin