> > > > Intel und Mobileye: Das autonome Fahrzeug soll niemals einen Unfall verschulden

Intel und Mobileye: Das autonome Fahrzeug soll niemals einen Unfall verschulden

Veröffentlicht am: von

bmw i vision dynamicsWer ist verantwortlich für einen Unfall, der durch ein autonomes Fahrzeug ausgelöst wird? Eine Frage, die es zu klären gilt, bevor der Mensch die Hände tatsächlich vom Lenkrad nehmen und sich während der Fahrt anderen Dingen widmen kann. Eine belastbare Antwort konnte bislang niemand liefern, doch Intel und Mobileye wollen nun die scheinbar ultimative Lösung gefunden haben.

Die wirkt zunächst überraschend einfach, aber dennoch auch extrem ehrgeizig. Denn autonome Fahrzeuge sollen schlicht in die Lage versetzt werden, niemals einen Unfall zu verschulden und so der Frage nach Verantwortung und Haftung elegant umgehen.

Dahinter steckt jedoch eine äußerst komplexe Formel, die Mobileye-CEO Amnon Shashua und Shai Shalev-Shwartz entwickelt haben und als Responsibility Sensitive Safety (RSS) bezeichnen.

Die Ausgangsfrage war laut Shashua, wie man das Zusammenspiel von autonomen Fahrzeugen und von Menschen gesteuerten Fahrzeugen sicherer und vor allem rechtlich eindeutig geregelt gestalten könne. Denn zumindest in den ersten Jahren nach dem Start echter autonomer Fahrzeuge wird es beide Systeme auf den Straßen geben. Dabei seien Probleme nach aktuellen Stand nicht zu vermeiden. Denn Unfälle können nicht ausgeschlossen werden, die Ermittlung der Schuldfrage könnte Wochen in Anspruch nehmen.

Mit RSS will man aber einen Ausweg bieten. Die Formel soll es autonomen Fahrzeugen unmöglich machen, einen Unfall zu verschulden. Dabei setzt man auf zwei Aspekte: Einen sicheren Zustand (safe state) und das maximal Erlaubte (Default Emergency Policy), um einen solchen Zustand zu erreichen.

Den safe state definiert Shashua in seiner Veröffentlichung und einer auf der Intel-Homepage verlinkten Zusammenfassung als einen Zustand, in dem das autonome Fahrzeug aufgrund von Abstand zum Vordermann, Geschwindigkeit und anderen Faktoren keinen Unfall verschulden kann.

Die Default Emergency Policy beschreibt der Mobileye-CEO hingegen als komplexe Berechnung auf Basis diverser Parameter, die sich in zwei Gruppen unterteilen lassen. Die lateralen Faktoren sind Dinge wie das Ziel des Systems in der Mitte einer bestimmten Fahrspur unterwegs zu sein. Hinzu kommen die longitudinalen Faktoren, darunter Aspekte wie „Mein Ziel ist es, hinter einem bestimmten Fahrzeug mit dessen Geschwindigkeit und einem Abstand von zwei Sekunden zu fahren" unter Berücksichtigung weiterer Entscheidungen („Mein Ziel ist es, mit 110 % der erlaubten Geschwindigkeit zu fahren", „Mein Ziel ist es, am Stopp-Schild eine Geschwindigkeit von 0 zu erreichen"). Für alle Parameter müsse zudem der maximale Level festgelegt werden, mit dem das Ziel erreicht werden darf - definiert als maximale Beschleunigung und Verzögerung.

Schon bei nur wenigen von Menschen gesteuerten Fahrzeugen in der unmittelbaren Umgebung, vier Fahrspuren, einer lediglich zehnstufigen Geschwindigkeitsvorgabe sowie drei Maximalwerten und einer Reaktionszeit von 100 ms ist schnell eine achtstellige Zahl an Berechnungen pro Sekunde nötig. Dabei, so Shashua, würde allerdings noch nicht einmal berücksichtigt, dass die Tragweite der Entscheidung eine Rolle spielt. Denn ein Ergebnis, bzw. eine Entscheidung, die das unmittelbare Erreichen eines sicheren Zustands ermöglicht, kann in der nächsten Sekunden die richtige sein -  zwei Sekunden später kann es sich jedoch schon als falsche Wahl entpuppen.

Ein Beispiel: Das Wechseln der Fahrspur kann die richtige Reaktion auf ein Bremsmanöver des Vordermanns sein, allerdings in einem vom autonomen Fahrzeug verursachten Unfall münden, wenn ein von hinten auf der Zielspur nahendes Fahrzeug nicht mehr reagieren kann.

Entsprechend müssten weit mehr Berechnungen auf Basis verschiedener Informationen erfolgen, was die Berechnung der Responsibility Sensitive Safety so komplex mache. Am Ende soll es sogar möglich sein, Unfälle mit plötzlich auf die Straße laufenden Personen zu verhindern - einfach, indem die Geschwindigkeit soweit herabgesetzt wird, dass rechtzeitig gebremst werden kann.

Amnon Shashua und Shai Shalev-Shwartz zufolge lohnt sich die Arbeit aber. Denn nur wenn man den Menschen die Unsicherheit bezüglich der Schuld und Haftung nehmen kann, würden diese autonome Fahrzeug auch nutzen wollen.

Insofern könnte die Responsibility Sensitive Safety eine wichtige Ergänzung dessen sein, was die Bundesregierung im August als Ethik-Regeln für autonomes Fahren vorgestellt hat. Diese Regeln sollen bestimmte Grundaspekte regeln, darunter der Punkt, dass Menschen wichtiger als Fahrzeuge oder andere Gegenstände sind.

Social Links

Kommentare (54)

#45
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Fregattenkapitän
Beiträge: 2600
Okay, I stand corrected...
Tempe Police auf Twitter:

DAS hätte die (aufmerksame) Fahrerin sehen können, aber die Sensorik sehen müssen.
Das Spektrum kann nicht nur auf "sichtbares Licht" beschränkt sein (sowohl im Soll- als auch im Ist-Zustand), die Fahrzeuge verfügen neben Kameras über Radar, Ultraschall, ggf. Lidar....
Erkennung von Fahrrädern ist offensichtlich immer noch ein Problem für den Radar (vergleichsweise wenig Metall).

Meine erste Annahme/Info war, dass die Fußgängerin unmittelbar vorm Fahrzeug von rechts auf die Straße kam (--> kurze Reaktionsmöglichkeit), aber die (sicherlich mitschuldige) Getötete war ja schon gemächlich von links über die Straße gelaufen.....
:shake:
#46
customavatars/avatar112354_1.gif
Registriert seit: 21.04.2009

Operator from Hell
Beiträge: 2079
Bin ich blind oder hatte das Fahrrad keinerlei Reflektoren in den Speichen oder entsprechenden Streifen im Reifenmantel?
Ich glaub ich hätte die auch mitgenommen, die kommt ja wirklich aus einen total schwarzen Bereich und steht vorm Auto.
#47
customavatars/avatar10473_1.gif
Registriert seit: 18.04.2004
Rodgau bei Ffm
Flottillenadmiral
Beiträge: 5505
Zitat Whisky7up;26225090
Bin ich blind oder hatte das Fahrrad keinerlei Reflektoren in den Speichen oder entsprechenden Streifen im Reifenmantel?
Ich glaub ich hätte die auch mitgenommen, die kommt ja wirklich aus einen total schwarzen Bereich und steht vorm Auto.


USA ≠ Deutschland
So viele Schrottkarren wie in den USA, habe ich zt nicht mal in Schwarzafrika gesehen. Und ich bin in beiden Ländern/Kontinenten viel unterwegs.
Wenns bei den Autos so hapert, haben die sicherlich auch keine Reflektorenpflicht ;)
#48
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Fregattenkapitän
Beiträge: 2600
Zitat Whisky7up;26225090
Bin ich blind oder hatte das Fahrrad keinerlei Reflektoren in den Speichen oder entsprechenden Streifen im Reifenmantel?
Ich glaub ich hätte die auch mitgenommen, die kommt ja wirklich aus einen total schwarzen Bereich und steht vorm Auto.
Mag sein, aber die Sichtbarkeit kann man anhand der Kamerabilder wahrscheinlich nicht wirklich beurteilen. Der Dynamikumfang den das menschliche Auge drauf hat ist schon ziemlich gut, was "man" da gesehen hätte geben die komprimierten Kamerabilder nicht her.
Als aufmerksamer Fahrer hätte man die Dame mit in etwa 1 Sekunde Vorlauf sehen können - und dann wahrscheinlich nicht totgefahren.

Gestern hab ich gedacht "die Technik für unvermeidbare Unfälle zu verfluchen ist billig und keine faire Betrachtung", mit mehr Hintergrundinfos denke ich "da ist bei Uber aber anscheinend einiges ganz schön schief gelaufen".
#49
customavatars/avatar112354_1.gif
Registriert seit: 21.04.2009

Operator from Hell
Beiträge: 2079
@Exxon
Rein vom Menschenverstand weiß ich das ich als Radfahrer und Fußgänger das schwächste Glied im Straßenverkehr bin, da brauch ich eigentlich keine Pflicht sondern schütze mich von mir aus.

@Kuzorra
Die Frage ist dann aber wie sie den Unfall überlebt hätte und ob das dann besser ist als nicht mehr am Leben zu sein.
Find aber das die Fußgängerin schon einen dicken Batzen Mitschuld trägt. Vor allem wenn 100 Meter weiter ein normaler Fußgängerüberweg ist.

Bleibe trotzdem Befürworter für selbstfahrende Autos. Wenn alle Karren alleine Fahren ist der größte Gefahr (Der Fahrer) ausgeschaltet... die Karren unterhalten sich untereinander und dann scheitert es auch nicht mehr an so banalen Sachen wie Reißverschlußverkehr usw.
#50
customavatars/avatar10473_1.gif
Registriert seit: 18.04.2004
Rodgau bei Ffm
Flottillenadmiral
Beiträge: 5505
Zitat Whisky7up;26225162
@Exxon
Rein vom Menschenverstand weiß ich das ich als Radfahrer und Fußgänger das schwächste Glied im Straßenverkehr bin, da brauch ich eigentlich keine Pflicht sondern schütze mich von mir aus..


Jap, so sollte es sein. Aber mal ehrlich, hier tragen die meisten doch auch keinen Helm und wären Reflektoren nicht schon beim Kauf angebracht, würde sie fast niemand „nachrüsten“
#51
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Fregattenkapitän
Beiträge: 2600
Zitat Whisky7up;26225162
@Kuzorra
Die Frage ist dann aber wie sie den Unfall überlebt hätte und ob das dann besser ist als nicht mehr am Leben zu sein.
Bei mutmaßlichen 1.4 sek geht vieles, abgesehen davon ist die Entscheidung über lebenswertes Weiterleben oder besser Tod ziemlich dünnes Eis, vor allem aus der Distanz und am Computermonitor.
Video: Uber driver looks down for seconds before fatal crash | Ars Technica

Zitat Whisky7up;26225162
Find aber das die Fußgängerin schon einen dicken Batzen Mitschuld trägt. Vor allem wenn 100 Meter weiter ein normaler Fußgängerüberweg ist.
Mitschuld hab ich ja geschrieben, ganz sicher. Aber die Entfernung zum Fußgängerüberweg sollte für das automatisierte Fahrzeug keine Rolle spielen, oder schwebt Dir ein Algorithmus vor der sagt
"Naja, selber schuld, die fahr ich jetzt tot weil sie nicht einfach die paar Meter weitergegangen ist"?!

Zitat Whisky7up;26225162
Bleibe trotzdem Befürworter für selbstfahrende Autos. Wenn alle Karren alleine Fahren ist der größte Gefahr (Der Fahrer) ausgeschaltet... die Karren unterhalten sich untereinander und dann scheitert es auch nicht mehr an so banalen Sachen wie Reißverschlußverkehr usw.
Völlig d'accord!
Es scheint bis dahin aber noch ein recht weiter Weg zu sein - deutlich weiter als die ganzen tollen Werbeversprechen suggerieren.
#52
customavatars/avatar112354_1.gif
Registriert seit: 21.04.2009

Operator from Hell
Beiträge: 2079
Der Fußgängerweg ist eher der Frau anzukreiden... wäre man nicht zu faul gewesen zum offiziellen Überweg zu gehen, wäre das wohl anders ausgegangen. Die sind ja nun mal ganz anders beleuchtet.

Bin auf jeden Fall gespannt wie das alles weitergeht.
#53
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Fregattenkapitän
Beiträge: 2600
Als ob Fußgängerüberwege immer ausreichend beleuchtet wären :hust:

Auch wenn §26 STVO das regelt (zumindest in DE), würde ich da sicher nicht drauf wetten wollen....
#54
customavatars/avatar39931_1.gif
Registriert seit: 09.05.2006
ERZ
Flottillenadmiral
Beiträge: 4483
was sich hier manche einbilden mit dem fußgängerüberweg.... als wären die noch nie einfach so über die straße gelaufen...:stupid:

wie hätte denn die sache für euch ausgesehen, wenn der streifen 1km weit weg gewesen wäre?


in der fahrschulprüfung gibts ne frage, wie man reagieren soll, wenn im wohngebiet plötzlich ein ball auf der straße auftaucht. antwort: bremsen, denn es könnte noch ein kind unbedacht hinterher laufen!

manueller fahrer: vorausschauend fahren, geschwindigkeit drosseln und bremsbereit sein
autonome KI: weiterfahren


der mangel an reaktionen zeigt mir, dass daran bisher niemand gedacht hat, obwohl der großteil hier einen führerschein haben dürfte. stimmt, es kann nicht jeder unfall verhindert werden, aber mit einer richtigen reaktion eines menschen hätte diese frau vielleicht wenigstens ihr leben noch mit einigen knochenbrüchen vielleicht, die wieder heilen können, dank unserer modernen medizin (die uns eine autonome KI bisher noch nicht abgenommen hat).
Um Kommentare schreiben zu können, musst Du eingeloggt sein!

Das könnte Sie auch interessieren:

Care by Volvo: Mit dem XC40 startet die Auto-Flatrate

Logo von IMAGES/STORIES/2017/VOLVO_XC40

Nicht auf der IAA in Frankfurt, sondern in Mailand hat Volvo sein neues Kompakt-SUV vorgestellt. Doch nicht nur die Tatsache, dass der XC40 das erste, auf einer neuen und sehr flexiblen Plattform basierende Modell ist, soll Verbraucher locken. Auch ein neues Vertriebsmodell haben die Schweden mit... [mehr]

Mercedes-Benz zeigt neues Infotainment-System: Aus COMAND wird MBUX auf...

Logo von IMAGES/STORIES/2017/MERCEDES-BENZ_MBUX

Nach fast genau 20 Jahren ändert Mercedes-Benz die Bezeichnung seines Infotainment-Systems. Denn mit dem Start der neuen A-Klasse (W177) im Frühjahr wird eine neue Plattform ihre Premiere feiern. Die soll mit MBUX aber nicht nur eine neue Bezeichnung erhalten, sondern auch einen fast... [mehr]

Tesla Roadster: Das schnellste Auto der Welt schafft 1000 km

Logo von IMAGES/STORIES/2017/TESLA_ROADSTER

Angekündigt hatte Tesla die Vorstellung des Semi Truck, doch der Star war ein anderer: der anschließend angekündigte Tesla Roadster der zweiten Generation. Das allein hätte vermutlich nur Fans der Marke begeistert. Doch die in Aussicht gestellten Eckdaten dürften auch Kritiker mit... [mehr]

MBUX-Premiere: Viel Assistenz für die neue Mercedes-Benz A-Klasse (2. Update)

Logo von IMAGES/STORIES/2017/MERCEDES-BENZ_A-KLASSE_W177

Viele Parallelen sind es am Ende wie zu erwarten nicht geworden. Aber auch wenn die neue A-Klasse (W177) optisch nicht viel mit der Elektrostudie EQA zu tun hat, wirkt sie gegenüber ihrem Vorgänger dennoch moderner. Das gilt vor allem unter dem Blech. Dort bietet Mercedes-Benz mit MBUX und... [mehr]

Wegen Produktionsproblemen: Tesla kauft Akku-Markt leer

Logo von IMAGES/STORIES/2017/TESLA

Die Elektromobilität ist immer mehr auf dem Vormarsch. Für die Produktion der Autos werden allerdings auch genügend Akkus benötigt und diese scheinen weltweit inzwischen zur Mangelware zu werden. Tesla hat mit seiner Gigafactory zwar eine eigene Produktionsstätte für Akkus errichtet, kämpft... [mehr]

Maßstab in Sachen Sicherheit und Konnektivität: VW Golf 8 startet Mitte 2019

Logo von IMAGES/STORIES/2017/VOLKSWAGEN

Erst in knapp eineinhalb Jahren soll der erste Golf 8 die Produktion in Wolfsburg verlassen. Kein Wunder also, dass VW bislang weder technische Details verraten oder Hinweise auf das Design verteilt hat. Offener zeigt man sich mit Blick auf Sicherheit und Konnektivität: Nichts weniger als der... [mehr]