> > > > Intel und Mobileye: Das autonome Fahrzeug soll niemals einen Unfall verschulden

Intel und Mobileye: Das autonome Fahrzeug soll niemals einen Unfall verschulden

Veröffentlicht am: von

bmw i vision dynamicsWer ist verantwortlich für einen Unfall, der durch ein autonomes Fahrzeug ausgelöst wird? Eine Frage, die es zu klären gilt, bevor der Mensch die Hände tatsächlich vom Lenkrad nehmen und sich während der Fahrt anderen Dingen widmen kann. Eine belastbare Antwort konnte bislang niemand liefern, doch Intel und Mobileye wollen nun die scheinbar ultimative Lösung gefunden haben.

Die wirkt zunächst überraschend einfach, aber dennoch auch extrem ehrgeizig. Denn autonome Fahrzeuge sollen schlicht in die Lage versetzt werden, niemals einen Unfall zu verschulden und so der Frage nach Verantwortung und Haftung elegant umgehen.

Dahinter steckt jedoch eine äußerst komplexe Formel, die Mobileye-CEO Amnon Shashua und Shai Shalev-Shwartz entwickelt haben und als Responsibility Sensitive Safety (RSS) bezeichnen.

Die Ausgangsfrage war laut Shashua, wie man das Zusammenspiel von autonomen Fahrzeugen und von Menschen gesteuerten Fahrzeugen sicherer und vor allem rechtlich eindeutig geregelt gestalten könne. Denn zumindest in den ersten Jahren nach dem Start echter autonomer Fahrzeuge wird es beide Systeme auf den Straßen geben. Dabei seien Probleme nach aktuellen Stand nicht zu vermeiden. Denn Unfälle können nicht ausgeschlossen werden, die Ermittlung der Schuldfrage könnte Wochen in Anspruch nehmen.

Mit RSS will man aber einen Ausweg bieten. Die Formel soll es autonomen Fahrzeugen unmöglich machen, einen Unfall zu verschulden. Dabei setzt man auf zwei Aspekte: Einen sicheren Zustand (safe state) und das maximal Erlaubte (Default Emergency Policy), um einen solchen Zustand zu erreichen.

Den safe state definiert Shashua in seiner Veröffentlichung und einer auf der Intel-Homepage verlinkten Zusammenfassung als einen Zustand, in dem das autonome Fahrzeug aufgrund von Abstand zum Vordermann, Geschwindigkeit und anderen Faktoren keinen Unfall verschulden kann.

Die Default Emergency Policy beschreibt der Mobileye-CEO hingegen als komplexe Berechnung auf Basis diverser Parameter, die sich in zwei Gruppen unterteilen lassen. Die lateralen Faktoren sind Dinge wie das Ziel des Systems in der Mitte einer bestimmten Fahrspur unterwegs zu sein. Hinzu kommen die longitudinalen Faktoren, darunter Aspekte wie „Mein Ziel ist es, hinter einem bestimmten Fahrzeug mit dessen Geschwindigkeit und einem Abstand von zwei Sekunden zu fahren" unter Berücksichtigung weiterer Entscheidungen („Mein Ziel ist es, mit 110 % der erlaubten Geschwindigkeit zu fahren", „Mein Ziel ist es, am Stopp-Schild eine Geschwindigkeit von 0 zu erreichen"). Für alle Parameter müsse zudem der maximale Level festgelegt werden, mit dem das Ziel erreicht werden darf - definiert als maximale Beschleunigung und Verzögerung.

Schon bei nur wenigen von Menschen gesteuerten Fahrzeugen in der unmittelbaren Umgebung, vier Fahrspuren, einer lediglich zehnstufigen Geschwindigkeitsvorgabe sowie drei Maximalwerten und einer Reaktionszeit von 100 ms ist schnell eine achtstellige Zahl an Berechnungen pro Sekunde nötig. Dabei, so Shashua, würde allerdings noch nicht einmal berücksichtigt, dass die Tragweite der Entscheidung eine Rolle spielt. Denn ein Ergebnis, bzw. eine Entscheidung, die das unmittelbare Erreichen eines sicheren Zustands ermöglicht, kann in der nächsten Sekunden die richtige sein -  zwei Sekunden später kann es sich jedoch schon als falsche Wahl entpuppen.

Ein Beispiel: Das Wechseln der Fahrspur kann die richtige Reaktion auf ein Bremsmanöver des Vordermanns sein, allerdings in einem vom autonomen Fahrzeug verursachten Unfall münden, wenn ein von hinten auf der Zielspur nahendes Fahrzeug nicht mehr reagieren kann.

Entsprechend müssten weit mehr Berechnungen auf Basis verschiedener Informationen erfolgen, was die Berechnung der Responsibility Sensitive Safety so komplex mache. Am Ende soll es sogar möglich sein, Unfälle mit plötzlich auf die Straße laufenden Personen zu verhindern - einfach, indem die Geschwindigkeit soweit herabgesetzt wird, dass rechtzeitig gebremst werden kann.

Amnon Shashua und Shai Shalev-Shwartz zufolge lohnt sich die Arbeit aber. Denn nur wenn man den Menschen die Unsicherheit bezüglich der Schuld und Haftung nehmen kann, würden diese autonome Fahrzeug auch nutzen wollen.

Insofern könnte die Responsibility Sensitive Safety eine wichtige Ergänzung dessen sein, was die Bundesregierung im August als Ethik-Regeln für autonomes Fahren vorgestellt hat. Diese Regeln sollen bestimmte Grundaspekte regeln, darunter der Punkt, dass Menschen wichtiger als Fahrzeuge oder andere Gegenstände sind.

Social Links

Kommentare (54)

#45
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Fregattenkapitän
Beiträge: 2712
Okay, I stand corrected...
Tempe Police auf Twitter:

DAS hätte die (aufmerksame) Fahrerin sehen können, aber die Sensorik sehen müssen.
Das Spektrum kann nicht nur auf "sichtbares Licht" beschränkt sein (sowohl im Soll- als auch im Ist-Zustand), die Fahrzeuge verfügen neben Kameras über Radar, Ultraschall, ggf. Lidar....
Erkennung von Fahrrädern ist offensichtlich immer noch ein Problem für den Radar (vergleichsweise wenig Metall).

Meine erste Annahme/Info war, dass die Fußgängerin unmittelbar vorm Fahrzeug von rechts auf die Straße kam (--> kurze Reaktionsmöglichkeit), aber die (sicherlich mitschuldige) Getötete war ja schon gemächlich von links über die Straße gelaufen.....
:shake:
#46
Registriert seit: 01.01.1970


Beiträge:
Bin ich blind oder hatte das Fahrrad keinerlei Reflektoren in den Speichen oder entsprechenden Streifen im Reifenmantel?
Ich glaub ich hätte die auch mitgenommen, die kommt ja wirklich aus einen total schwarzen Bereich und steht vorm Auto.
#47
customavatars/avatar10473_1.gif
Registriert seit: 18.04.2004
Rodgau bei Ffm
Flottillenadmiral
Beiträge: 5786
Zitat Whisky7up;26225090
Bin ich blind oder hatte das Fahrrad keinerlei Reflektoren in den Speichen oder entsprechenden Streifen im Reifenmantel?
Ich glaub ich hätte die auch mitgenommen, die kommt ja wirklich aus einen total schwarzen Bereich und steht vorm Auto.


USA ≠ Deutschland
So viele Schrottkarren wie in den USA, habe ich zt nicht mal in Schwarzafrika gesehen. Und ich bin in beiden Ländern/Kontinenten viel unterwegs.
Wenns bei den Autos so hapert, haben die sicherlich auch keine Reflektorenpflicht ;)
#48
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Fregattenkapitän
Beiträge: 2712
Zitat Whisky7up;26225090
Bin ich blind oder hatte das Fahrrad keinerlei Reflektoren in den Speichen oder entsprechenden Streifen im Reifenmantel?
Ich glaub ich hätte die auch mitgenommen, die kommt ja wirklich aus einen total schwarzen Bereich und steht vorm Auto.
Mag sein, aber die Sichtbarkeit kann man anhand der Kamerabilder wahrscheinlich nicht wirklich beurteilen. Der Dynamikumfang den das menschliche Auge drauf hat ist schon ziemlich gut, was "man" da gesehen hätte geben die komprimierten Kamerabilder nicht her.
Als aufmerksamer Fahrer hätte man die Dame mit in etwa 1 Sekunde Vorlauf sehen können - und dann wahrscheinlich nicht totgefahren.

Gestern hab ich gedacht "die Technik für unvermeidbare Unfälle zu verfluchen ist billig und keine faire Betrachtung", mit mehr Hintergrundinfos denke ich "da ist bei Uber aber anscheinend einiges ganz schön schief gelaufen".
#49
Registriert seit: 01.01.1970


Beiträge:
@Exxon
Rein vom Menschenverstand weiß ich das ich als Radfahrer und Fußgänger das schwächste Glied im Straßenverkehr bin, da brauch ich eigentlich keine Pflicht sondern schütze mich von mir aus.

@Kuzorra
Die Frage ist dann aber wie sie den Unfall überlebt hätte und ob das dann besser ist als nicht mehr am Leben zu sein.
Find aber das die Fußgängerin schon einen dicken Batzen Mitschuld trägt. Vor allem wenn 100 Meter weiter ein normaler Fußgängerüberweg ist.

Bleibe trotzdem Befürworter für selbstfahrende Autos. Wenn alle Karren alleine Fahren ist der größte Gefahr (Der Fahrer) ausgeschaltet... die Karren unterhalten sich untereinander und dann scheitert es auch nicht mehr an so banalen Sachen wie Reißverschlußverkehr usw.
#50
customavatars/avatar10473_1.gif
Registriert seit: 18.04.2004
Rodgau bei Ffm
Flottillenadmiral
Beiträge: 5786
Zitat Whisky7up;26225162
@Exxon
Rein vom Menschenverstand weiß ich das ich als Radfahrer und Fußgänger das schwächste Glied im Straßenverkehr bin, da brauch ich eigentlich keine Pflicht sondern schütze mich von mir aus..


Jap, so sollte es sein. Aber mal ehrlich, hier tragen die meisten doch auch keinen Helm und wären Reflektoren nicht schon beim Kauf angebracht, würde sie fast niemand „nachrüsten“
#51
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Fregattenkapitän
Beiträge: 2712
Zitat Whisky7up;26225162
@Kuzorra
Die Frage ist dann aber wie sie den Unfall überlebt hätte und ob das dann besser ist als nicht mehr am Leben zu sein.
Bei mutmaßlichen 1.4 sek geht vieles, abgesehen davon ist die Entscheidung über lebenswertes Weiterleben oder besser Tod ziemlich dünnes Eis, vor allem aus der Distanz und am Computermonitor.
Video: Uber driver looks down for seconds before fatal crash | Ars Technica

Zitat Whisky7up;26225162
Find aber das die Fußgängerin schon einen dicken Batzen Mitschuld trägt. Vor allem wenn 100 Meter weiter ein normaler Fußgängerüberweg ist.
Mitschuld hab ich ja geschrieben, ganz sicher. Aber die Entfernung zum Fußgängerüberweg sollte für das automatisierte Fahrzeug keine Rolle spielen, oder schwebt Dir ein Algorithmus vor der sagt
"Naja, selber schuld, die fahr ich jetzt tot weil sie nicht einfach die paar Meter weitergegangen ist"?!

Zitat Whisky7up;26225162
Bleibe trotzdem Befürworter für selbstfahrende Autos. Wenn alle Karren alleine Fahren ist der größte Gefahr (Der Fahrer) ausgeschaltet... die Karren unterhalten sich untereinander und dann scheitert es auch nicht mehr an so banalen Sachen wie Reißverschlußverkehr usw.
Völlig d'accord!
Es scheint bis dahin aber noch ein recht weiter Weg zu sein - deutlich weiter als die ganzen tollen Werbeversprechen suggerieren.
#52
Registriert seit: 01.01.1970


Beiträge:
Der Fußgängerweg ist eher der Frau anzukreiden... wäre man nicht zu faul gewesen zum offiziellen Überweg zu gehen, wäre das wohl anders ausgegangen. Die sind ja nun mal ganz anders beleuchtet.

Bin auf jeden Fall gespannt wie das alles weitergeht.
#53
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Fregattenkapitän
Beiträge: 2712
Als ob Fußgängerüberwege immer ausreichend beleuchtet wären :hust:

Auch wenn §26 STVO das regelt (zumindest in DE), würde ich da sicher nicht drauf wetten wollen....
#54
customavatars/avatar39931_1.gif
Registriert seit: 09.05.2006
ERZ
Flottillenadmiral
Beiträge: 4535
was sich hier manche einbilden mit dem fußgängerüberweg.... als wären die noch nie einfach so über die straße gelaufen...:stupid:

wie hätte denn die sache für euch ausgesehen, wenn der streifen 1km weit weg gewesen wäre?


in der fahrschulprüfung gibts ne frage, wie man reagieren soll, wenn im wohngebiet plötzlich ein ball auf der straße auftaucht. antwort: bremsen, denn es könnte noch ein kind unbedacht hinterher laufen!

manueller fahrer: vorausschauend fahren, geschwindigkeit drosseln und bremsbereit sein
autonome KI: weiterfahren


der mangel an reaktionen zeigt mir, dass daran bisher niemand gedacht hat, obwohl der großteil hier einen führerschein haben dürfte. stimmt, es kann nicht jeder unfall verhindert werden, aber mit einer richtigen reaktion eines menschen hätte diese frau vielleicht wenigstens ihr leben noch mit einigen knochenbrüchen vielleicht, die wieder heilen können, dank unserer modernen medizin (die uns eine autonome KI bisher noch nicht abgenommen hat).
Um Kommentare schreiben zu können, musst Du eingeloggt sein!

Das könnte Sie auch interessieren: