> > > > Smart Cars lassen sich allzu leicht durch manipulierte Verkehrszeichen verwirren

Smart Cars lassen sich allzu leicht durch manipulierte Verkehrszeichen verwirren

Veröffentlicht am: von

google robocar Smart Cars bzw. selbstfahrende Autos sind ein neuer Trend, der die Automobilindustrie in den kommenden Jahrzehnten extrem beeinflussen dürfte. Auch die Sicherheit spielt dabei natürlich eine große Rolle, denn sollte ein Fahrzeug durch Hacker manipuliert werden, geraten Menschenleben in Gefahr. Doch während die Hersteller die Systeme der Autos gegen softwarebasierte Angriffe absichern, gibt es viel leichtere Wege die Fahrzeuge zu manipulieren.

Forscher an der University of Washington haben einen recht direkten Weg genommen und einfach Verkehrszeichen manipuliert. Sie klebten dafür Sticker auf Verkehrszeichen, welche die Computer-Vision-Systeme der Autos durcheinanderbrachten. Dadurch lässt sich etwa gezielt herbeiführen, dass ein Stop-Zeichen stattdessen als Geschwindigkeitsbegrenzung erkannt wird. Das kann in vielen Situationen mehr als brisant sein.

In der Vergangenheit gab es zwar bereits derartige Angriffstechniken, meistens mussten die Verkehrszeichen aber extrem manipuliert werden, so dass auch jeder Mensch sie falsch bewertet oder aber als Fälschung erkannt hätte. Oder aber die Manipulationen waren zwar dezent, aber nur aus ganz bestimmten Blickwinkeln wirksam, so dass sie in der Praxis nur in Ausnahmefällen gegriffen hätten.

Bei den neuen Veränderungen der Verkehrszeichen kann man dezenter vorgehen, wie die obigen Bilder zeigen. So würden die Manipulationen am Stop-Zeichen oder am Abbiegehinweis für Menschen sicher nicht sofort als bösartig erkennbar sein. Im Test wurde das obige Stop-Zeichen laut den Wissenschaftlern von Computer-Vision-Systemen zu 73,3 % fälschlicherweise als Geschwindigkeitsbegrenzung erkannt.

Die Gefahren sind groß: Sollte es in absehbarer Zeit komplett selbstfahrende Autos geben, könnten durch derartige Manipulationen Unfälle gezielt herbeigeführt werden. Verhindern ließen sich derartige Angriffe durch Verbesserungen der Systeme an sich und Verknüpfungen der visuellen Informationen mit Kontextinformationen: Erkennt ein Fahrzeug etwa durch manipulierte, visuelle Daten ein Stop-Zeichen mitten auf einer Autobahn, könnte anhand gespeicherter Kartendaten ermittelt werden, dass das keinen Sinn ergeben sollte. Trotzdem zeigt die Arbeit der Wissenschaftler auf, dass selbstfahrende Autos auch Gefahren bergen, an denen gearbeitet werden muss.

Social Links

Kommentare (30)

#21
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Fregattenkapitän
Beiträge: 2689
Hm King Loui, ich glaube wir haben da entweder ein unterschiedliches Verständis, oder wir reden einfach nur etwas aneinander vorbei:
[COLOR=#ff0000]*[/COLOR] [COLOR=#ff0000]Wenn ich die Kontrolle abgebe, dann gebe ich auch die Verantwortung (und Haftung) ab - das ist für mich der springende Punkt.[/COLOR] [COLOR=#ff0000]*
[/COLOR]
Zitat King Loui;25733484
siehe § 1b StVG
Nochmal: Der Gesetzestext ist in dieser Form Quatsch - "der Fahrer darf sich abwenden, aber ist quasi ständig verpflichtet zu überwachen" widerspricht sich.
Die Definition der höheren Automatisierungslevel beinhaltet als Kernelement, dass der Fahrer das System eben nicht ständig überwachen muss (Tesla ist Level 2, auch wenn der ungeschickt gewählte Begriff "Autopilot" was anderes suggeriert). Wenn also OEMs ein System als Level3/4/5 bewerben und verkaufen, dass qua Definition nicht ständig überwacht werden muss, aber der Gesetzgeber für eben dieses System die Haftung dem Fahrer umhängt, wenn er das System nicht ständig überwacht, dann passt das nicht zusammen.Da kannst Du noch 3x auf das StVG hinweisen, davon verschwindet der Widerspruch nicht. [COLOR=#ff0000]**[/COLOR]
Zitat King Loui;25733484
Naja, es ist aber auch nicht fair dafür allein den Hersteller in die Pflicht zu nehmen. Denn immerhin hat der Fahrer ein eminentes Interesse daran befördert zu werden, außerdem geht das Gefährdungspotential nach wie vor von dem konkreten Fahrzeug aus, auf das der Fahrer vollumfänglich einwirken kann, hingegen der Hersteller während der Fahrt keinerlei Einfluss mehr auf das Fahrzeug hat.
Der Hersteller oder (Teil-)Systemlieferant, der das System entwickelt und in den Verkehr gebracht hat ist doch verantwortlich für die Art der Entscheidungsfindung des Fahrzeugs, wenn es automatisiert fährt. Der Hersteller lenkt es natürlich nicht unmittelbar aktiv in jedem Moment selbst, aber der Einfluss des Herstellers steuert das Fahrzeug doch vielmehr, als es der in dem Moment passive Insasse tut. [COLOR=#ff0000]**[/COLOR]
Mit Deiner Argumentation bin ich auch schuld, wenn ich in der Straßen/S/U-Bahn verunglücke - da habe ich auch ein Beförderungsinteresse, ggf. keinen menschlichen Fahrer an Board und habe jederzeit die Möglichkeit, "vollumfänglich" die Notbremse zu ziehen.
....und im Bus habe ich zwar einen Fahrer und auch ein Beförderungsinteresse und kann ja dem Fahrer zurufen "da kommt ein LKW von rechts der uns gleich rammt!" - aber soweit ich weiß habe ich keine Teilschuld, wenn ich das unterlasse und meine "teilweisen" Einflussmöglichkeiten nicht ausreichend wahrnehme. [COLOR=#ff0000]**[/COLOR]
Zitat King Loui;25733484
Die Idee, autonomes Fahren würde es ermöglichen am Steuer zu schlafen, zu lesen usw., ohne das der Fahrer noch irgendeine Form von Verantwortung trägt, ist einfach Quatsch. Dazu müsste schon das Lenkrad entfernt werden und man dürfte kaum noch Einfluss auf die Fahrt selbst haben.
In der langfristigen Perspektive wird das aber die Konsequenz sein, auch wenn Autofahrerdeutschland das heute noch empört von sich weist. In ein paar Generationen wird man sich fragen, warum die unsicheren Vollidioten jemals den Großteil selber gefahren sind, was für ein Risiko und was für eine Zeitverschwendung. Außerdem wird man in einem automatisierten System, das nach einfacheren Regeln funktionieren kann, den irrationalen "Störfaktor Mensch" irgendwann auch nicht mehr tolerieren wollen. Solange der Mensch die überwiegende Mehrheit stellt sind automatisierte Systeme erst unbekannt und auch verboten, dann in der Erprobung unter speziellen Randbedingungen, dann in der Minderheit - andersrum wird der menschliche Fahrer "ausgephast" (Unterzahl, Randerscheinung, nur noch unter speziellen Randbedingungen zulässig, ausgeschlossen). Wer dann noch aus Spaß fahren will geht halt auf die Rennstrecke - da bezahlt man für den Spaß - und die Versicherung - und gut ist. Da hab ich die Kontrolle und muss auch für die Haftung geradestehen. [COLOR=#ff0000]**[/COLOR]
Zitat King Loui;25733484
Das verstehe ich nicht. Wenn Fahren dadurch sicherer wird ist das doch nur positiv.
Der Straßenverkehr wird ja nicht durch das Gesetz sicherer, sondern durch technischen Fortschritt....und der sollte unter den richtigen Rahmenbedingungen Einzug halten. Da das aber nicht morgen oder übermorgen passiert, sollte man die aktuelle Fassung bis dahin besser nochmal überarbeiten.


Auch wenn das jetzt schon sehr viel länger als geplant ausgefallen ist - das könnte ich alles noch deutlich weiter ausführen ;-)
#22
customavatars/avatar148454_1.gif
Registriert seit: 20.01.2011

Leutnant zur See
Beiträge: 1110
Zitat DragonTear;25733488
Richtig. Da muss frûher oder Später eine Regelung her die auf höhere Gewalt hinaus läuft. Den Fahrer allein dafür für alles was das Fahrzeug tut, verantwortlich zu machen, weil er überhaupt in den Wagen eingestiegen ist, ist unsinnig.
Zumindest für Sachschäden gehe ich dafür aus dass die Autohersteller freiwillig die Haftung übernehmen werden, wenn die Software/Hardware schuld ist. Das wäre ein sehr gutes, fast notwendiges Werbeargument.
Das nimmt einem zumindest die Sorgen des Zivilrechts.
Wegen dem Strafrecht wenn jemand verletzt wird, wird sich die Politik hoffentlich etwas nicht fortschrittsbremsendes ausdenken.


Es ist ja zur Zeit so, dass der Fahrer trotzdem volle Haftung übernimmt und die einzige Möglichkeit das zu ändern, ist ein "hard lock" mode - also ein Modus, wo der Fahrer nicht eingreifen *darf*. Halt so ähnlich wie bei öffentlichen Vekehrsmitteln oder wenn man in ein Taxi einsteigt. So lange du Kontrolle selbst partiell) über den Wagen hast, bist du immer mit verantwortlich.

Aber nehmen wir mal an, es gibt in Zukunft autos, wo du genau das haben willst. Dann brauchst du keine Fahrerlaubnis mehr und der Innenraum wäre sowas wie eine Mini-Arbeitsplatz/Wohnstube.
#23
customavatars/avatar13256_1.gif
Registriert seit: 07.09.2004

Flottillenadmiral
Beiträge: 4842
@Kuzorra
So ist es. Bestehende Gesetze sind für autonomes Fahren ungeeignet.

@Shevchen
Die Mindestdefinition ist recht einfach.
Wenn das autonome System unter allen Bedingungen maximal so viele Fehler macht wie ein menschlicher Fahrer, dann hat es den Test bestanden.
Perfektion erwarte ich gar nicht, aber auch von diesem Zustand sind wir noch viele Jahre entfernt. Unter optimalen Bedingungen funktioniert das schon seit Jahren nahezu perfekt, allerdings gibt es diese überwiegend im Labor.

Das Gesetz wonach der Fahrer die Verantwortung für den Computer übernehmen soll ist auch so eine Sache, ist eigentlich wie bereits angesprochen ab Level 3 einfach obsolet. Natürlich wird das vor allem unsere Regierung anders sehen - da wartet schon ein netter Posten für die Zeit nach der Politik...

Übrigens,
habt ihr euch schon mal überlegt was passieren wird wenn alle nur noch mit Strom fahren? - die schöne Spritsteuer ist dann weg...
#24
customavatars/avatar202850_1.gif
Registriert seit: 06.02.2014
Im sonnigen Süden
Admiral
Beiträge: 12438
Zitat Shevchen;25733677
Es ist ja zur Zeit so, dass der Fahrer trotzdem volle Haftung übernimmt und die einzige Möglichkeit das zu ändern, ist ein "hard lock" mode - also ein Modus, wo der Fahrer nicht eingreifen *darf*. Halt so ähnlich wie bei öffentlichen Vekehrsmitteln oder wenn man in ein Taxi einsteigt. So lange du Kontrolle selbst partiell) über den Wagen hast, bist du immer mit verantwortlich.

Aber nehmen wir mal an, es gibt in Zukunft autos, wo du genau das haben willst. Dann brauchst du keine Fahrerlaubnis mehr und der Innenraum wäre sowas wie eine Mini-Arbeitsplatz/Wohnstube.

Ja, im Moment sind wir ja auch noch nicht bei Fahrzeugen die ausreichend sicher, ohne Menschliche Überwachung sind.
Fahrzeuge wo man das Lenkrad z.B. einklappen kann, sollte es irgendwann geben.

Ob es "viele Jahre" dauern wird? Mal sehen :)

Zitat Robo;25733751
Übrigens,
habt ihr euch schon mal überlegt was passieren wird wenn alle nur noch mit Strom fahren? - die schöne Spritsteuer ist dann weg...

Und der Feinstaub in den Städten glücklicherweise auch!
Ja, wahrscheinlich wird es irgendwann die ein oder andere neue Steuer geben, aber das erst nach einer kritischen Masse von mindestens 15-20% E-Autos.
#25
customavatars/avatar148454_1.gif
Registriert seit: 20.01.2011

Leutnant zur See
Beiträge: 1110
Zitat Robo;25733751
@Shevchen
Die Mindestdefinition ist recht einfach.
Wenn das autonome System unter allen Bedingungen maximal so viele Fehler macht wie ein menschlicher Fahrer, dann hat es den Test bestanden.
Perfektion erwarte ich gar nicht, aber auch von diesem Zustand sind wir noch viele Jahre entfernt. Unter optimalen Bedingungen funktioniert das schon seit Jahren nahezu perfekt, allerdings gibt es diese überwiegend im Labor.

Das Gesetz wonach der Fahrer die Verantwortung für den Computer übernehmen soll ist auch so eine Sache, ist eigentlich wie bereits angesprochen ab Level 3 einfach obsolet. Natürlich wird das vor allem unsere Regierung anders sehen - da wartet schon ein netter Posten für die Zeit nach der Politik...

Übrigens,
habt ihr euch schon mal überlegt was passieren wird wenn alle nur noch mit Strom fahren? - die schöne Spritsteuer ist dann weg...


Okay, dann haben wir hier schon mal eine ähnliche Definition. Ich würde in meiner auch einen "Norm-Menschen" als "grünes" Kriterium einsetzen - nur würden dann wahrscheinlich als Konsequenz alle Rentner mit Hut von der Straße verschwinden (weils dann im Gesetzt ne "Update Pflicht" für Vekehrsteilnehmer geben würde - egal ob Mensch oder KI). :>

Ich würde auch eine Pflichtanpassung des Tests fordern. Technik entwickelt sich rasant weiter, entsprechend müssen auch alle Tests hinsichtlich der Funktionalität, Robustheit und Sicherheit (und ja, ich würde "Hacker" da drauf ansetzen die Dinger zu knacken) weiter entwickelt werden. Wenn der Hersteller pennt und "Adobe Flash" ähnliche Software als Autopiloten rausbringt, dann fliegt es halt hochkant durch den Test.

Nur: Das Problem damit ist nicht die Technik oder Robustheit, sondern der Gesetzgeber. Wenn der Autopilot sich weiterentwickelt, gibt es im Umkehrschluss den Menschen selbst als Gefahrenquelle. In Zukunft würde dann jeder Fahrer automatisch angezeigt werden, wenn er zu weit von der "Norm" abweicht und die Anzahl an Delikten würde durchs Dach schießen. (auf der anderen Seite würde es die Anzahl der "Deppen" innerhalb von wenigen Tagen um 95% reduzieren)

Das ist zwar per se erst einmal nicht schlecht, nur viele dieser Fahrer sind halt aufs Auto angewiesen. Und wenn zu viele davon ihren Job verlieren, weil denen der Schein entzogen worden sind, weint die Wirtschaft wieder usw... Die Konsequenzen gehen halt über einfaches "Toll/Schlecht" hinaus. Aber hier darf dann Lobby gegen Lobby kämpfen und da kanns für uns Bürger nur Gewinner geben, wenn die Parasiten sich selbst bekriegen.

Zitat DragonTear;25733791
Ja, im Moment sind wir ja auch noch nicht bei Fahrzeugen die ausreichend sicher, ohne Menschliche Überwachung sind.
Fahrzeuge wo man das Lenkrad z.B. einklappen kann, sollte es irgendwann geben.

Ob es "viele Jahre" dauern wird? Mal sehen :)

Die Sache ist, wenn alle Autos KI-gesteuert sind, kommst du auch viel schneller zur Arbeit. Ist aber ne schöne Zukunftsaussicht.


Zitat DragonTear;25733791
Und der Feinstaub in den Städten glücklicherweise auch!
Ja, wahrscheinlich wird es irgendwann die ein oder andere neue Steuer geben, aber das erst nach einer kritischen Masse von mindestens 15-20% E-Autos.

Wahrscheinlich ne Steuer auf seltene Erden, die in den Batterien eingesetzt werden. Aber dann gibts ganz schnell die Kohlenstoff-Nanoröhrchen-Mesh-Batterien usw...
#26
customavatars/avatar39931_1.gif
Registriert seit: 09.05.2006
ERZ
Flottillenadmiral
Beiträge: 4517
Zitat DragonTear;25731636
Ein einziges bislang und tesla sagt auch dass man weiterhin auf die Straße schauen sollte.


wozu dann ein autonomes fahrzeug?
#27
customavatars/avatar202850_1.gif
Registriert seit: 06.02.2014
Im sonnigen Süden
Admiral
Beiträge: 12438
Zitat Nemesys;25737181
wozu dann ein autonomes fahrzeug?

Vorerst - Die Teslas sind noch nicht "autonom"!
Gibt ja diese Klassifizierung:
Die fünf Level des Autonomen Fahrens Don Dahlmann (der Artikel hat auch ein paar gute Einschätzungen).
Die Teslas sind im Moment bei Stufe 3. Ein paar traditionelle Autobauer haben einige der Elemente davon noch weiter perfektioniert, aber Tesla bietet so in etwa das beste Rundumpaket.
Darüber hinaus behaupten sie, die Fahrzeuge hätten die Hardware für Stufe 4 oder gar 5 und es fehle nur an Software. Ob das stimmen wird, wird sich zeigen müssen.
#28
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Fregattenkapitän
Beiträge: 2689
Tesla ist auf Level 2 und muss ständig überwacht werden
#29
Registriert seit: 17.07.2012
Soest
Matrose
Beiträge: 19
Und bietet nicht das beste Rundumpaket;)
#30
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Fregattenkapitän
Beiträge: 2689
Ich bin von allen bisher getesteten Runndumpaketen alles andere als angetan. Marketingrealität und reale Realität liegen da für meinen Geschmack nach wie vor viel zu weit auseinander.
Um Kommentare schreiben zu können, musst Du eingeloggt sein!

Das könnte Sie auch interessieren:

Mercedes-Benz zeigt neues Infotainment-System: Aus COMAND wird MBUX auf...

Logo von IMAGES/STORIES/2017/MERCEDES-BENZ_MBUX

Nach fast genau 20 Jahren ändert Mercedes-Benz die Bezeichnung seines Infotainment-Systems. Denn mit dem Start der neuen A-Klasse (W177) im Frühjahr wird eine neue Plattform ihre Premiere feiern. Die soll mit MBUX aber nicht nur eine neue Bezeichnung erhalten, sondern auch einen fast... [mehr]

MBUX-Premiere: Viel Assistenz für die neue Mercedes-Benz A-Klasse (2. Update)

Logo von IMAGES/STORIES/2017/MERCEDES-BENZ_A-KLASSE_W177

Viele Parallelen sind es am Ende wie zu erwarten nicht geworden. Aber auch wenn die neue A-Klasse (W177) optisch nicht viel mit der Elektrostudie EQA zu tun hat, wirkt sie gegenüber ihrem Vorgänger dennoch moderner. Das gilt vor allem unter dem Blech. Dort bietet Mercedes-Benz mit MBUX und... [mehr]

Tesla Roadster: Das schnellste Auto der Welt schafft 1000 km

Logo von IMAGES/STORIES/2017/TESLA_ROADSTER

Angekündigt hatte Tesla die Vorstellung des Semi Truck, doch der Star war ein anderer: der anschließend angekündigte Tesla Roadster der zweiten Generation. Das allein hätte vermutlich nur Fans der Marke begeistert. Doch die in Aussicht gestellten Eckdaten dürften auch Kritiker mit... [mehr]

Maßstab in Sachen Sicherheit und Konnektivität: VW Golf 8 startet Mitte 2019

Logo von IMAGES/STORIES/2017/VOLKSWAGEN

Erst in knapp eineinhalb Jahren soll der erste Golf 8 die Produktion in Wolfsburg verlassen. Kein Wunder also, dass VW bislang weder technische Details verraten oder Hinweise auf das Design verteilt hat. Offener zeigt man sich mit Blick auf Sicherheit und Konnektivität: Nichts weniger als der... [mehr]

Wegen Produktionsproblemen: Tesla kauft Akku-Markt leer

Logo von IMAGES/STORIES/2017/TESLA

Die Elektromobilität ist immer mehr auf dem Vormarsch. Für die Produktion der Autos werden allerdings auch genügend Akkus benötigt und diese scheinen weltweit inzwischen zur Mangelware zu werden. Tesla hat mit seiner Gigafactory zwar eine eigene Produktionsstätte für Akkus errichtet, kämpft... [mehr]

Festkörperakku: Fisker verspricht 800 km Reichweite nach einer Minute laden

Logo von IMAGES/STORIES/2017/FISKER

Ausgerechnet der vergleichsweise kleine Autobauer Fisker will die vermutlich größte Hürde bei der Verbreitung von Elektrofahrzeugen aus dem Weg räumen. Der in Aussicht gestellte Festkörperakku soll nach weniger als einer Minute an der Ladestelle eine Reichweite von 800 km ermöglichen.... [mehr]