> > > > Smart Cars lassen sich allzu leicht durch manipulierte Verkehrszeichen verwirren

Smart Cars lassen sich allzu leicht durch manipulierte Verkehrszeichen verwirren

Veröffentlicht am: von

google robocar Smart Cars bzw. selbstfahrende Autos sind ein neuer Trend, der die Automobilindustrie in den kommenden Jahrzehnten extrem beeinflussen dürfte. Auch die Sicherheit spielt dabei natürlich eine große Rolle, denn sollte ein Fahrzeug durch Hacker manipuliert werden, geraten Menschenleben in Gefahr. Doch während die Hersteller die Systeme der Autos gegen softwarebasierte Angriffe absichern, gibt es viel leichtere Wege die Fahrzeuge zu manipulieren.

Forscher an der University of Washington haben einen recht direkten Weg genommen und einfach Verkehrszeichen manipuliert. Sie klebten dafür Sticker auf Verkehrszeichen, welche die Computer-Vision-Systeme der Autos durcheinanderbrachten. Dadurch lässt sich etwa gezielt herbeiführen, dass ein Stop-Zeichen stattdessen als Geschwindigkeitsbegrenzung erkannt wird. Das kann in vielen Situationen mehr als brisant sein.

In der Vergangenheit gab es zwar bereits derartige Angriffstechniken, meistens mussten die Verkehrszeichen aber extrem manipuliert werden, so dass auch jeder Mensch sie falsch bewertet oder aber als Fälschung erkannt hätte. Oder aber die Manipulationen waren zwar dezent, aber nur aus ganz bestimmten Blickwinkeln wirksam, so dass sie in der Praxis nur in Ausnahmefällen gegriffen hätten.

Bei den neuen Veränderungen der Verkehrszeichen kann man dezenter vorgehen, wie die obigen Bilder zeigen. So würden die Manipulationen am Stop-Zeichen oder am Abbiegehinweis für Menschen sicher nicht sofort als bösartig erkennbar sein. Im Test wurde das obige Stop-Zeichen laut den Wissenschaftlern von Computer-Vision-Systemen zu 73,3 % fälschlicherweise als Geschwindigkeitsbegrenzung erkannt.

Die Gefahren sind groß: Sollte es in absehbarer Zeit komplett selbstfahrende Autos geben, könnten durch derartige Manipulationen Unfälle gezielt herbeigeführt werden. Verhindern ließen sich derartige Angriffe durch Verbesserungen der Systeme an sich und Verknüpfungen der visuellen Informationen mit Kontextinformationen: Erkennt ein Fahrzeug etwa durch manipulierte, visuelle Daten ein Stop-Zeichen mitten auf einer Autobahn, könnte anhand gespeicherter Kartendaten ermittelt werden, dass das keinen Sinn ergeben sollte. Trotzdem zeigt die Arbeit der Wissenschaftler auf, dass selbstfahrende Autos auch Gefahren bergen, an denen gearbeitet werden muss.

Social Links

Kommentare (34)

#25
customavatars/avatar148454_1.gif
Registriert seit: 20.01.2011

Leutnant zur See
Beiträge: 1062
Zitat DragonTear;25733488
Richtig. Da muss frûher oder Später eine Regelung her die auf höhere Gewalt hinaus läuft. Den Fahrer allein dafür für alles was das Fahrzeug tut, verantwortlich zu machen, weil er überhaupt in den Wagen eingestiegen ist, ist unsinnig.
Zumindest für Sachschäden gehe ich dafür aus dass die Autohersteller freiwillig die Haftung übernehmen werden, wenn die Software/Hardware schuld ist. Das wäre ein sehr gutes, fast notwendiges Werbeargument.
Das nimmt einem zumindest die Sorgen des Zivilrechts.
Wegen dem Strafrecht wenn jemand verletzt wird, wird sich die Politik hoffentlich etwas nicht fortschrittsbremsendes ausdenken.


Es ist ja zur Zeit so, dass der Fahrer trotzdem volle Haftung übernimmt und die einzige Möglichkeit das zu ändern, ist ein "hard lock" mode - also ein Modus, wo der Fahrer nicht eingreifen *darf*. Halt so ähnlich wie bei öffentlichen Vekehrsmitteln oder wenn man in ein Taxi einsteigt. So lange du Kontrolle selbst partiell) über den Wagen hast, bist du immer mit verantwortlich.

Aber nehmen wir mal an, es gibt in Zukunft autos, wo du genau das haben willst. Dann brauchst du keine Fahrerlaubnis mehr und der Innenraum wäre sowas wie eine Mini-Arbeitsplatz/Wohnstube.
#26
customavatars/avatar13256_1.gif
Registriert seit: 07.09.2004

Flottillenadmiral
Beiträge: 4651
@Kuzorra
So ist es. Bestehende Gesetze sind für autonomes Fahren ungeeignet.

@Shevchen
Die Mindestdefinition ist recht einfach.
Wenn das autonome System unter allen Bedingungen maximal so viele Fehler macht wie ein menschlicher Fahrer, dann hat es den Test bestanden.
Perfektion erwarte ich gar nicht, aber auch von diesem Zustand sind wir noch viele Jahre entfernt. Unter optimalen Bedingungen funktioniert das schon seit Jahren nahezu perfekt, allerdings gibt es diese überwiegend im Labor.

Das Gesetz wonach der Fahrer die Verantwortung für den Computer übernehmen soll ist auch so eine Sache, ist eigentlich wie bereits angesprochen ab Level 3 einfach obsolet. Natürlich wird das vor allem unsere Regierung anders sehen - da wartet schon ein netter Posten für die Zeit nach der Politik...

Übrigens,
habt ihr euch schon mal überlegt was passieren wird wenn alle nur noch mit Strom fahren? - die schöne Spritsteuer ist dann weg...
#27
customavatars/avatar202850_1.gif
Registriert seit: 06.02.2014
Im sonnigen Süden
Admiral
Beiträge: 11855
Zitat Shevchen;25733677
Es ist ja zur Zeit so, dass der Fahrer trotzdem volle Haftung übernimmt und die einzige Möglichkeit das zu ändern, ist ein "hard lock" mode - also ein Modus, wo der Fahrer nicht eingreifen *darf*. Halt so ähnlich wie bei öffentlichen Vekehrsmitteln oder wenn man in ein Taxi einsteigt. So lange du Kontrolle selbst partiell) über den Wagen hast, bist du immer mit verantwortlich.

Aber nehmen wir mal an, es gibt in Zukunft autos, wo du genau das haben willst. Dann brauchst du keine Fahrerlaubnis mehr und der Innenraum wäre sowas wie eine Mini-Arbeitsplatz/Wohnstube.

Ja, im Moment sind wir ja auch noch nicht bei Fahrzeugen die ausreichend sicher, ohne Menschliche Überwachung sind.
Fahrzeuge wo man das Lenkrad z.B. einklappen kann, sollte es irgendwann geben.

Ob es "viele Jahre" dauern wird? Mal sehen :)

Zitat Robo;25733751
Übrigens,
habt ihr euch schon mal überlegt was passieren wird wenn alle nur noch mit Strom fahren? - die schöne Spritsteuer ist dann weg...

Und der Feinstaub in den Städten glücklicherweise auch!
Ja, wahrscheinlich wird es irgendwann die ein oder andere neue Steuer geben, aber das erst nach einer kritischen Masse von mindestens 15-20% E-Autos.
#28
customavatars/avatar267226_1.gif
Registriert seit: 12.02.2017

Obergefreiter
Beiträge: 96
Der springende Punkt ist, dass du die Verantwortung für das Fahrzeug nie aus der Hand gibst, genau das stellt die Änderung am StVG doch auch dar. Ein Computer kann keine Verantwortung übernehmen. In dem Moment des automatischen Fahrens diese wieder auf den Hersteller zu übertragen geht aber sehr weit, vorläufig zu weit. Denn der Fahrer hat immer noch die Möglichkeit unmittelbar einzugreifen und damit Verantwortung, der Hersteller kann das nicht, ihm das also zuzurechnen ist unverhältnismäßig. Auch das drückt die Änderung aus.
Deine Argumentation bzgl. Bus/Bahn passt nicht, denn du schließt bloß einen Beförderungsvertrag ab, bei deinem Auto sieht die Sache aber anders aus, denn du bist Eigentümer, mindestens Besitzer, und bringst das Fahrzeug selbst in Gang.
Selbstverständlich machen Gesetze den Verkehr sicherer! Wenn jeder fahren dürfte wie und mit was er wollte ist das genau das Gegenteil von Sicherheit.
Die Sache bleibt jedenfalls spannend, es ist ja nicht bloß damit getan das die Bundesregierung was erlasst. Es muss in der Judikative auch ausgelegt und weiterentwickelt werden.
#29
customavatars/avatar148454_1.gif
Registriert seit: 20.01.2011

Leutnant zur See
Beiträge: 1062
Zitat Robo;25733751
@Shevchen
Die Mindestdefinition ist recht einfach.
Wenn das autonome System unter allen Bedingungen maximal so viele Fehler macht wie ein menschlicher Fahrer, dann hat es den Test bestanden.
Perfektion erwarte ich gar nicht, aber auch von diesem Zustand sind wir noch viele Jahre entfernt. Unter optimalen Bedingungen funktioniert das schon seit Jahren nahezu perfekt, allerdings gibt es diese überwiegend im Labor.

Das Gesetz wonach der Fahrer die Verantwortung für den Computer übernehmen soll ist auch so eine Sache, ist eigentlich wie bereits angesprochen ab Level 3 einfach obsolet. Natürlich wird das vor allem unsere Regierung anders sehen - da wartet schon ein netter Posten für die Zeit nach der Politik...

Übrigens,
habt ihr euch schon mal überlegt was passieren wird wenn alle nur noch mit Strom fahren? - die schöne Spritsteuer ist dann weg...


Okay, dann haben wir hier schon mal eine ähnliche Definition. Ich würde in meiner auch einen "Norm-Menschen" als "grünes" Kriterium einsetzen - nur würden dann wahrscheinlich als Konsequenz alle Rentner mit Hut von der Straße verschwinden (weils dann im Gesetzt ne "Update Pflicht" für Vekehrsteilnehmer geben würde - egal ob Mensch oder KI). :>

Ich würde auch eine Pflichtanpassung des Tests fordern. Technik entwickelt sich rasant weiter, entsprechend müssen auch alle Tests hinsichtlich der Funktionalität, Robustheit und Sicherheit (und ja, ich würde "Hacker" da drauf ansetzen die Dinger zu knacken) weiter entwickelt werden. Wenn der Hersteller pennt und "Adobe Flash" ähnliche Software als Autopiloten rausbringt, dann fliegt es halt hochkant durch den Test.

Nur: Das Problem damit ist nicht die Technik oder Robustheit, sondern der Gesetzgeber. Wenn der Autopilot sich weiterentwickelt, gibt es im Umkehrschluss den Menschen selbst als Gefahrenquelle. In Zukunft würde dann jeder Fahrer automatisch angezeigt werden, wenn er zu weit von der "Norm" abweicht und die Anzahl an Delikten würde durchs Dach schießen. (auf der anderen Seite würde es die Anzahl der "Deppen" innerhalb von wenigen Tagen um 95% reduzieren)

Das ist zwar per se erst einmal nicht schlecht, nur viele dieser Fahrer sind halt aufs Auto angewiesen. Und wenn zu viele davon ihren Job verlieren, weil denen der Schein entzogen worden sind, weint die Wirtschaft wieder usw... Die Konsequenzen gehen halt über einfaches "Toll/Schlecht" hinaus. Aber hier darf dann Lobby gegen Lobby kämpfen und da kanns für uns Bürger nur Gewinner geben, wenn die Parasiten sich selbst bekriegen.

Zitat DragonTear;25733791
Ja, im Moment sind wir ja auch noch nicht bei Fahrzeugen die ausreichend sicher, ohne Menschliche Überwachung sind.
Fahrzeuge wo man das Lenkrad z.B. einklappen kann, sollte es irgendwann geben.

Ob es "viele Jahre" dauern wird? Mal sehen :)

Die Sache ist, wenn alle Autos KI-gesteuert sind, kommst du auch viel schneller zur Arbeit. Ist aber ne schöne Zukunftsaussicht.


Zitat DragonTear;25733791
Und der Feinstaub in den Städten glücklicherweise auch!
Ja, wahrscheinlich wird es irgendwann die ein oder andere neue Steuer geben, aber das erst nach einer kritischen Masse von mindestens 15-20% E-Autos.

Wahrscheinlich ne Steuer auf seltene Erden, die in den Batterien eingesetzt werden. Aber dann gibts ganz schnell die Kohlenstoff-Nanoröhrchen-Mesh-Batterien usw...
#30
customavatars/avatar39931_1.gif
Registriert seit: 09.05.2006
ERZ
Flottillenadmiral
Beiträge: 4385
Zitat DragonTear;25731636
Ein einziges bislang und tesla sagt auch dass man weiterhin auf die Straße schauen sollte.


wozu dann ein autonomes fahrzeug?
#31
customavatars/avatar202850_1.gif
Registriert seit: 06.02.2014
Im sonnigen Süden
Admiral
Beiträge: 11855
Zitat Nemesys;25737181
wozu dann ein autonomes fahrzeug?

Vorerst - Die Teslas sind noch nicht "autonom"!
Gibt ja diese Klassifizierung:
Die fünf Level des Autonomen Fahrens Don Dahlmann (der Artikel hat auch ein paar gute Einschätzungen).
Die Teslas sind im Moment bei Stufe 3. Ein paar traditionelle Autobauer haben einige der Elemente davon noch weiter perfektioniert, aber Tesla bietet so in etwa das beste Rundumpaket.
Darüber hinaus behaupten sie, die Fahrzeuge hätten die Hardware für Stufe 4 oder gar 5 und es fehle nur an Software. Ob das stimmen wird, wird sich zeigen müssen.
#32
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Korvettenkapitän
Beiträge: 2416
Tesla ist auf Level 2 und muss ständig überwacht werden
#33
Registriert seit: 17.07.2012
München
Matrose
Beiträge: 17
Und bietet nicht das beste Rundumpaket;)
#34
customavatars/avatar105675_1.gif
Registriert seit: 03.01.2009
ein unbeugsames Dorf im Rheinland
Korvettenkapitän
Beiträge: 2416
Ich bin von allen bisher getesteten Runndumpaketen alles andere als angetan. Marketingrealität und reale Realität liegen da für meinen Geschmack nach wie vor viel zu weit auseinander.
Um Kommentare schreiben zu können, musst Du eingeloggt sein!

Das könnte Sie auch interessieren:

Statt Yeti: Der Skoda Karoq ist ein Ateca mit mehr Infotainment

Logo von IMAGES/STORIES/2017/SKODA_KAROQ

Lieferzeiten von mehr als einem halben Jahr scheinen Skoda und Seat Recht zu geben: Kodiaq und Ateca sind beliebt. Deshalb war es nur eine Frage der Zeit, bis das nächste SUV aus dem VW-Konzern vorgestellt wird. Bereits am 18. Mai soll das der Fall sein, Name und erste Details sind bereits... [mehr]

Skoda Karoq: Der Ateca-Zwilling verzichtet auf Experimente

Logo von IMAGES/STORIES/2017/SKODA_KAROQ

Rendite-Hoffnung statt Blick in die Zukunft: Mit dem Karoq hat Skoda ein Dreivierteljahr nach dem Kodiaq in Stockholm sein zweites neues SUV vorgestellt. Ein Risiko dürfte die VW-Tochter damit nicht eingehen. Denn wie vermutet, und durch erste verratene Details bereits im Vorfeld bestätigt, ist... [mehr]

Porsche PCM und Panamera 4S im Test

Logo von IMAGES/STORIES/2017/PORSCHE_PANAMERA_4S

Sich nur auf die sportlichen Attribute zu konzentrieren, reicht selbst traditionsreichen Sportwagenherstellern nicht mehr, um die Ansprüche der Zielgruppe zu befriedigen. Kein Wunder also, dass selbst Porsche ein breites Spektrum an Assistenten anbietet und darüber hinaus auch an die... [mehr]

Care by Volvo: Mit dem XC40 startet die Auto-Flatrate

Logo von IMAGES/STORIES/2017/VOLVO_XC40

Nicht auf der IAA in Frankfurt, sondern in Mailand hat Volvo sein neues Kompakt-SUV vorgestellt. Doch nicht nur die Tatsache, dass der XC40 das erste, auf einer neuen und sehr flexiblen Plattform basierende Modell ist, soll Verbraucher locken. Auch ein neues Vertriebsmodell haben die Schweden mit... [mehr]

Modifiziertes Tesla Model S P100D braucht 2,1 s für 0 - 100 km/h

Logo von IMAGES/STORIES/LOGOS-2015/TESLA_MOTORS

Aufgrund des Elektroantriebes haben Fahrzeuge wie die Model S und Model X von Tesla sowie der i3 und i8 von BMW oder der FF91 von Faraday Future enorme Beschleunigungswerte. Alles unter drei Sekunden sind sehr gute Werte in diesem Bereich. Im Rahmen einer neuen Rennserie, der Electric GT... [mehr]

Tesla Roadster: Das schnellste Auto der Welt schafft 1000 km

Logo von IMAGES/STORIES/2017/TESLA_ROADSTER

Angekündigt hatte Tesla die Vorstellung des Semi Truck, doch der Star war ein anderer: der anschließend angekündigte Tesla Roadster der zweiten Generation. Das allein hätte vermutlich nur Fans der Marke begeistert. Doch die in Aussicht gestellten Eckdaten dürften auch Kritiker mit... [mehr]