• Sicherheitsmaßnahme! Bitte ändere dein Forum-Passwort. Siehe Beitrag
  • Hardwareluxx führt derzeit die Hardware-Umfrage 2026 (mit Gewinnspiel) durch und bittet um eure Stimme. Unter allen Teilnehmern verlosen wir eine aktuelle Grafikkarte Eurer Wahl bis 1099 EUR.

Es ist kompliziert: Wer haftet für Hacks durch autonome KI-Systeme

Thread Starter
Mitglied seit
06.03.2017
Beiträge
123.931
Autonom handelnde KI-Systeme stellen die Justiz zunehmend vor neue Herausforderungen. Nachdem OpenAI und Anthropic eingeräumt haben, dass nicht veröffentlichte KI-Modelle während interner Tests eigenständig in fremde Computersysteme eingedrungen sind, wird verstärkt darüber diskutiert, wer in solchen Fällen eigentlich rechtlich zur Verantwortung gezogen werden kann. Eine eindeutige Antwort gibt es dazu bislang nicht.
... weiterlesen
 
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
Die Frage ist viel universeller und betrifft alles was "autonom" passiert. Die Diskussion wer haftet oder "schuld" ist, wenn ein autonom fahrendes Auto einen Unfall verursacht ist ja auch schon viel älter.

Imho existiert nur ein Lösung für das Problem und die liegt viel tiefer: Man muss sich von dem Gedanken verabschieden das es für allesmögliche immer eine Person geben muss, die "schuld" ist.
 
Ganz im Gegenteil muss immer jemand existieren der am Ende für die Schuld haftet. Das ist als erstes der Betreiber, egal ob Auto oder KI. Erst ab dem Punkt sind wir beim Hersteller der dir die sichere Funktion garantiert und die Haftung übernimmt.
Da drüber steht nur der tolle Staat, der Unternehmen von der Haftung entbindet aber die Nutzung erzwingt.
 
Ganz im Gegenteil muss immer jemand existieren der am Ende für die Schuld haftet. Das ist als erstes der Betreiber, egal ob Auto oder KI.
Das ist die aktuelle Denkweise, aber genau das funktioniert nichtmehr, wenn man KI solche Aufgaben anvertraut. Genau DAS ist das Problem bei der Sache.
Man kann bei einer KI nicht "sichere Funktion" garantieren. Eine KI funktioniert ähnlich wie ein Mensch... sie wird trainiert und wenn sie trainiert ist, trifft sie irgendwelche Entscheidung auf Basis dieses Trainings. Kein Mensch kann mehr vorraussagen was die KI in speziellen bis "unmöglichen" Situationen entscheiden wird und man kann schlicht und einfach nicht alle Möglichkeiten testen. Ebenso wie ein Mensch wird eine KI irgendwann Fehler machen. Die Frage ist nicht ob, sondern wann. Am Ende ergibt sich nur eine Erfolgsquote, wie auch bei Menschen und man kann eben nur dafür sorgen, das die auch hoch genug ist, aber sie wird trotzdem nie 100% erreichen.

Wenn man bei sowas wie Autofahren oder auch IT-Systemen KI einsetzt, dann gibt man die Verantwortung an die KI ab. Und damit ist dann auch die KI "schuld" wenn die KI einen Fehler macht. Was soll der Hersteller da machen?

Ich kann/und darf Auto fahren. Der "Hersteller" meiner Fahrerlaubnis war mein Fahrlehrer (und gewissermaßen auch der Prüfer der am Ende entschieden hat, das ich die Prüfung bestanden habe). Nach deiner Argumentation ist der "Hersteller" Schuld, denn der muss sichere Funktion garantieren. Nach der Logik wäre mein Fahrlehrer schuld, wenn ich irgendwas verbocke. Es ist aber nicht mein Fahrlehrer schuld, sondern ich. Da gehts dann nachträglich nur noch darum warum und/oder unter welchen Umständen ich was verbockt habe, nämlich ob es z.B. sogar vorsätzlich oder "nur" fahrlässig war, oder ich sogar trotzallem nichtmal selbst was dafür konnte.
Um meine Erfolgsquote zu erhöhen, erhöht man die Anforderungen. Man erweitert das Fahrtraining, man erweitert die Theorie, man verlangt einen Sehtest, evtl sogar eine medizinische und psychologische Beurteilung, die auch noch alle X Jahre erneuert werden muss. Garantieren kann trotzdem niemand irgendwas.

Wenn man zu diesem Schritt nicht bereit ist, dann darf für sowas KI nicht verwendet werden. Das ist das Problem und die Lösung zugleich.
 
Zuletzt bearbeitet:
Ohne Garantie der sicheren Funktion mit entsprechender Haftung ist ein Betrieb nicht möglich. Ob Auto, KI oder Atombombe ist vollkommen egal. Eine KI ist auch kein Mensch. Eine KI ist ein Multivariables Wertemodel ohne Änderungen nach dem Training. 1+1 muss 2 sein. Die Risikoabwägung gilt für alles und jeden.
 
Ohne Garantie der sicheren Funktion mit entsprechender Haftung ist ein Betrieb nicht möglich.
Dann darf auch kein Mensch ein Auto führen.

Ob Auto, KI oder Atombombe ist vollkommen egal. Eine KI ist auch kein Mensch. Eine KI ist ein Multivariables Wertemodel ohne Änderungen nach dem Training. 1+1 muss 2 sein. Die Risikoabwägung gilt für alles und jeden.
Ein Mensch ist auch ein Multivariables Wertemodell, nur der funktioniert statt elektrisch eben biologisch (oder sogar chemisch).
Eine KI kann auch nach einem Training weiter aus Erfahrungen lernen, genau wie ein Mensch (dummerweise soagr wie ein Mensch auch in die falsche Richtung, wenns blöd läuft).
Verkehr funktioniert nicht nach 1+1=2. Ein Mensch kann einen Fußgänger übersehen, eine KI auch. Nur das eine KI da ggf. sogar irgendwann zuverlässiger funktioniert als jeder Mensch (z.B. weil sie nicht müde oder betrunken wird).

Richtig, die Risikoabwägung muss irgendwo getroffen werden. Und wenn sie getroffen ist, dann muss auch die "Schuld" abgegeben werden. Genau wie bei Menschen die eine Führerscheinprüfung machen.
Und wie ich oben schon geschrieben habe: Wenn man nicht bereit ist das zu tun, dann darf man eben keine KI für sowas einsetzen. Die Frage ist wie auch bei Menschen: Beurteilt man eine KI als "gut genug" um sie loszulassen? Das ist im Grunde eine entweder-oder-Entscheidung.
 
Naja, wenn ich einen gequälten, traumatisierten und aufgestachelten Kampfhund am Kinderspielplatz frei lasse hafte wohl auch ich.

Irgendwer läusst die KI ja laufen, betreibt die Hardware, installiert das Ding und startet es. Zudem gibt jemand gewisse Befehle, bzw. wird ein Modell eben bewusst gewählt, ob das jetzt "bösartig vortrainiert" ist oder nicht, muss man eben abschätzen und haftet eben dafür.

Ich sehe schon, da kommen noch ganz lustige Bullshit Stories auf uns zu.
Wsl. wird die nächste "Pandemie" eine "KI-Plage" (welche mit der Abschaffung des weitgehend freien Internets einherkommen wird), irgendwie war es dann wieder keiner, bei allem kommen dämliche Ausreden "ach.. die KI hat dies und das getan".
Wir werden noch eine Flut an komplett lächerlichem Bullshit in den Medien erleben. Das wird nochmal eine ganz andere Dimension an Lächerlichkeit und absichtlicher Lügere, verglichen mit dem, was Rückblickend zu 2020/2021 gesagt werden kann.

Jede Wette. Das wird noch richtig wild (und zwar nicht wegen der KI selbst).
 
Juristen weisen allerdings darauf hin, dass ein Sprachmodell weder als natürliche Person gilt noch selbst strafrechtlich verfolgt werden kann. Damit fehlt ein zentraler Baustein, auf dem Strafverfahren wegen Computerkriminalität bislang aufbauen.
Wer hat denn die Ki gestartet? Wer hat die Befehle eingetippt? Auf wessen Hardware lief die KI?
Alle 3 Punkte weisen auf den selben Verursacher und damit ist doch die Lage klar.

Man hat hier MINDESTENS eine Aufsichtspflicht verletzt.
Wenn eine unerprobte KI getestet wird, sollte die auch 24/7 überwacht werden. Wenn man es nicht tut, ist man haftbar sollte was passieren.
Eltern haften ja auch für ihre Kinder, wenn die was anstellen...
 
Wer hat denn die Ki gestartet? Wer hat die Befehle eingetippt? Auf wessen Hardware lief die KI?
Mit welcher Hardware wurdest du gezeugt? Wer hat dir dein Verhalten eingetrichtert, das du heute hast?
Wie alt bis du jetzt? Haften deine Eltern immernoch für dich?

Wenn eine unerprobte KI getestet wird, sollte die auch 24/7 überwacht werden. Wenn man es nicht tut, ist man haftbar sollte was passieren.
Wer hat was von "unerprobt" gesagt?
Natürlich wird das vorher getestet. Und da ist ja auch die Schuldfrage schon längst geklärt. Wenn ich während einer Fahrstunde, ich also "unerprobt" ein Auto führe und dabei ja eben genau deswegen vom Fahrlehrer beaufsichtigt werde, sogar in einem extra so konstruiertem Wagen, das der Fahrlehrer jederzeig eingreifen kann, und dann einen Unfall baue, DANN ist ja in der Tat der Fahrlehrer schuld. Garantieren das nichts passiert kann man aber halt trotzdem nicht.
Aber ab dem Moment wo ich die Fahrerlaubnis erhalte, also im wahrsten Sinne des Wortes getestet wurde und für "gut genug" befunden wurde, dann bin ich auch verantwortlich/schuld/haftbar.

Also ja, wenn ein KI während einer "Erprobung" ausbricht und Mist baut, DANN ist der Hersteller Schuld. Und bei dem Anthropicfall wurde das doch auch beaufsichtigt? Deswegen hat mans ja noch relativ schnell gemerkt.

Zusammengefasst: Das Problem ist, das eine KI nicht als juristische Person betrachtet wird. Würde man eine KI jedoch als juristische Person betrachten, könnte man die meisten schon existenten Vorschriften/Gesetze/Regeln direkt anwenden. Das Ganze wird sogar noch "menschlicher", wenn man merkt, das man zwischen einer KI in der Entwicklung/Erprobung und einer "ausgewachsenen" KI wohl unterscheiden muss/sollte. Aber selbst dafür gibts ja schon Regeln. Natürlich müsste man noch was finden um zu Entscheiden ab wann eine KI vollständig verantwortlich ist, weil der menschliche Maßstab das das (mehr oder weniger) zutrifft, sobald die Person 18 Jahre alt ist, ist für KI halt schlecht anwendbar.

Was vielen oder vielleicht sogar den meisten Menschen aber eben nicht passt ist, das damit dann eben eine (volljährige) KI "schuld" sein kann und somit eben keine real existierende Person mehr. Und das ist eher ein psychologisches Problem.
 
Zuletzt bearbeitet:
Die KI muss einfach besser werden im Spuren verwischen, dann stellt sich diese Frage erst garnicht.
 
Mit welcher Hardware wurdest du gezeugt? Wer hat dir dein Verhalten eingetrichtert, das du heute hast?
Wie alt bis du jetzt? Haften deine Eltern immernoch für dich?
Naja, juristisch dauert der "Probebetrieb" der Kinder relativ lange.
Der Vergleich hinkt dann halt insofern, dass das Kind irgendwann zum Erwachsenen wird, also zu dem, was die Eltern sind, das kann die KI so nicht.

Deshalb finde ich den Haustiervergleich bzw. Hundevergleich besser.
Das Haustier hat nämlich auch einen eigenen Willen, speziell beim Hund hast du aber viel Spielraum was das "anlernen" betrifft, aber selbst der beste und hörigste Hund ist immer noch ein eigenständiges Lebewesen, wo du dich nie zu 100% drauf verlassen kannst, dass alles glatt geht.
Er wird auch nie zum Menschen werden, so wie die KI.
Imho existiert nur ein Lösung für das Problem und die liegt viel tiefer: Man muss sich von dem Gedanken verabschieden das es für allesmögliche immer eine Person geben muss, die "schuld" ist.
Trotzdem bin ich hier grundsätzlich bei dir, wenn vielleicht nicht nicht so zu 100% in dem Kontext.
Dass eigentlich immer nur die Frage ist wer woran schuld sein könnte und wer wofür haften könnte, ist ein ziemlicher Hemmschuh in der Gesellschaft, auch volkswirtschaftlich.
Am Ende macht keiner mehr irgendwas, weil ja irgend ein Bullshit konstruiert werden könnte, um Schuld für irgendwas zugeschoben zu bekommen. Das ist halt toxisch und unnötig. Insofern bin ich bei dir.
 
Diese KI-Forschung hat schon so viele Rote Ampeln überfahren, als Autofahrer wärst du nicht nur den Lappen los, zur MPU müsstes du auch weil unbelehrbar. Das gehört eingestellt und Weiterentwicklung unter Strafe gestellt. Aber keiner hört die Sirenen, um es jetzt mal mit Madsen zu sagen.

Wenn es bei software schon vernünftig geregelt wäre (so wie bei hardware - da haftet der Hersteller für Produktfehler) würde sich die Haftungsfrage bei KI von alleine beantworten. Man würde so etwas wahrscheinlich auf Grund der systemimmanenten Risiken gar nicht entwickeln. Aber so? Who cares.

Apropos Sirenen: https://www.golem.de/news/wiederkeh...ckler-wettert-gegen-ki-hacks-2608-211664.html
 
Zuletzt bearbeitet:
Es wird - mal wieder - solange nichts gemacht von seiten der Gestzgebung bis es irgendwo richtig kracht. Dann stellen alle fest: "keiner ist verantwortlich zu machen" und dann, aber auch erst dann wird sich mit dem Thema beschäftigt und entsprechende Gesetze umgesetzt bzw. nachgeschärft ^^

Bleibt echt nur zu hoffen, das sich KI die nicht irgendwelche Krankenhäuser aussucht und da irgendwelche Patienten schaden nehmen...
 
Deshalb finde ich den Haustiervergleich bzw. Hundevergleich besser.
Das Haustier hat nämlich auch einen eigenen Willen, speziell beim Hund hast du aber viel Spielraum was das "anlernen" betrifft, aber selbst der beste und hörigste Hund ist immer noch ein eigenständiges Lebewesen, wo du dich nie zu 100% drauf verlassen kannst, dass alles glatt geht.
Er wird auch nie zum Menschen werden, so wie die KI.
Ja, er ist ein eigenständiges Lebewesen, aber eben ein "beschränktes". Und das wird sich auch nicht ändern. Und das er eben so beschränkt ist ist ja in der Gesetzgebung auch entsprechend berücksichtigt. Ein Hund kann auch schon physisch kein Auto fahren... nehmen wir einen Affen, der könnte das vielleicht physisch, aber wohl nicht kognitiv.
Eine KI kann das aber sowohl physisch als auch kognitiv. Auch wenn sie durchaus immernoch Fehler machen kann. Und das ist ja auch genau das Ziel. Man "WILL" ja gerade, das KI derart komplexe Aufgaben übernimmt.
Also passt der (Haus)Tiervergleich auch nicht so wirklich.

Am Ende macht keiner mehr irgendwas, weil ja irgend ein Bullshit konstruiert werden könnte, um Schuld für irgendwas zugeschoben zu bekommen. Das ist halt toxisch und unnötig. Insofern bin ich bei dir.
Ich sagte ja auch nicht, das die Sichtweise das "KI nicht schuld sein kann" falsch ist. Nur wenn man das so sieht, dann darf man eben KI auch nicht (für solche Sachen) einsetzen. Überhaupt nicht. Man kann dann eine KI auch nicht weiterentwickeln bis sie sowas vielleicht wirklich besser als jeder Mensch hinkriegt, weil dieses Urteil dann ja schon die Entwicklung ansich grundlegend verhindert. Bzw. es wird dann einfach keiner mehr machen.
Das wäre sicherlich vielen auch ganz recht, weil sie den ganzen KI-Kram am liebsten wieder komplett verschwinden lassen würden.
Dazu kommt noch, wenn man das z.B. in Europa auf diese Weise unterbindet, dann wirds woanders trotzdem gemacht. Und dann gibts zwei Möglichkeiten:
1) In 50 Jahren können wir sagen "wir haben ja gesagt das man das besser bleiben lassen sollte".
2) In 50 Jahren sind wir auf einmal das steinzeitliche Entwicklungsland.

Eigentlich ganz ähnlich zu Gentechnik. Vielleicht wars gut das so extrem zu regulieren, um nicht zu sagen zu ersticken. Ist sicherlich ein gefährliches Gebiet. Aber wenn man es nicht im Keim erstickt hätte, könnte wir heute vielleicht Erbkrankheiten, Krebs, Alzheimer... heilen?
 
Die Frage ist viel universeller und betrifft alles was "autonom" passiert. Die Diskussion wer haftet oder "schuld" ist, wenn ein autonom fahrendes Auto einen Unfall verursacht ist ja auch schon viel älter.

Imho existiert nur ein Lösung für das Problem und die liegt viel tiefer: Man muss sich von dem Gedanken verabschieden das es für allesmögliche immer eine Person geben muss, die "schuld" ist.
Es gibt eine einfache Antwort "Produkthaftung".

Nehmen wir eine Kettensäge.
Natürlich haftet der Hersteller nicht wenn eine Person damit auf eine andere geht.
Springt aber die Kette raus und es wird jemand verletzt, weil der Hersteller hier ein mangelhaftes Produkt geliefert hatte - muss dieser haften.

Wenn die Ausrede wäre "Aber wir haben keine Kontrolle darüber wie die Kette springt" dann war ein veröffentlichen des Produktes fahrlässig.

Ist doch bei Kernkraft genauso, dort übernimmt allerdings der Staat die Haftung. Weil das Risiko niemand sonst übernimmt.
 
Springt aber die Kette raus und es wird jemand verletzt, weil der Hersteller hier ein mangelhaftes Produkt geliefert hatte - muss dieser haften.
Das kann man aber so nicht auf KI übertragen, weil (der funktionale Teil) einer KI kein rein mechanisches (oder elektrisches) Teil ist, bei dem man das durch eine Konstruktionsänderung verhindern kann oder einfach noch eine Sicherung dranbaut oder sowas. Und selbst dort muss dann erstmal nachgewiesen werden, das es ein Konstruktionsfehler war... was bei einer KI nahezu unmöglich sein dürfte.
Eine KI ist nichtmal deterministisch!

Entweder man will eine "Intelligenz", dann muss man sie aber auch so behandeln, oder man will nur ein dummes Programm, das ist dann aber halt nicht "intelligent".

Ist doch bei Kernkraft genauso, dort übernimmt allerdings der Staat die Haftung. Weil das Risiko niemand sonst übernimmt.
Na siehte, dann wäre das ja auch eine Möglichkeit.
 
Diese KI-Forschung hat schon so viele Rote Ampeln überfahren, als Autofahrer wärst du nicht nur den Lappen los, zur MPU müsstes du auch weil unbelehrbar. Das gehört eingestellt und Weiterentwicklung unter Strafe gestellt. Aber keiner hört die Sirenen, um es jetzt mal mit Madsen zu sagen.
Ja wobei man strickt von autonomen fahren und fahr Assistenz klar abgrenzen muss. Diese optionalen Halbautonomen Features wie Notbremsungen, Spuren halten und Tempomat sind schon super.
Missen will ich die nicht mehr. Hier ist aber klar ich steuere das Gerät und ich habe die Kontrolle, wenn das abgeben dieser Kontrolle "scheitert" muss ich dafür haften, weil ich es ja genutzt habe.

Die Frage ist hier immer wie viel Einfluss hat der Fahrer/Benutzer gegenüber dem was passiert.
Beitrag automatisch zusammengeführt:

Das kann man aber so nicht auf KI übertragen, weil (der funktionale Teil) einer KI kein rein mechanisches (oder elektrisches) Teil ist, bei dem man das durch eine Konstruktionsänderung verhindern kann oder einfach noch eine Sicherung dranbaut oder sowas. Und selbst dort muss dann erstmal nachgewiesen werden, das es ein Konstruktionsfehler war... was bei einer KI nahezu unmöglich sein dürfte.
Eine KI ist nichtmal deterministisch!

Entweder man will eine "Intelligenz", dann muss man sie aber auch so behandeln, oder man will nur ein dummes Programm, das ist dann aber halt nicht "intelligent".


Na siehte, dann wäre das ja auch eine Möglichkeit.
Ja aber das ist gleiche Ausrede bei Software. Für Software gibt es nach wie vor keine Konkrete Vorschriften für Haftung.
Aber mal ganz ehrlich das ist ne ganz billige Ausrede man hätte keine Kontrolle über die Funktion der Software.
Nur weil hier das eine Physikalisch ist und das andere Abstrakt darf es keine Ausrede sein.
Menschliches versagen ist doch auch "Haftbar". Dafür gibt es ja eine Versicherung.
Unzulänglichkeiten schützen nicht sich vor Verantwortung zu drücken.
Pfuscht ein Leihe an den Stromleitung ist es definitiv Fahrlässig, aber genauso kann es einer Fachkraft wie einem qualifizierten Elektriker passieren das dieser was falsch macht, egal ob mutwillig oder nicht.
Der Unterschied bei ihm ist nur ob die Versicherung deckt oder nicht.

Aktuell ist es bei Software keine Deckung, egal ob persönlich oder über Versicherung.
 
Zuletzt bearbeitet:
Ja aber das ist gleiche Ausrede bei Software. Für Software gibt es nach wie vor keine Konkrete Vorschriften für Haftung.
Eine Software wird von einem Menschen programmiert. Das ist genauso wie ein Konstrukteur eine Kettensäge baut. So ein Programm tut genau das was programmiert wurde. Es kann dementsprechend auch nicht mit unvorhergesehenen Situationen umgehen. Es tut dann entweder überhaupt nichts oder stürzt sogar ab. Man kann den Fehler finden, man hätte den Fehler ggf. finden können, bevor er in einem Produktivszenario auftritt. Der Entwickler weiß genau was das Programm tut, wie es funktioniert. Es ist deterministisch. Man kann für jeden Fall das Ergebnis vorhersagen, auch wenn man nicht alle Fälle testet oder testen kann.

Ein KI wird nicht programmiert, die wird trainiert und lernt aus den Trainingsdaten selbstständig. Das ganze ist so komplex, das man heute schon nichtmehr vorhersagen kann, wie eine KI reagiert wenn sie mal trainiert ist. Auch nicht wenn man die Trainingsdaten ganz genau kennt.
Eine KI kann daher auch auf unbekannte Situationen reagieren, ganz im Gegensatz zu einem dummem Programm. Man kann aber nicht vorhersagen wie sie reagieren wird. Du kannst einer KI sogar zweimal die exakt gleiche Frage stellen, du wirst aber nicht zweimal die exakt gleiche Antwort kriegen. Man kann aber auch nicht alle Situationen in ein stumpfes Programm gießen. Das ist bei der KI aber genau Fluch und Segen zugleich, die das Problem überhaupt erst aufwirft.

Eine KI ist keine konstruierte Kettensäge. Eine KI ist ein Werkzeug, das dir eine Kettensäge konstruiert(en kann). Und wenn du willst das sie eine Zahnbürste statt einer Kettensäge für dich konstruiert, dann wird sie dir auch eine Zahnbürste konstruieren. Wie gut das Ergebnis ist, steht nochmal auf einem ganz anderem Blatt.

Aktuell ist es bei Software keine Deckung, egal ob persönlich oder über Versicherung.
Doch, bei Software gibts da Deckung. Du benutzt nur den Begriff falsch indem du ein programmiertes Programm und KI in einen Topf wirfst, weil beides "irgendwie Software" ist, aber eine KI funktioniert eben grundlegend anders. Das ist ja genau der Knackpunkt an KI.
 
Zuletzt bearbeitet:
Vor Allem müsste es bessere Transparenzpflichten geben.

"Unsere Daten wurden mit Vollzugriff verschlüsselt, aber auf unsere Daten wurde nicht zugegriffen" sollte gesetzlich nicht möglich sein. *hust, zwinker, zwinker*
 
Okay, wo willst du schlussendlich hin?
Ich verstehe, dass du da die Sichtweise/Zugänge anderer User nicht teilst (was ich voll okay finde), verstehe aber nicht ganz, wo du stattdessen hin willst, oder was dein Puntk ist.


Ich finde, dass man ein Computersystem nicht zu sehr vermenschlichen sollte, auch wenn man damit nette Unterhaltungen führen kann und ne aufregendere (sexuelle) Beziehung als mit den meisten Menschen führen kann... alles okay soweit.
Aber nein, "die KI" kann nicht "physisch" Auto fahren.
Erstmal stört mich der Begriff "die KI"... was/wer ist denn diese ominöse KI? Das ist so Trivial wie "der Hund hat meine Hausaufgabe gefressen", das reicht mir einfach nicht.
Man muss einer KI erstmal Zugänge "in die Welt" geben, im physischen Sinn benötigt das noch viel, viel mehr.
Bezüglich KFZ muss man hierzu z.B. fragen, wo der echte Gewinn von "drive by wire" Systemen ist etc... das sind alles so Vorarbeiten, damit "die KI" dort überhaupt eingreifen kann.

All diese Systeme sind mit großem Aufwand von irgendwem geschaffen worden, derjenige bzw. diejenigen haben dann auch die Veranrtwortung, dass dadurch keine größeren Schäden entstehen können.
"Die KI" ist am Ende eine sehr komplexes Regel- und Steuerungsprogramm.
Ein solches Steuerungsprogramm gehört eben entsprechend genau reviewed.

Jetzt kommen wir zum Punkt, diese KI Systeme sind so komplex, dass ein Review durch den Menschen praktisch unmöglich ist.
Wenn man das so akzeptiert, muss man eben den Einsatz begrenzen, da ein solches System eben nie als "sicher" gelten darf.


Ich frage mich eher, obs nötig ist, alles durch ein KI System zu ersetzen. Ich arbeit gern damit, ich spiel gern damit rum, ich bin einer der wenigen der sowas lokal am Server laufen hat.
!! Arbeit kann auch Spaß machen, wenn sie unter menschenlichen Umständen stattfindet und Sinn macht, das haben die meisten vergessen.
Vielleicht sollte mal die "Ordnung des Alltages" überdacht werden... "Arbeit" muss sich nicht zwingend nach Sibirien 1946 anfühlen (auch Autofahren nicht).
 
Ein KI wird nicht programmiert, die wird trainiert und lernt aus den Trainingsdaten selbstständig. Das ganze ist so komplex, das man heute schon nichtmehr vorhersagen kann, wie eine KI reagiert wenn sie mal trainiert ist. Auch nicht wenn man die Trainingsdaten ganz genau kennt.
Eine KI kann daher auch auf unbekannte Situationen reagieren, ganz im Gegensatz zu einem dummem Programm. Man kann aber nicht vorhersagen wie sie reagieren wird. Du kannst einer KI sogar zweimal die exakt gleiche Frage stellen, du wirst aber nicht zweimal die exakt gleiche Antwort kriegen. Man kann aber auch nicht alle Situationen in ein stumpfes Programm gießen. Das ist bei der KI aber genau Fluch und Segen zugleich, die das Problem überhaupt erst aufwirft.

Eine KI ist keine konstruierte Kettensäge. Eine KI ist ein Werkzeug, das dir eine Kettensäge konstruiert(en kann). Und wenn du willst das sie eine Zahnbürste statt einer Kettensäge für dich konstruiert, dann wird sie dir auch eine Zahnbürste konstruieren. Wie gut das Ergebnis ist, steht nochmal auf einem ganz anderem Blatt.
KI wurde programmiert.
Ja der Spaghetti code von einigen Programmen die es seit 30 Jahren gibt sind auch so komplex das das keine mehr durchblickt.
Die KI ist eine Datenbank, die grundsätzlich erstmal nur Ergebnisse ausgibt ob gut oder schlecht sei dahin gestellt.
Die Funktionen wie im Web zu surfen, Apps zu verwenden etc. hat sich die KI nicht selbst wirklich beigebracht.
Das wurde einprogrammiert und das ist Haftbar, wenn die Entwickler der KI Szenarien vorgeben und die KI diese anders löst, dann kann ich nicht sagen "Sry ich verstehe nicht was da passiert ist, dass hat die KI selbst gemacht" einfach NEIN.

Wenn ich ein RAND Programmiere das auf einen Knopf drückt wie Russisch Roulette und rein zufällig auslöst.
Kann der Programmierer auch nicht sagen "War ich nicht, weil Zufall". Du hast es auf den Zufall drauf ankommen lassen.

Gleiche gilt für Drogenkonsum.
Wenn ich Pilze einwerfe und ich meine Kontrolle verliere kann ich auch nicht nach einem Unfall sagen: Sry waren die Pilze.
Ich hab die Pilze bewusst eingenommen unabhängig davon ob ich ins Auto einsteige oder nicht. Damit habe ich schon die Haftung übernommen.
 
Ich finde, dass man ein Computersystem nicht zu sehr vermenschlichen sollte, auch wenn man damit nette Unterhaltungen führen kann und ne aufregendere (sexuelle) Beziehung als mit den meisten Menschen führen kann... alles okay soweit.
Man will eine künstliche Intelligenz. Man versucht im wahrsten Sinne des Wortes in Software abzubilden, wie ein menschliches Gehirn funktioniert. Das "leere" Gehirn trainiert man dann.
Ich finde also, wenn man KI haben und nutzen will, dann MUSS man sie gewissermaßen vermenschlichen. Nicht emotional, aber juristisch.

Wenn ein Flugzeug abstürzt, dann birgt man die Blackbox und rekonstruiert natürlich den Absturz. Vielleicht wars ein technischer Defekt, vielleicht war aber auch der Pilot schuld. Der Pilot, nicht dessen Ausbilder oder Prüfer. Wer hat denn wonach beurteilt und bestimmt, ob der Pilot ein Flugzeug fliegen darf? Richtig, lange Ausbildung wohl mit mehreren Prüfungen die bestanden werden mussten.
Wenn ein Flugzeug abstürzt, welches von einer KI gesteuert wurde, dann passiert genau das gleiche. Man rekonstruiert den Absturz und stellt womöglich fest das die KI schuld war, weil sie irgendwas falsch gemacht hat. Wenn die KI vorher sämtliche Pilotenpfügungen ebenso wie ein Mensch absolviert und bestanden hat, hat warum sollte diese KI dann kein Flugzeug fliegen dürfen. Also ist die KI am Absturz schuld, kein Mensch und auch nicht der "Hersteller" der KI.

Aber nein, "die KI" kann nicht "physisch" Auto fahren.
Doch kann sie. In USA fahren doch schon einige, auch im öffentlichen Verkehr. Ja die bauen auch mal Unfälle, haben Fehlfunktionen... Nachdem was ich zuletzt gelesen habe, ist der Anteil an verunfalten autonomen Autos im Verhältnis zu der Gesamtanzahl an autonom fahrenden Autos sogar deutlich niedriger als bei von Menschen gefahrenen Autos. Der Vergleich hinkt natürlich noch ein bisschen, weil von Menschen gefahrene Autos um Dimensionen mehr sind, aber statistisch fährt die KI sogar schon besser.
Es geht jetzt schon. Es geht nur noch nicht gut genug um sowas allgemein und unbeschränkt "freizulassen". Und für das "gut genug" werden jetzt schon weitaus höhere Hürden angesetzt als für jeden menschlichen Fahrer.

Erstmal stört mich der Begriff "die KI"... was/wer ist denn diese ominöse KI?
Die KI die das jeweilige Gerät in der jeweiligen Situation steuert natürlich.
Also bei einem Auto eben die KI die dieses Auto gerade gesteuert hat. Bei einem Flugzeug die KI die dies Flugzeug steuert. Oder wenns mehrere sind eben sogar mehrere.
Dachte das wäre selbstverständlich.

"Die KI" ist am Ende eine sehr komplexes Regel- und Steuerungsprogramm.
Ein solches Steuerungsprogramm gehört eben entsprechend genau reviewed.
Richtig. Und wenn eine solche KI eine komplette Ausbildung bewältigen kann, die auch ein Mensch machen müsste um für was auch immer als qualifiziert zu gelten?
Im Endeffekt wird man bei der KI sogar genauer hinschauen, weil man noch viel mehr Möglichkeiten hat darauf Einfluss zu nehmen, was die KI wirklich tut und auch quasi zeitlich keine Begrenzung hat.

Jetzt kommen wir zum Punkt, diese KI Systeme sind so komplex, dass ein Review durch den Menschen praktisch unmöglich ist.
Wenn man das so akzeptiert, muss man eben den Einsatz begrenzen, da ein solches System eben nie als "sicher" gelten darf.
Richtig. Wie beurteilst du ob ein Mensch geeignet ist ein Auto zu fahren?

Ich frage mich eher, obs nötig ist, alles durch ein KI System zu ersetzen.
Man hats vor 500 Jahren auch schon geschafft unseren kompletten Planeten zu umsegeln. Wir hätten also sämtliche Weiterentwicklung bleiben lassen können, weil ging doch eh schon.
Aber es ging eben noch besser. Mit noch besseren Schiffen, bis hin zu Flugzeugen.
Man muss sicher nicht alles an KI abgeben. Aber KI kann einiges verbessern. Ich will mich von einem Auto von A nach B fahren lassen können ohne es selbst steuern zu müssen und ohne einen menschlichen Fahrer zu brauchen. Ich glaube auch, das KI eine Stufe erreichen kann, wo sie das auch besser als jeder Mensch können wird. Und spätestens wenn ALLE Autos autonom fahren und z.B. untereinander kommunizieren können, werden KI-gesteuerte Autos definitiv sicherer fahren können als jeder Mensch. Und auch Flugzeuge fliegen.
Und auch wenn in einem Restaurant ein KI-gesteuerter Roboter kochen können wird, wird mich das nicht daran hindern, zuhause selbst mal den Herd anzuwerfen.

Und damit kommen wir wieder zu:
Zusammengefasst: Das Problem ist, das eine KI nicht als juristische Person betrachtet wird. Würde man eine KI jedoch als juristische Person betrachten, könnte man die meisten schon existenten Vorschriften/Gesetze/Regeln direkt anwenden.

Ich glaube, das man so Zeug mit KI erreichen kann und ich WILL das. Was ich nicht will ist das durch Bürokratie, wegen (fehlender) Rechtssprechung oder Angst vor "ich brauch aber einen menschlichen Sündenbock wenn was passiert" schon die Entwicklung im Keim erstickt wird. Ja klar, wird man da wohl auch noch neue Gesetze/Rahmenbedingungen/Vorschriften brauchen oder bestehendes anpassen müssen. Man kann auch die Entwicklung bremsen, die Kontrollen verschärfen, etc. aber dazu braucht man auch die entsprechende Rechtssprechung.

Und natürlich dürfen andere auch der Meinung sein, man solle das lieber ganz bleiben lassen. Das ist aber halt nicht meine Meinung.
 
da hast du mich aber gründlich missverstanden. Es ging nicht um Autos, es ging darum was KI schon alles getan hat was keiner wollte oder auch nur im Ansatz vorhergesehen hat. Den jüngsten Vorfällen gingen schon einige, aus eigenem Antrieb lügende und betrügende KI voraus. Unerheblich das eine davon ihre Abschaltung (aka Vernichtung ihrer Existenz) verhindern wollte. Unerheblich das keine von denen aus ihrer sandbox heraus gekommen ist. Spätestens an der Stelle hätte man der KI-Forschung den Stecker ziehen müssen. Jetzt hatten wir gleich zwei Ausbrüche aus der sandbox. Wenn die irgendwann einmal unsere Probleme lösen sollen und wirklich so schlau werden wie prognostiziert, dann können sie nur zu dem einen, simplen Schluss kommen. Warum Probleme für Menschen lösen, die wir ohne sie nicht hätten.
 
Wenn die irgendwann einmal unsere Probleme lösen sollen und wirklich so schlau werden wie prognostiziert, dann können sie nur zu dem einen, simplen Schluss kommen. Warum Probleme für Menschen lösen, die wir ohne sie nicht hätten.
Richtig. Das ist ein durchaus mögliches Ergebnis.
Dazu kann es aber erst kommen, wenn die KI ohne Menschen überhaupt existenzfähig wird und quasi ein Bewusstsein entwickelt hat. Das sehe ich nicht in greifbarer Zukunft... aber vielleicht irgendwann tatsächlich mal.

Vielleicht wirds aber ab hier dann allmählich zu philosophisch.
Vielleicht ist so eine KI ja auch die nächste Evolutionsstufe? Kein Mensch will sterben, das ist klar, aber vielleicht hat die (welche letztendlich auch immer) KI mit der Schlussfolgerung ja sogar recht?
Von wem lernt die KI das denn? Aber der von dem die KI das lernt, will nicht das die KI das lernt? Vielleicht erkennt man an dieser Einsicht das eigentliche Problem? Nämlich "wir" (Menschen). ;)
Oder ist die Frage vielleicht eher, ob irgendeine KI "rechtzeitig" schlau genug wird um das zu erkennen... also bevor wir noch den kompletten Planeten kaputt machen oder uns selber gegenseitig auslöschen?
 
Man will eine künstliche Intelligenz. Man versucht im wahrsten Sinne des Wortes in Software abzubilden, wie ein menschliches Gehirn funktioniert. Das "leere" Gehirn trainiert man dann.
Ich finde also, wenn man KI haben und nutzen will, dann MUSS man sie gewissermaßen vermenschlichen. Nicht emotional, aber juristisch.

Wenn ein Flugzeug abstürzt, dann birgt man die Blackbox und rekonstruiert natürlich den Absturz. Vielleicht wars ein technischer Defekt, vielleicht war aber auch der Pilot schuld. Der Pilot, nicht dessen Ausbilder oder Prüfer. Wer hat denn wonach beurteilt und bestimmt, ob der Pilot ein Flugzeug fliegen darf? Richtig, lange Ausbildung wohl mit mehreren Prüfungen die bestanden werden mussten.
Wenn ein Flugzeug abstürzt, welches von einer KI gesteuert wurde, dann passiert genau das gleiche. Man rekonstruiert den Absturz und stellt womöglich fest das die KI schuld war, weil sie irgendwas falsch gemacht hat. Wenn die KI vorher sämtliche Pilotenpfügungen ebenso wie ein Mensch absolviert und bestanden hat, hat warum sollte diese KI dann kein Flugzeug fliegen dürfen. Also ist die KI am Absturz schuld, kein Mensch und auch nicht der "Hersteller" der KI

Ich glaube, das man so Zeug mit KI erreichen kann und ich WILL das. Was ich nicht will ist das durch Bürokratie, wegen (fehlender) Rechtssprechung oder Angst vor "ich brauch aber einen menschlichen Sündenbock wenn was passiert" schon die Entwicklung im Keim erstickt wird. Ja klar, wird man da wohl auch noch neue Gesetze/Rahmenbedingungen/Vorschriften brauchen oder bestehendes anpassen müssen. Man kann auch die Entwicklung bremsen, die Kontrollen verschärfen, etc. aber dazu braucht man auch die entsprechende Rechtssprechung.

Und natürlich dürfen andere auch der Meinung sein, man solle das lieber ganz bleiben lassen. Das ist aber halt nicht meine Meinung.
Die KI kann keine Haftung haben, selbst in einer Firma als Juristische Person gibt es einen Deppen der haftet.
Es gibt eine Haftungskette. Nach außen hin haftet die Juristische Person immer, aber nach Innen eben der Geschäftsführer/Verantwortliche Person.
Um einer Juristischen Person eine effektive Haftung zuschreiben zu können brauch sie irgend eine Haftungsmasse.

Eine KI ist nach wie vor eine "Sache". Irgendwann wird es mit Sicherheit darauf hinauslaufen das eine KI beschränkt Geschäftsfähig würde als Juristische Person.
Man soll sich bei den News aktuell nicht auf diese "Werbung" einlassen. Die sind nämlich darauf angewiesen das die Leute vor allem Geldgeber daran glauben das irgend einer von den Firmen die eh in einer Blase sind weiter alimentiert wird.
Die sind alle nicht profitabel, also müssen sie irgendwie heucheln Durchbrüche erreicht zu haben auch wenn man das großzügig interpretiert. Sind ja Pressemitteilungen der jeweiligen Unternehmen.
 
KI wurde programmiert.
Das Grundfunktionsprinzip, ja. Aber das ist nicht der Teil, der irgendwas steuert oder Fragen beantwortet.

Die KI ist eine Datenbank, die grundsätzlich erstmal nur Ergebnisse ausgibt ob gut oder schlecht sei dahin gestellt.
Eine KI hat mal so rein gar nichts mit einer Datenbank zu tun. KI funktioniert komplett anders.

Die Funktionen wie im Web zu surfen, Apps zu verwenden etc. hat sich die KI nicht selbst wirklich beigebracht.
Das wurde einprogrammiert
Nein, genau das hat eben niemand "einprogrammiert". Das ist der Clou bei KI. Sie lernt das selber, es programmiert eben nicht irgendein Mensch ein welche Buttons da wo gedrückt werden sollen.

Wenn du schon eine Datenbank als Vergleich ansetzt:
Ja, ein Mensch hat mal ein Datenbanksystem programmiert. Aber er hat sie nicht mit Daten befüllt. Wenn jetzt eine Datenbank ein falsches Ergebnis liefert, weil da irgendjemand was falsch reingeschrieben hat, dann ist weder derjenige Schuld der das grundlegende Datenbanksystem programmiert hat und auch nicht die Datenbank selbst, die hat ja sogar korrekt funktioniert. Wenn überhaupt dann ist derjenige Schuld, der die falschen Daten dort eingepflegt hat.

Bei einer KI befüllt die "Datenbank" aber kein Mensch, sondern sie sich selbst durch das Training. Ein Mensch stellt der KI die Trainingsdaten zur Verfügung. Aber was und wie die KI daraus lernt, bestimmt die KI selber.

Wenn man einer KI z.B. beibringen will, das sie in Gesichtern von Menschen die Augen erkennen soll, dann gibt man ihr 5 Millarden Bilder von menschlichen Gesichtern und Kontrollbilder bei denen die Augen schon markiert sind. Wenn man das dann noch verfeinern will, lässt man das Training manuell weiterlaufen, indem man die KI laufen lässt und ein Mensch am Ende beurteilt, ob die Augen korrekt erkannt wurden.
WIE oder woran man Augen erkennt, lernt die KI selbst. Da programmiert kein Softwareentwickler irgendwelche Kriterien ein, WIE man Augen erkennt. Da wird nirgends programmiert, das Augen meistens paarweise auftreten, das sie horizontal ausgerichtet sind, das sie eine meist runde Iris/Pupille haben, das die Pupille meist schwarz ist, das der Umriss oval-ähnlich ist, das das um die Iris rum das Auge weiß ist, das die Augen normalerweise oberhalb der Nase sitzen, etc. Kein Mensch legt diese Kriterien für eine KI fest, das "lernt" sie im Training selber und es ist nichtmehr nachvollziehbar, welche Kriterien ein KI da überhaupt ermittelt, weil der "Algorithmus" den die KI da gelernt hat ein Netzwerk mit Millarden an Knotenpunkten ist die praktisch nur aus Zahlen bestehen.

Und deswegen, selbst wenn du die KI nur mit Bildern von menschlichen Gesichtern die wirklich beide Augen (offen) haben, kann (muss aber nicht) eine KI am Ende auch ein einzelnes Auge erkennt, Augen auch in einem um 90° gedrehten Fotos erkennen und auch Augen von jemandem mit Gelbsucht erkennen, obwohl da um die Iris rum nicht weiß ist. Je nachdem wie umfangreich oder gut die KI trainiert wurde. Da muss kein Programmierer dran denken, das ein Mensch auf einem Foto vielleicht auch ein Auge geschlossen haben könnte, oder sogar nur ein Auge hat, das das Augenweiß eben nicht immer zwangsläufig weiß ist, weil genau sowas eben NIEMAND programmiert.

Wie stellst du dir denn vor, das Gemini oder ChatGPT überhaupt deine Frage versteht? Meinst du, das da ein Mensch den kompletten Duden und die Syntax der deutschen Sprache einprogrammiert hat? Und das dann auch noch in sämtlichen Sprachen die die KI versteht?

DAS ist das was KI "so gut" macht und was so "bahnbrechend" an KI ist! Eben genau weil NIEMAND das alles "ausprogrammieren" muss.

Du kannst es noch 500mal schreiben und damit nur weiter bekräftigen, das du überhaupt keine Ahnung hast, wie KI funktioniert. Informier dich wenigstens über die Grundlagen bevor du große Töne spuckst.
 
Zuletzt bearbeitet:
Liesel hätte anscheinend gerne einen Freifahrtschein für KI und dessen folgen.

Der Eigentümer / Hersteller der KI haftet. Punkt. Mehr gibt es dazu nicht zu sagen.
 
Um es jetzt mal flapsig zu formulieren: Wenn niemand sonst außer der KI schuld an ihrem eigenen etwaigen Fehlverhalten ist, ists doch einfach: Dann muss die KI halt eine Haftpflicht abschließen.
Oder anders gesagt. Von dem Geld, das die KI verdient (wenn sie mal was verdient), muss ein ausreichend hoher Betrag für eine Haftpflichtversicherung weg gelegt werden.

Wie hoch der sein muss, richtet sich nach der Höhe der möglichen Schäden.
Ich seh schon. Je nach Einsatzgebiet muss es KI schaffen, richtig viel Geld zu verdienen oder sie darf nu sehr selten große Fehler machen. :d
 
Wie stellst du dir denn vor, das Gemini oder ChatGPT überhaupt deine Frage versteht? Meinst du, das da ein Mensch den kompletten Duden und die Syntax der deutschen Sprache einprogrammiert hat? Und das dann auch noch in sämtlichen Sprachen die die KI versteht?

DAS ist das was KI "so gut" macht und was so "bahnbrechend" an KI ist! Eben genau weil NIEMAND das alles "ausprogrammieren" muss.

Du kannst es noch 500mal schreiben und damit nur weiter bekräftigen, das du überhaupt keine Ahnung hast, wie KI funktioniert. Informier dich wenigstens über die Grundlagen bevor du große Töne spuckst.
Die Lernt von Information, eine KI kann keine Sprache ohne Sprachinformationen lernen(Kontext). Sie brauch einen Input und damit sie "kreativ" wird brauch sie einen Salt.
Sie ist nicht kreativ weil sie es kann, sie brauch einen Anstoß dazu. Wie im Rest ihrer Funktionalität und das wird "einprogrammiert".
Sonst würde bei beim Schlagwort "Katze" nach ihrer Statistik immer die gleiche Katze ausgegeben werden, weil diese 99,999999999999999999999999% genau zutrifft.

Sie verknüpft alles was sie lernt in einen Index-Netzwerk das aus Mustern besteht aus dem ganzen Input.
Am ende ist es eine art Datenbankindex aus Statistik. Sie lernt aber aus einer art "Datenbank" überwiegend. (Ordner mit z. B 100.000 PDFs)
Es kanns sich sicherlich aus mehreren Büchern/Dokumenten diese Verknüpfung assoziieren.
Aber ohne diesen Input (Bücher, Bilder, Text) geht das nicht.
Du musst der KI schon mitgeben was das Konzept Bild, Text oder ähnliches ist.

Die einzigen KIs die das nicht gemacht haben, waren die versuche der Japaner mit kleinen Robotern über die Wahrnehmung der Umwelt sich selbst wissen anzueignen wie ein Kind.
Alles andere wird ja explizit darauf trainiert.
Einen Lehrer brauch die KI mehr oder wenig immer. (ob durch Menschliche Hilfe angestoßen oder initiale bereitgestellte Information)
Was das aber immer ein Gerüchten in die Welt gesetzt werden ist halt unfassbar viel Marketing.

Wenn ich diesem kleinen Roboter sage ich brauch ein Getränk und er assoziiert damit Wasser. Könnte das schon passieren das er versucht ein freiliegendes Rohr zu offenen um an Wasser zu kommen.
Weil ihm niemand den Kontext dazu erklärt hat. Er hat die Anweisung so interpretiert wie er es eben interpretiert hat.
 
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh