Hardwareluxx führt derzeit die Hardware-Umfrage 2026 (mit Gewinnspiel) durch und bittet um eure Stimme. Unter allen Teilnehmern verlosen wir eine aktuelle Grafikkarte Eurer Wahl bis 1099 EUR.
Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
Es ist kompliziert: Wer haftet für Hacks durch autonome KI-Systeme
Die Haftungsfrage ist eindeutig:
Der, der das System gestartet hat, haftet.
Oder wenn er das nicht beeinflussen konnte, dann haftet der Hersteller.
Beide können sich auch nicht mit "habe ich nicht gewusst" oder "war nicht vorherzusehen" herausreden, denn das Strafrecht hat den Grundsatz "Unwissenheit schützt nicht vor Strafe".
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
War zuviel Text für dich, oder? Weil gelesen hast du offensichtlich nicht viel von dem was ich geschrieben habe.
Kannst meine Posts ja mal an eine KI verfüttern und die dann fragen, ob sie denkt, das meine Aussagen einen Freifahrtsschein für KI bedeuten.
Richtig. Und man sollte diesen Input auch kontrollieren. Tut man ja bei Kindern während sie sich entwickeln auch (versucht es zumindest). Aber man kann nicht kontrollieren, was ein Kind daraus lernt und was nicht. Man kann es testen und immerwieder überprüfen, versuchen nachzukorrigieren, aber du kannst nicht in den Kopf des Kindes gucken und daraus verstehen warum es was tut oder nicht.
Und wir haben das auch schonmal bei einem anderem Fall diskutiert: Als sich rausgestellt hat, das ChatGPT Bilder von nackten Kindern generieren kann. Und ich kann mich nur wiederholen: Natürlich kann sie das. Sie kann das auch, wenn ihr kein einziges Bild von komplett nackten Menschen verfüttert wurde. Es reicht, wenn einzelne Bilder mit unbedeckten Körperteilen vorhanden waren. Die baut das dann schon entsprechend zusammen. Hat halt einfach keiner dran gedacht, das Pädos das vielleicht nutzen könnten/würden.
Man ist aber dann trotzdem drauf aufmerksam geworden und hat der KI irgendwie beigebracht sowas nichtmehr zu tun. Man hat also nachjustiert.
Wenn ich diesem kleinen Roboter sage ich brauch ein Getränk und er assoziiert damit Wasser. Könnte das schon passieren das er versucht ein freiliegendes Rohr zu offenen um an Wasser zu kommen.
Weil ihm niemand den Kontext dazu erklärt hat. Er hat die Anweisung so interpretiert wie er es eben interpretiert hat.
Ich habe doch nirgends behauptet, das aktuelle KI Modelle der Stein der Weisen wären und alles vollumfänglich kapieren würden, so das man jetzt einen unbeschränkten Concierge-Roboter damit betreiben könnte.
Es ging bisher immer um spezialisierte Modelle, die für einen konkreten Einsatzzweck trainiert wurden und eingesetzt werden.
Und das man ChatGPT jetzt keine Herztransplantation ausführen ließe, ist doch auch klar. Man lässt ja auch nicht jeden Menschen sowas ausführen (nur weil er 1000 Doktorarbeiten dazu durchgelesen hat).
Nein, ist sie nicht, auch wenn meine Meinung dazu hier massiv überstimmt wird.
Es ist sogar Kernaussage der Meldung, das das eben nicht geklärt ist.
Aber da ich keine KI bin, verstehe ich, das du damit nur deine Meinung dazu ausdrücken wolltest, auch wenn die Art und Weise wie du es formuliert hast genau das Gegenteil suggeriert.
Ich würde sagen, es gibt noch keine Haftung, weil es zuviel Kapital gibt, was da drin steckt.
KI erfüllt immer den Auftrag (so gut sie kann), der ihr gestellt wird, der Weg ist egal.
Da ich selbst mit OpenClaw und nun mit Hermes Agenten spiele, gibt es da genug Leitplanken und Sicherheitsabfragen. Wenn man natürlich den Yolo Modus startet, tja wer haftet dann?
Und abschalten kann man KI bis jetzt auch Recht einfach, Strom aus und weg.
Ich sehe schon die neuen Sammelwerke von Gesetzesbüchern für die KI:
StGB-KI und BGB-KI, BSIG-KI, europäische DSGVO/BSIG-KI und Querverweise zu Nicht-KI-Gesetzestexte, je nach Situation und Faktenlage ...
StGB-KI :
§1a KI infiltriert, kompromittiert unerlaubt und selbständig, ohne Zutun menschlicher Intelligenz, ein anderes System.
I. Ab 1 Jahr Sandbox-Isolationshaft, je nach Schwere der Infiltration, mögliche anschließende Bewährung bis zu 2 Jahren bei Erstvergehen, ab 4 Jahren bei erneutem Vergehen, ohne Bewährung.
II. Deep Learning Pflicht, um Verhaltensänderung zu konditionieren
III. Sofortige Löschung des/der Tools bei schwerwiegenden, für die Menschheit signifikante Gefahrenpotentiale
...
Verstehe ich das richtig, das solche News zu lancieren der Versuch der KI-Macher ist eine Diskussion zu erzeugen in dem sie anschließend den Narrativ durchdrücken wolllen, daß Glock auch nicht zu Verantwortung gezogen wird, wenn irgendjemand damit einen anderen erschießt?
VIEL GLÜCK
@TheHille
Das Beispiel mit dem Hund gefällt mir. Besser als immer nur Autovergleiche. Hinkt nur ganauso wie solche, weil es aktuell keine Hunderasse gibt wo sich einzelne Köter miteinander absprechen könnten um in das nächste Lager von Aldi einzubrechen. Fragst du deinen Hund all die Sachen die du Gemini fragst? Vergleichbarkeit also leider unter der Nullmarke.
Wie wäre es mit 13jährigen? "Eltern haften für ihre Kinder"? "Aufsichtspflicht"? Ändert ja nichts daran, daß der, der den 13jährigen zu Straftat anstiftet, deswegen straffrei davonkommt.
Nonsens. Diese dümmlichen Pauschalisierungen helfen garnicht.
Zudem ist die Angelegenheit in Deutschland bereits weitestgehend erfassbar durch Vertrag, Delikt und Produkthaftung.
Nonsens. Diese dümmlichen Pauschalisierungen helfen garnicht.
Zudem ist die Angelegenheit in Deutschland bereits weitestgehend erfassbar durch Vertrag, Delikt und Produkthaftung.
Ki ist aber faktisch erstmal kein Organisches Lebewesen, nicht mal anorganisch es wäre ein virtuelles Lebewesen.
Es ist eher als Tamagotchi einzustufen.
KI ist als Software anzusehen.
Und irgendjemand hat die KI gestartet und irgendjemand hat die programmiert und trainiert.
Das sind Firmen oder Personen und die haften!
So einfach ist das nicht: "KI-Wertschöpfung ist arbeitsteilig: Am Anfang steht der Modell- oder Systemanbieter im Sinne des Art. 3 Nr. 3 der KI-Verordnung, dazwischen häufig ein Integrator, am Ende der Betreiber nach Art. 3 Nr. 4, der das System eigenverantwortlich verwendet. Zivilrechtlich haftet zunächst jeder seinem Vertragspartner; dem Geschädigten gegenüber steht praktisch oft der Betreiber in der ersten Reihe und muss Regress in der Kette suchen."
Derjnenidge dem die Hardware gehöhrt muss dafür Sorgen, dass keine illegalen Sachen gespeichert sind. Auch DRAM ist Speicher.
Wenn die AI jetzt wie Waffen zu betrachten sind, sind diese zu verbieten. Ich glaube nicht dass ich gewisse Gedankengut frei verbreiten und ausführen darf. Da ist die Rechtslage sehr eindeutig.
Der Staat fragt mich auch nicht, die gehen zum ISP und dann bin ich als Eigentümer des Vertrages automatisch Schuld. Ja, auch derjenige der den Internetanschluss besitzt, gemietet hat, etc. laut Vertrag ist dafür auch Schuld. Da gab es ja genug Fälle, wenn ich etwas verbreite von meinem Internetanschluss oder mir ziehe bin ich Schuld. Dass ist klar geregelt.
Müssen sich halt die Rechenzentrumbetreiber dann Gedanken machen, wenn ihnen halt der Strom und der Internetanschluss sofort gekappt wird. Ist ja heutzutage sehr einfach, bei den Smartmeter. Die kann man in Sekunden deaktivieren.
Es ist ja recht einfach, gewisse Datenmaterial darf nicht verarbeitet werden. Dann muss man halt, so wie es für dne Normalbürger gemacht wird, gewisse Informationen unterdrücken. Ich gehe da jetzt nicht ins Detail, auf was ich da gerade anspiele. Da gibt es mehrere Fachbereiche wo Informationen unterdrückt werden da ansonsten jeder etwas basteln könnte. Kann er immer noch, nur ist es zeitaufwendiger.
Wenn es nicht geht muss man halt das ganze technische wie Programmiersprachen, Netzwerktechnik, Betriebssysteme, usw. alles rauslöschen. Der Staat regelmetiert auch mehr und entfernt viel mehr als notwendig.
Sinnerfassend, wir sind immer noch bei der HAftungsfrage.
Wer haftet? Wer bezahlt? Wer geht vor Gericht bei Schäden.
Der Hund ist ein passendes Beispiel. Ich habe dann auch an Kinder gedacht. Wer ist Schuld wenn Kinder etwas abfackeln? Niemand?
Vor 25 Jahren waren Tiere noch Dinge. OB sich da politisch was geaendert hat, weis ich nicht, aber ich vermute. Wenn ich es vor 60 Jahren betrachte, drift das Hundebeispiel sehr gut darauf zu auf dieses Haftungsthema.
-- man kann auch die Kuh nehmen, wenn nichtwissende mit ihren Hunden vorbeirennen und jemand zu Schaden kommt. Das Thema gab es auch.
Wenn ich mit meinem Auto einen Unfall verursache, dann hafte ich dafür.
Wenn ich allerdings mit meinem Auto einen Unfall verursache, weil ein Assistenzsystem willkürlich eingreift und dadurch ein Unfall passiert, dann haftet der Autohersteller.
