OpenClaw aka ClawdBot aka MoltBot - Die Büchse der Pandora ist geöffnet - von Prompt Injections bis hin zu Zero-Day-Exploits von KIs für KIs

[KaNoHLF]

OpenClaw: Die Büchse der Pandora ist GEÖFFNET

Habe mir jetzt mehrere Videos zu dem Thema angeschaut, und der Tenor ist fast immer der gleiche: "Irgendwie Spooky, aber trotzdem geil."

Wie seht ihr das?

 

[Hoto]

Ich halte es für überbewertet. Hier wird wieder etwas gehypt was bei näherer Betrachtung (und das sagt selbst der Entwickler) noch nicht wirklich ausgereift ist. Vor allem ist es ein absoluter Sicherheitsalptraum, die LLM ließt irgendwas online, Jemand macht Prompt Injection und plötzlich führt das LLM ein Monat später ein "Format C:\" durch oder lädt von irgendwo Schadsoftware runter und installiert sie.

Klar, spannend ist es was das LLM da so alles anstellt, vor allem mit deinem Geldbeutel.
Ich behalte vorerst lieber erst mal selbst die volle Kontrolle über meinen PC und meine Daten. Mein PC muss jetzt einem Erpresser nicht auch noch die Daten zum erpressen frei Haus liefern.

 

[Bigdog71]

Natürlich ist alles was uneingeschränkt Administratorrechte bekommt gefährlich und man sollte wissen welchen Programmen man es gibt und diese entsprechend überwachen.

Ansonsten ist es echt interessant was möglich. Ich habe am Wochenende mal wieder mit Home Assistant Voice und lokalem LLM (aktuelle Tests für mich mit Ministral-3 sehr positiv, und es braucht nur 10GB VRAM).

Hab meine Kinder sich unterhalten lassen und nach einiger Zeit, nachdem es wusste dass sie Star wars mögen und es im Wohnzimmer steuerbare Lichter gibt, hat es mal unseren Lightstrip in verschiedenen Farben blinken lassen als Laserstrahlen 😅 Dazu war nichts in Home Assistant programmiert.

Hier hat dass LLM gemäß Vorgaben immer nachgefragt, aber ein leichtes, dass es auch einfach das ausführt ohne nachzufragen.

 

[Hoto]

Ja, es ist schon interessant auf was die KI selbst so kommt und fühlt sich dann natürlich auch hier und da magisch an (wie bei dem einen Nutzer, bei dem OpenClaw plötzlich eine Stimme, also ein TTS, hatte, das war sicherlich eine gruselig Erfahrung. Aber genau das ist halt auch das kritische daran, weil man als Mensch eben auch nicht immer an alles denkt was die KI so alles anstellen könnte und am Ende trägst du halt selbst die Verantwortung für das was die KI anstellt. Daher sollte man wirklich wissen was man macht. OpenClaw ist definitiv nichts für Computer Laien, die gar nichts über Sicherheit wissen.

Aber irgendwie reizt es mich schon auch das mal selbst auszuprobieren, aber eigentlich hab ich gar nicht die Zeit dafür.

 

[Daniels87]

Hätte auch Lust das mal auszuprobieren. Evtl. mal in einer VM, damit nicht so viel schief gehen kann. Ich sehe mich da ein bisschen zu sehr auf der Laien Seite.

Teste gerade Kimi 2.5 und Pony-Alpha (GLM 5?) in Kilo Code, die sind ja momentan kostenlos über Open Router und würden sich für sowas auch anbieten?

 

[Schmufix]

wer das ohne VM laufen lässt und root Rechte gibt hat die Kontrolle über seinen Rechner verloren.

 

[Daniels87]

Wortwörtlich.

 

[superdoodle]

Kann man sich dann den Gang zur Domina sparen.