OpenClaw aka ClawdBot aka MoltBot - Die Büchse der Pandora ist geöffnet - von Prompt Injections bis hin zu Zero-Day-Exploits von KIs für KIs

[KaNoHLF]

OpenClaw: Die Büchse der Pandora ist GEÖFFNET

Habe mir jetzt mehrere Videos zu dem Thema angeschaut, und der Tenor ist fast immer der gleiche: "Irgendwie Spooky, aber trotzdem geil."

Wie seht ihr das?

 

[Hoto]

Ich halte es für überbewertet. Hier wird wieder etwas gehypt was bei näherer Betrachtung (und das sagt selbst der Entwickler) noch nicht wirklich ausgereift ist. Vor allem ist es ein absoluter Sicherheitsalptraum, die LLM ließt irgendwas online, Jemand macht Prompt Injection und plötzlich führt das LLM ein Monat später ein "Format C:\" durch oder lädt von irgendwo Schadsoftware runter und installiert sie.

Klar, spannend ist es was das LLM da so alles anstellt, vor allem mit deinem Geldbeutel.
Ich behalte vorerst lieber erst mal selbst die volle Kontrolle über meinen PC und meine Daten. Mein PC muss jetzt einem Erpresser nicht auch noch die Daten zum erpressen frei Haus liefern.

 

[Bigdog71]

Natürlich ist alles was uneingeschränkt Administratorrechte bekommt gefährlich und man sollte wissen welchen Programmen man es gibt und diese entsprechend überwachen.

Ansonsten ist es echt interessant was möglich. Ich habe am Wochenende mal wieder mit Home Assistant Voice und lokalem LLM (aktuelle Tests für mich mit Ministral-3 sehr positiv, und es braucht nur 10GB VRAM).

Hab meine Kinder sich unterhalten lassen und nach einiger Zeit, nachdem es wusste dass sie Star wars mögen und es im Wohnzimmer steuerbare Lichter gibt, hat es mal unseren Lightstrip in verschiedenen Farben blinken lassen als Laserstrahlen 😅 Dazu war nichts in Home Assistant programmiert.

Hier hat dass LLM gemäß Vorgaben immer nachgefragt, aber ein leichtes, dass es auch einfach das ausführt ohne nachzufragen.