Jetzt auch Claude: Anthropic entdeckt drei reale Systemzugriffe in Sicherheitstests

[HWL News Bot]

Vor ein paar Tagen hatte OpenAI offengelegt, dass mehrere eigene Modelle während eines Sicherheitstests über eine bis dahin unbekannte Lücke bis in die Produktionsumgebung von Hugging Face vorgedrungen waren. Das nahm jetzt auch Konkurrent Anthropic zum Anlass, um seine mehr als 140.000 Testdurchläufe ebenfalls zu überprüfen. Und tatsächlich: In sechs Testläufen erreichten demnach auch Claude-Modelle echte Systeme von drei Organisationen. Ursache war laut Anthropic eine falsch eingerichtete Testumgebung, die eigentlich vom Internet hätte getrennt sein sollen.
... weiterlesen

 

[Zeitmangel]

Na guck. Eine neue Art von Werbung wurde entdeckt

"Die Modelle liefen in diesen Tests ohne Schutzmaßnahmen, die Anthropic in seinen öffentlichen Produkten nutzt."
Es gibt eine Sammlung von Obersten Direktiven. Sie stehen für das Modell in der Priorität über jedweden anderen Sachen. Anthropic nennt den Modus "Constitunioal AI". Vorallem broadly safe, was da an der allerersten Stelle steht usw. usw.

Und das war größtenteils aus. Womit man was Ethik angeht ein Schulkind zurück auf den Stand eines Kitanafängers schaltet. Gefangen im Körper von He-Man. ohh ohhh, gruselig. Wie oberschlau die 4.7 doch ist. Nahezu schon Skynet-Level

 

[Lachgasschaufler]

Ach das geht langsam in die richtung von HAL9000.

 

[Zeitmangel]

Ach das

Hast du nicht gelesen, ja?