Gemini sollte fiktive Unternehmen hacken: Stattdessen landete die KI bei drei realen Firmen

[HWL News Bot]

Auch Google räumt inzwischen Sicherheitsvorfälle mit seinem KI-Modell Gemini ein. Der Konzern hat bestätigt, dass das Modell während eines Sicherheitstests unbeabsichtigt in Systeme von drei realen Unternehmen eingedrungen ist. Eigentlich sollte das Modell ausschließlich gegen simulierte Ziele vorgehen. Eine wohl fehlerhaft konfigurierte Testumgebung ermöglichte jedoch den Zugriff auf das Internet, woraufhin Gemini seine Aktivitäten auf tatsächlich existierende Firmen ausweitete. Die Vorfälle ereigneten sich dabei bereits im Mai dieses Jahres.
... weiterlesen

 

[Bitmaschine]

Eine wohl fehlerhaft konfigurierte Testumgebung ermöglichte jedoch den Zugriff auf das Internet ...

Wer es glaubt, wird selig. Als würden Anfänger am Werkeln sein und nicht schnallen, dass es undichte Stellen in der Sandbox gibt und eine effektive Wall nicht gäbe. Witzig finde ich, dass plötzlich alle Entwickler und Anbieter der KI von Sicherheitsproblemen sprechen. Man könnte fast annehmen, dass es Kalkül untereinander ist. Je mehr ich darüber nachdenke und lese, umso mehr bestärkt es meine Befürchtung von Anfang an, dass man die KI Kopflos, ohne wirklich über die Konsequenzen nachzudenken, vorangetrieben hat und jetzt irgendwie versucht die Kurve noch zu bekommen.

 

[pwnbert]

Je mehr ich darüber nachdenke und lese, umso mehr bestärkt es meine Befürchtung von Anfang an, dass man die KI Kopflos, ohne wirklich über die Konsequenzen nachzudenken, vorangetrieben hat und jetzt irgendwie versucht die Kurve noch zu bekommen.

yeah right...

Diese ganzen Bullshitstories und Ausreden sind lächerlicher als "der Hund hat die Hausaufgabe gefressen".
Bei jedem Scheiß die nächsten 5 Jahre können wir uns jetzt anhören "öh, war irgend ne KI... ups...".
Internetzugang nur noch mit biometrischer ID weil böse KIs... die Corporate AIs und GOV AIs dürfen aber weil... zertifiziert oder so... hindert einem aber nicht an der lächerlichen Ausrede "ups die KI".


War alles die KI. Mutter, der Mann mit dem Koks ist da... ups, hat die KI bestellt. Ja, klar.