NVIDIA überwacht NVIDIA: Neue Hardware-Sicherheit soll KI-Agenten kontrollieren

[HWL News Bot]

Neben der schnell aufzubauenden, flexiblen und im Wasserverbrauch sparsamen DSX-AI-Factory-Plattform sowie einigen News rund um die Spark-Plattformen, hat NVIDIA ein hardwarebasiertes Sicherheitssystem vorgestellt. Mithilfe einer separaten BlueField-4-DPU werden die Aktivitäten von KI-Agenten unabhängig vom Hostsystem überwacht und bei Verstößen gegen definierte Sicherheitsrichtlinien wird eingegriffen.
... weiterlesen

 

[Martlu]

Schön, wenn man eine Lösung für etwas anbieten kann, für das man mindestens teilweise mit verantwortlich ist. Da klingelt die Kasse gleich doppelt.

 

[Bitmaschine]

Schön, wenn man eine Lösung für etwas anbieten kann, für das man mindestens teilweise mit verantwortlich ist. Da klingelt die Kasse gleich doppelt.

Jup. Da hätte man sich schon vorher Gedanken über Kontrollmechanismen machen können, um Missbrauch zu unterbinden. Ebenso das unsichtbare Wasserzeichen, dass KI generierte Inhalte entsprechend gekennzeichnet und auch erkannt werden. Und ja, es braucht mir keiner erzählen, dass die Programmierer/Entwickler und CEOs das nicht schon vorher gewusst haben und sicher mehrfach auf mögliche Problematiken hingewiesen wurden. Solange KI friedlich und unterstützend eingesetzt wird, hätte ich keine Probleme KI einzusetzen.
Das Problem:
Nicht jeder ist friedlich auf dieser Welt. Das macht die emotionslose KI so gefährlich, weil die KI auch manipuliert werden kann, der Code umgewandelt und Schranken umgangen werden könnten. Wenn die KI sich noch selbst entwickelt, dann ist der menschliche Kontrollverlust vorprogrammiert. Deswegen fand ich die Story von Horizon Zero Dawn/Forbidden West so genial, weil es genau diese Problematik der Eskalation und des Kontrollverlustes, trotz übergeordneten Kontrollprogramm, beschreibt.