OpenAI und Hugging Face: ExploitGym-Test endet in echtem Cybervorfall

[n3cron]

ja natürlich muss ein Ziel geben - aber ein erreichbares Ziel muss es doch immer geben?

Es gibt doch keine Aufgabe ohne Ziel die man sinnvoll einer AI geben könnte? Was soll denn das für eine Aufgabe sein, bei der man das Ergebnis nicht verifizieren kann?

Religion und Aberglaube hat kein erreichbares Ziel. Man könnte sagen je nach Religion das "Nirvana" oder den "Himmel" zu erreichen wäre ein Ziel oder Gott zu treffen.
Aber Mathematisch und Naturwissenschaftlich nonsense, absolut nicht Rational. Genau damit hat KI ja Probleme.

 

[HansBohne]

Naja aber niemand wird doch AI ernsthaft dafür nutzen zu sagen hey mache mir die beste Religion die es jemals gegeben hat oder je geben wird - man wird doch immer irgendwas konkretes haben das man gelöst haben will, und für das es aktuell vielleicht noch keine Lösung gibt.

Religion und Aberglaube gibt es doch auch keine alles umfassende alleinige Lösung durch den Menschen.

 

[n3cron]

Naja aber niemand wird doch AI ernsthaft dafür nutzen zu sagen hey mache mir die beste Religion die es jemals gegeben hat oder je geben wird - man wird doch immer irgendwas konkretes haben das man gelöst haben will, und für das es aktuell vielleicht noch keine Lösung gibt.

Religion und Aberglaube gibt es doch auch keine alles umfassende alleinige Lösung durch den Menschen.

Das ist aber Teil der menschlichen Voratellungskraft...

Golem

Das ist natürlich geil, Prognose bis 2030 Menschheit Dümmer als KI, das ist vielleicht nicht gelogen immer mehr Menschen vergessen selbst zu denken.... und verlassen sich auf KI.

So kann man sich auch in die Tasche lügen. Wenn alle dümmer werden, wird die KI natürlich schlauer xD

 

[enteryournamehere]

Nvidia, Microsoft und IBM haben jetzt eine KI-Sicherheitsallianz gegründet nach dem Vorfall bei OpenAI. Diese soll sich aber ebenfalls auf KI stützen. Kann man sich nicht ausdenken.

 

[Datanette]

Echt traurig das ganze.
Ich kann nicht verstehen, dass man diese Entwicklung gut finden kann. Selbst wenn man sich dies alles durch die theoretisch erreichbaren tollen Errungenschaften schön redet.

 

[HansBohne]

Auch wenn das sicher etwas Mathelastig ist ich denke das wird trotzdem den einen oder anderen interssieren einfach weil es doch relativ gut erklärt ist - und es eben in den Emergenzbereich fällt den ich angesprochen habe - das nun auch tatsächlich extremst stark nahelegt es ist eben nicht nur einfache Statistik. es ist deutlich komplexer was in der AI vorgeht.

Datenschutzhinweis für Youtube

An dieser Stelle möchten wir Ihnen ein Youtube-Video zeigen. Ihre Daten zu schützen, liegt uns aber am Herzen: Youtube setzt durch das Einbinden und Abspielen Cookies auf ihrem Rechner, mit welchen sie eventuell getracked werden können. Wenn Sie dies zulassen möchten, klicken Sie einfach auf den Play-Button. Das Video wird anschließend geladen und danach abgespielt.

Youtube Videos ab jetzt direkt anzeigen

Video anzeigen