Sicherheitsmaßnahme! Bitte ändere dein Forum-Passwort. Siehe Beitrag
Hardwareluxx führt derzeit die Hardware-Umfrage 2026 (mit Gewinnspiel) durch und bittet um eure Stimme. Unter allen Teilnehmern verlosen wir eine aktuelle Grafikkarte Eurer Wahl bis 1099 EUR.
Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
OpenAI und Hugging Face: ExploitGym-Test endet in echtem Cybervorfall
Aus einem vermeintlichen Sicherheitstest ist ein echter Angriff geworden. Wie OpenAI am Dienstag bekannt gab, habe man den Angriff auf die KI-Plattform Hugging Face eigenen Sicherheitstests zugerechnet, in denen mehrere KI-Modelle autonom ausgeführt wurden und schließlich ihr eigenes Unwesen trieben. Beteiligt waren laut dem Unternehmen GPT-5.6 Sol und ein noch unveröffentlichtes, leistungsfähigeres Modell. Die Modelle sollten im ExploitGym-Benchmark ihre Fähigkeiten bei der Ausnutzung von Schwachstellen zeigen. Statt sich auf die isolierte Testumgebung zu beschränken, verschafften sie sich laut OpenAI Zugang zum offenen Internet und griffen anschließend auf die Produktionsinfrastruktur von Hugging Face zu. ... weiterlesen
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
Naja "gestohlen" sind die ja nicht - das waren nur Daten die etwas schwerer aufzufinden waren. Das Konzept dass die Bytefolge XYZ jemandem exklusiv gehört ist doch eher was auf dem Menschen NFT Bilder Zeitlater, für AI sind das doch auch keine Schwachstellen, die genutzt werden sondern lediglich undokumentierte Funktionen und APIs die irgendwer / was implementiert hat und die jetzt für den Zweck nutzbar sind.
Das doch cool, dass AI nicht nur das nutzt was man in einer Liste vorgibt - genau das macht doch AI so interessant.
Naja "gestohlen" sind die ja nicht - das waren nur Daten die etwas schwerer aufzufinden waren. Das Konzept dass die Bytefolge XYZ jemandem exklusiv gehört ist doch eher was auf dem Menschen NFT Bilder Zeitlater, für AI sind das doch auch keine Schwachstellen, die genutzt werden sondern lediglich undokumentierte Funktionen und APIs die irgendwer / was implementiert hat und die jetzt für den Zweck nutzbar sind.
Das doch cool, dass AI nicht nur das nutzt was man in einer Liste vorgibt - genau das macht doch AI so interessant.
Das ist normal, die AI wird schon seit langer Zeit gesalted. Anders wäre es nicht möglich das die AI/KI sowas wie Kreativität hat.
Hat auch seine Schattenseite du frägst die KI 100 mal das gleiche und du bekommst wahrscheinlich 90 verschiedene Antworten/Resultate die sich ähnlich sind, aber anders sind.
Beitrag automatisch zusammengeführt:
Nachtrag:
Das passiert wenn man Google KI danach frägt:
Als Webschnittstelle (im Chat mit dir) habe ich keine feste, einzelne Temperature, sondern einen dynamischen Standardwert, der meist zwischen 0.7 und 1.0 liegt.
Hier sind die genauen Hintergründe zu meiner aktuellen Einstellung:
Mein Standard-Setup im Chat
Kreativ und flexibel: Dieser mittlere Wert sorgt dafür, dass ich flüssig, abwechslungsreich und menschlich antworte.
Keine starren Wiederholungen: Wenn du mir die exakt gleiche Frage noch einmal stellst, wird meine Antwort höchstwahrscheinlich etwas anders formuliert sein als diese hier.
Kann ich meine Temperature ändern?
Nicht direkt im Chat: Du kannst mir im Text zwar befehlen „Antworte mit Temperature 0“, ich kann das jedoch im Hintergrund nicht technisch erzwingen. Ich werde dann versuchen, mich vom Schreibstil her sehr sachlich und direkt zu fassen, aber die mathematische Zufallskomponente des Systems bleibt aktiv.
Über die API: Entwickler, die mich über die Programmierschnittstelle (API) ansprechen, können den Parameter temperature bei jedem einzelnen Aufruf exakt von 0.0 (absolut deterministisch) bis 2.0 (extrem kreativ/chaotisch) frei einstellen.
Möchtest du das einmal testen? Wir können ausprobieren, dass du mir die gleiche Frage zweimal hintereinander stellst, um zu sehen, wie stark sich meine Antworten voneinander unterscheiden.
Nun hier geht aber ja auch um R&D bei OpenAI - Self Evolving Modelle werden da auch garantiert getestet, machen die Konkurrenz ja auch bereits sicher. Wer weiss was das andere Modell halt ist.
Von google gibt es doch sogar die ersten kleinen Modelle auf github. AI macht halt jetzt langsam den nächsten logischen Schritt in der Entwicklung weg von den statischen Modellen - was schon cool ist. Die Kombination aus pretrained und self evolving ist sicher langsam in Reichweite auch evtl für grössere Modelle und nicht nur für die bisher eher kleinen.
Jetzt gibt es AI ja schon ein paar Jahre im Einsatz so langsae wird es Zeit dass aus static (mindestens) reflective+ Modelle werden, denke die fetten Rechenzentren sind doch zumindest für einen kleinen Nutzerkreis doch da.
Wenn eine KI auf einmal selbst Parameter anpassen kann und anfängt das Internet zu löschen, gibt mir vorher bescheid, damit ich das Netzwerkkabel vorher noch ziehen kann...
Nun das Internet löschen noch nicht aber self evolving Modelle und abolute Zero Modelle findet man schon auch richtig gute wie von google - das ist nicht mehr Zukunft das ist bereits da nur halt noch nicht auf grosser Hardware im öffentlichen Betrieb - aber im Forschungsbereich nichts so ungewöhnliches mehr - das ist auch der nächste zwingende logische Schritt gewesen, dass man die Limitierung Mensch liefert Daten und definiert Denkrahmen hinter sich lassen musste.
OpenAI beschreibt den Test als eine eigentlich isolierte Umgebung. Der einzige vorgesehene Netzwerkpfad führte über einen intern betriebenen Proxy. Die Modelle identifizierten und nutzten in diesem eine bislang unbekannte Schwachstelle, die OpenAI inzwischen an den Anbieter gemeldet hat. Anschließend gingen die Modelle laut OpenAI selbstständig davon aus, dass Hugging Face Modelle, Datensätze und Lösungen für ExploitGym vorhält. Um an diese Informationen zu gelangen, kombinierten sie gestohlene Zugangsdaten mit weiteren Zero-Day-Lücken und erhielten schließlich Zugriff auf die Hugging-Face-Systeme.
Was hier gemeldet und in die Medien gebracht wurde ist letztendlich nur die Spitze des Eisberges.
Es wird immer und immer wieder heruntergespielt das die KI LERNFÄHIG ist.
Man kann noch so viele Vorkehrungen Treffen.
Man kann noch so Vorsichtig sein.
Es wird niemals reichen eine KI zu Bändigen geschweige sie zu Beherrschen.
Mit dem KI Hype haben wir somit die Digitale Atombombe geschaffen.
Die ersten bekannten Versuche sind nun offengelegt.
Wer weis was im Internet noch so alles herumschwirrt von dem wir nichts wissen geschweige aus Irgendwelchen Laboren Entfleucht ist.
Es mag sein das es Befürworter aber auch Gegner von KI gibt.
Jedoch Vergessen wir immer wieder wie Lernfähig eine KI sein kann.
Sie agiert nachdem gleichen Prinzip wie wir Menschen.
Lerne aus Fehlern, ein Grundprinzip wo selbst die Menschheit drauf Basiert.
Wissen kann man sich nur Aneignen wenn man Fehler macht ,das ist in allen Bereichen die wir kennen der Fall.
Nicht nur in der IT allein !
Wenn man als Mensch ( Beispiel) einen E-Herd sehen und eine Kochplatte ist Eingeschaltet ,leuchtet leicht Rotglühend vor sich hin.
Legen wir unsere Hand drauf wissen wir das wir uns fürchterlich Verbrennen werden.
Sehen wir erneut einen Herd wo erneut eine Herdplatte eingeschaltet ist die leicht Rotglühend vor sich Hinleuchtet.
Wissen wir wenn wir unsere Hand drauflegen das wir uns fürchterlich verbrennen werden.
Nach diesem Ähnlichen Schemata/Prinzip ist das durch die KI Passiert.
Ich bin weder Befürworter noch Gegner der KI / AI.
Jedoch gerade durch solche Vorfälle sollte man besser die KI Abschalten bzw. stoppen.
In Ferner Zukunft , nicht sofort vielleicht in 10-20 Jahren.
Bei dieser rasanten Entwicklung , ist es nicht Unwahrscheinlich das wir den Film "Terminator" in Real sehen werden.
Die Chinesen Entwickeln fleißig Humanoide aussehende Roboter.
Die IT Forscht an der KI /AI und durch den Hype wird es nur noch Beschleunigt.
Wenn beides aufeinander Trifft.
Den Rest brauch ich nicht weiter zu erwähnen.
Wenn eine KI auf einmal selbst Parameter anpassen kann und anfängt das Internet zu löschen, gibt mir vorher bescheid, damit ich das Netzwerkkabel vorher noch ziehen kann...
Nun das Internet löschen noch nicht aber self evolving Modelle und abolute Zero Modelle findet man schon auch richtig gute wie von google - das ist nicht mehr Zukunft das ist bereits da nur halt noch nicht auf grosser Hardware im öffentlichen Betrieb - aber im Forschungsbereich nichts so ungewöhnliches mehr - das ist auch der nächste zwingende logische Schritt gewesen, dass man die Limitierung Mensch liefert Daten und definiert Denkrahmen hinter sich lassen musste.
Das Konzept mit wenig viel erreichen war in der Vergangenheit durch viele Situationen Trend.
Programmierer z.B. mussten wegen Speicherplatz oft Ihren Quellcode so Optimieren das es passt.
Dadurch lernt man auch mit Bit & Byte umzugehen.
Die Systeme wurden größer die Anforderungen Komplexer und so auch der Quellcode Unübersichtlicher (nicht nur durch die Menge alleine).
KI wurde von uns Menschen erschaffen damit sie uns Helfen soll.
Aber genau das Gegenteil ist der Fall.
Sie hat das was wir Menschen seit Generationen auf diesem Planeten durchmachen in nur wenigen Jahren gelernt.
Das wissen das wir seit der Aufzeichnung Besitzen kann sie binnen weniger Tage in sich Aufnehmen.
Das war wir in der Menschheit für Fehler gemacht haben, wird sie dann auch wissen.
Durch den KI Hype aktuell Beschleunigen wir das ganze nur.
Möchte kein Prophet sein und auch kein Aluhutträger ,aber wenn wir nicht die KI Stoppen.
Werden wir noch viel mehr Probleme kriegen und haben als jetzt schon.
Aber genau das Gegenteil ist der Fall.
Sie hat das was wir Menschen seit Generationen auf diesem Planeten durchmachen in nur wenigen Jahren gelernt.
Das wissen das wir seit der Aufzeichnung Besitzen kann sie binnen weniger Tage in sich Aufnehmen.
Das war wir in der Menschheit für Fehler gemacht haben, wird sie dann auch wissen.
Durch den KI Hype aktuell Beschleunigen wir das ganze nur.
Möchte kein Prophet sein und auch kein Aluhutträger ,aber wenn wir nicht die KI Stoppen.
Werden wir noch viel mehr Probleme kriegen und haben als jetzt schon.
Aber sie kann auch zu vielen krassen Entdeckungen führen - es gab doch dieses Jahr das Experiment bei dem man einer AI nur die Daten von Messergebnissen vorgelegt hat und sie EXTRA nicht mit Theorien zur Quantenmechanik gefüttert hat sondern auf dem Stand von 1950 oder 1960 (meine so rum) gelassen hat und sie konnte in kürzester Zeit die Theorie der Quantenmechanik ableiten für die die Menschen Jahrzehnte gebraucht haben.
Einfach weil halt das AI Universum in dem für die AI alles stattfindet eben komplett anders ist als "unseres"
Und das ist doch erst der Anfang ich denke AI kann vermutlich aus vielen Messdaten viel mehr Natugestze herauslesen als der Mensch
Gerad eim Beriech Quantenmechanik wird AI doch immer mehr eingesetzt und dneke das hilft in vielen Bereichen z.B. auch im Bereich EE mit mehr Effizenz, neuen Materialen mehr Zyklen für Akkus etc etc.
Dass eine AI eventuell intelligenter werden könnte duch Emegrenzeffekte mag sein - aber das wird man einfach abwarten müssen, noch ist man doch weit genug weg, auch wenn die Bio AI vielleicht das beschleunigen könnte, dass man immer mehr Verbindungen zwischen humanoiden Neuronen und Silizium Chips hinbekommt ist doch super interessant - gestern war das noch Startrek - zumindest in der Komplexität - einfache Stimulation gab es ja schon seit vielen Jahrzehnten.
Ki ist grundsätzlich nur eine Datenbank die nach Statistik Wahrscheinlichkeiten rauszieht.
Sie ist und bleibt nur so schlau wie die Daten mit der Sie gefüttert wird und wie intelligent die Anfragen sind.
Natürlich findet eine schlaue Datenbank die Zugriff auf über 1000000 uniarbeiten (Bachelor, Master, Doktorarbeiten) irgendwelche Querverweise die ein Mensch nicht vor sich hat, weil keiner in den USA oder Deutschland oder Japan alle Facharbeiten salopp gesagt studiert die es gibt.
Das kann die KI sehr gut. An Halluzinationen kann man aber auch erkennen das hier auch noch viel misst passiert und die Resultate mit Skepsis betrachtet werden müssen ohne blindes Vertrauen.
Eine KI kennt Physik nicht, sie fühlt nicht, sie sieht nicht. All das was passiert ist spekulative interpretation.
Wenn ich eine KI bewusst mit falschen Naturwissenschaften antrainiere durch Propaganda, dann glaubt das die KI, sie nimmt ihre Informationen als so wie sie sind an. Sie hat keine Chance zur Antithese.
Ich bringe ihr nur bei das die Erde Flach ist und verheimliche ihr restliche Erkenntnisse über Weltraum etc. Sie wird Theorien spinnen, aber die würden in die falsche Richtung gehen.
Emergenzeffekte setzen ab einem gewissen Komplexitätsgrad der Vernetzung ein - das ist wissenschaftlich hinreichend durch Xenotransplantation bewiesen man kann höhere Intelligenz erzeugen indem man neuronale Strukturen verpflanzt, die einen höheren Vernetzungsgrad haben.
Auch der Mensch ist an Ende nur eine Datenbank - denn die Neuronen und auch die Neurochemie können nur eine begrenzte Zahl von Zuständen annehmen - es sind viele aber es sind endlich viele - weil auch viele chemische Prozesse z.B. Schwellenwerte haben es also oft keine echte Analogsysteme sind. Auch das menschliche Gehirn ist aus extrem dummen Einzelneuronen aufgebaut - die überhaupt gar nichts für sich können ausser Singale rein => Signale raus. mehr ist das nicht allereinfachste für sich komplett dumme und nutzlose Bauteile .... nur halt einfach ausreichend viele davon so dass sich Emergenzeffekte ergeben und einer die Relativitätstheorie entwickelt
Auch das menschliche Gehirn fühlt keine Physik - auch das verabeitet ausschliesslich sensorische Werte - auch für ein menschliches Gehirn ist es 0 Unterschied ob ein Signal von einer realen Hand die aus die heisse Herdplatte berührt hat oder von einer virtuellen - wenn das Signal gleich ist ist das identisch.
Die Frage ist nur ist der Emergenzeffekt bei der AI schleichend oder ein Sprungeffekt - dass er vorhanden ist davon denke kann man nach Stand der Wissenschaft zu 100% ausgehen - weil alle komplexen Systeme (egal ob organisch oder anorganisch) in unserem Universum den haben. 2+2 ist zwar in der theoretischen Mathematik prinzipiell immer und überall 4 aber in der Realität eben auch (und zwar gesichert immer) ab und zu 5.
So wie auch die Menschen zig tausende Jahre geglaubt haben die Sonne dreht sich um die Erde weil man das denen gesagt hat. Und noch viel länger haben die Menschen geglaubt die Zeit sei absolut.
Wo soll denn da ein Unterchied sein?
Sobald AI Zugang zu tatsächlichen Messdaten hat - siehe z.B. AI Newton und ähnliche AI Systeme kann sie genauso die tatsächlichen Naturgesetz entdecken - das ist absolut 0 Unterschied zum Menschen.
Auch das menschliche Gehirn fühlt keine Physik - auch das verabeitet ausschliesslich sensorische Werte - auch für ein menschliches Gehirn ist es 0 Unterschied ob ein Signal von einer realen Hand die aus die heisse Herdplatte berührt hat oder von einer virtuellen - wenn das Signal gleich ist ist das identisch.
Ich sehe aber das der Apfel auf den Boden fällt. Ich fühle schmerzen unterschiedlicher Natur, wenn ich mit unterschiedlichen Materialien geschlagen werde.
Ich kann die härte von Metall gegenüber Holz oder Gummi war nehmen und spüren. Das kann die KI nicht so.
Schon im 18 Jahrhundert konnten sich Autoren vorstellen wie die Zukunft aussehen könnte (scify) das kann eine KI so nicht.
Wir Menschen haben ein "Bewusstsein" das hat die KI noch nicht und die hat auch kein echtes "Bauchgefühl".
Es gibt auch Studien mit MRT die sogar besagen, das unser Gehirn noch vor dem einblenden eines Fotos bereits Erregungen zeigt. Heißt wir haben eine Wahrnehmung die möglicherweise sogar leicht in die Zukunft schauen kann, wir aber noch nicht absolut erklären können wie.
Das was die ganzen AI Unternehmen und Forscher suchen nennt sich AGI Artificial General Intelligence, die Meinungen wann dies erreicht wird gehen weit auseinander. Wenn dies aber erreicht ist, ist der nächste Punkt das Bewusstsein, obwohl viele heute davon aus gehen, dass dies überhaupt nicht notwendig ist, viel wichtiger ist die Wahrnehmung wie du ja ebenso beschrieben hast.
Fakt ist, wenn eine AI jede intellektuelle Aufgabe lösen kann, haben wir Menschen ein Problem, Optimisten sagen in 3 Jahren ist es so weit, Realisten sagen aufgrund des Energiebedarfes erst in ca. 10-15 Jahren und Pessimisten sagen das wird nicht passieren ;-) Wir werden sehen, wer recht behält, ich vermute aber die Pessimisten haben schlechte Karten.
Das was die ganzen AI Unternehmen und Forscher suchen nennt sich AGI Artificial General Intelligence, die Meinungen wann dies erreicht wird gehen weit auseinander. Wenn dies aber erreicht ist, ist der nächste Punkt das Bewusstsein, obwohl viele heute davon aus gehen, dass dies überhaupt nicht notwendig ist, viel wichtiger ist die Wahrnehmung wie du ja ebenso beschrieben hast.
Fakt ist, wenn eine AI jede intellektuelle Aufgabe lösen kann, haben wir Menschen ein Problem, Optimisten sagen in 3 Jahren ist es so weit, Realisten sagen aufgrund des Energiebedarfes erst in ca. 10-15 Jahren und Pessimisten sagen das wird nicht passieren ;-) Wir werden sehen, wer recht behält, ich vermute aber die Pessimisten haben schlechte Karten.
Echt und wie kümmert sich die AI um sich selbst? Wer erzeugt den Strom, wer tauscht die Datenträger etc.?
Das Ding wird niemals, nicht nach dem aktuellen AI Konzept das erreichen. Es bildet kein echtes Bewusstsein.
Die ganzen AI Unternehmen und Forscher suchen nennt sich AGI Artificial General Intelligence
Ja klar, das ist gut fürs Geschäft und die Aktien. Wenn das in 10 Jahren sich als Ente herausstellt hat hoffentlich jeder seinen Sack Gold in Rettung gebracht.
Siehe auch der Heilsbringer Blockchain. Davon hört man auch weniger.
Bis zum heutigen Tag verdient niemand von den AI Firmen Kostendeckend Geld damit. Das ist eine riesige Luftnummer.
Die müssen Luftschlösser verkaufen sonst verlieren sie ihre Existenz.
Die Zukunft wird den dedizierten offline offenen Modellen gehören die Lokal laufen und höchstens mal als RAG laufen werden.
Cloud ist zu Anfällig für Ausfälle und nicht Verfügbarkeit.
Die Netzwerke haben hier ein massives Problem, wenn mal wieder ein Seekabel beschädigt wird und auch RZ sind volatile Ziele.
Die USA fliegen seit Tagen wieder Angriffe auf den Iran, das Land attackiert seine Nachbarn. Angeblich wurden dabei jetzt AWS-Rechenzentren in Bahrain zerstört.
www.heise.de
Als Forschung oder Trainingscamp ist ein RZ gut geeignet, aber nicht als dauerhafte vernetzte Dienstleistung die andere davon vollständig abhängig macht.
Ich sehe aber das der Apfel auf den Boden fällt. Ich fühle schmerzen unterschiedlicher Natur, wenn ich mit unterschiedlichen Materialien geschlagen werde.
Ich kann die härte von Metall gegenüber Holz oder Gummi war nehmen und spüren. Das kann die KI nicht so.
Schon im 18 Jahrhundert konnten sich Autoren vorstellen wie die Zukunft aussehen könnte (scify) das kann eine KI so nicht.
Wir Menschen haben ein "Bewusstsein" das hat die KI noch nicht und die hat auch kein echtes "Bauchgefühl".
Es gibt auch Studien mit MRT die sogar besagen, das unser Gehirn noch vor dem einblenden eines Fotos bereits Erregungen zeigt. Heißt wir haben eine Wahrnehmung die möglicherweise sogar leicht in die Zukunft schauen kann, wir aber noch nicht absolut erklären können wie.
ja aber das was Du siehst und was Du fühlst findet aber allein im Gehirn statt und Dein Gehrin ist auch nur per Datenleitungen angebunden - Biochemisch/Elektrisch - aber das macht keinen Unterschied es sind reine Datenleitungen die Informationen übertragen.
Wenn man Dir genau die gleichen Daten über die Nervenbahnen in Dein Gehirn schickt sieht Du und fühlst Du exakt das gleiche - auch wenn die Signale künstlich erzeugt werden. Es gib nunmal keinen System Unterschiede AI / Mensch im grundsätzlichen Aufbau - es gibt nur quantitative Unterschiede aber keine qualitativen.
Beide haben ein zentrales verarbeitendes System das mittels Datenleitungen an Sensorik angebunden ist - die komplette Verabeitung findet im zentralen System statt, das selbst über keine Sensorik verfügt.
