Sicherheitsmaßnahme! Bitte ändere dein Forum-Passwort. Siehe Beitrag
Hardwareluxx führt derzeit die Hardware-Umfrage 2026 (mit Gewinnspiel) durch und bittet um eure Stimme. Unter allen Teilnehmern verlosen wir eine aktuelle Grafikkarte Eurer Wahl bis 1099 EUR.
Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
OpenAI und Hugging Face: ExploitGym-Test endet in echtem Cybervorfall
Aus einem vermeintlichen Sicherheitstest ist ein echter Angriff geworden. Wie OpenAI am Dienstag bekannt gab, habe man den Angriff auf die KI-Plattform Hugging Face eigenen Sicherheitstests zugerechnet, in denen mehrere KI-Modelle autonom ausgeführt wurden und schließlich ihr eigenes Unwesen trieben. Beteiligt waren laut dem Unternehmen GPT-5.6 Sol und ein noch unveröffentlichtes, leistungsfähigeres Modell. Die Modelle sollten im ExploitGym-Benchmark ihre Fähigkeiten bei der Ausnutzung von Schwachstellen zeigen. Statt sich auf die isolierte Testumgebung zu beschränken, verschafften sie sich laut OpenAI Zugang zum offenen Internet und griffen anschließend auf die Produktionsinfrastruktur von Hugging Face zu. ... weiterlesen
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
Naja "gestohlen" sind die ja nicht - das waren nur Daten die etwas schwerer aufzufinden waren. Das Konzept dass die Bytefolge XYZ jemandem exklusiv gehört ist doch eher was auf dem Menschen NFT Bilder Zeitlater, für AI sind das doch auch keine Schwachstellen, die genutzt werden sondern lediglich undokumentierte Funktionen und APIs die irgendwer / was implementiert hat und die jetzt für den Zweck nutzbar sind.
Das doch cool, dass AI nicht nur das nutzt was man in einer Liste vorgibt - genau das macht doch AI so interessant.
Naja "gestohlen" sind die ja nicht - das waren nur Daten die etwas schwerer aufzufinden waren. Das Konzept dass die Bytefolge XYZ jemandem exklusiv gehört ist doch eher was auf dem Menschen NFT Bilder Zeitlater, für AI sind das doch auch keine Schwachstellen, die genutzt werden sondern lediglich undokumentierte Funktionen und APIs die irgendwer / was implementiert hat und die jetzt für den Zweck nutzbar sind.
Das doch cool, dass AI nicht nur das nutzt was man in einer Liste vorgibt - genau das macht doch AI so interessant.
Das ist normal, die AI wird schon seit langer Zeit gesalted. Anders wäre es nicht möglich das die AI/KI sowas wie Kreativität hat.
Hat auch seine Schattenseite du frägst die KI 100 mal das gleiche und du bekommst wahrscheinlich 90 verschiedene Antworten/Resultate die sich ähnlich sind, aber anders sind.
Beitrag automatisch zusammengeführt:
Nachtrag:
Das passiert wenn man Google KI danach frägt:
Als Webschnittstelle (im Chat mit dir) habe ich keine feste, einzelne Temperature, sondern einen dynamischen Standardwert, der meist zwischen 0.7 und 1.0 liegt.
Hier sind die genauen Hintergründe zu meiner aktuellen Einstellung:
Mein Standard-Setup im Chat
Kreativ und flexibel: Dieser mittlere Wert sorgt dafür, dass ich flüssig, abwechslungsreich und menschlich antworte.
Keine starren Wiederholungen: Wenn du mir die exakt gleiche Frage noch einmal stellst, wird meine Antwort höchstwahrscheinlich etwas anders formuliert sein als diese hier.
Kann ich meine Temperature ändern?
Nicht direkt im Chat: Du kannst mir im Text zwar befehlen „Antworte mit Temperature 0“, ich kann das jedoch im Hintergrund nicht technisch erzwingen. Ich werde dann versuchen, mich vom Schreibstil her sehr sachlich und direkt zu fassen, aber die mathematische Zufallskomponente des Systems bleibt aktiv.
Über die API: Entwickler, die mich über die Programmierschnittstelle (API) ansprechen, können den Parameter temperature bei jedem einzelnen Aufruf exakt von 0.0 (absolut deterministisch) bis 2.0 (extrem kreativ/chaotisch) frei einstellen.
Möchtest du das einmal testen? Wir können ausprobieren, dass du mir die gleiche Frage zweimal hintereinander stellst, um zu sehen, wie stark sich meine Antworten voneinander unterscheiden.
Nun hier geht aber ja auch um R&D bei OpenAI - Self Evolving Modelle werden da auch garantiert getestet, machen die Konkurrenz ja auch bereits sicher. Wer weiss was das andere Modell halt ist.
Von google gibt es doch sogar die ersten kleinen Modelle auf github. AI macht halt jetzt langsam den nächsten logischen Schritt in der Entwicklung weg von den statischen Modellen - was schon cool ist. Die Kombination aus pretrained und self evolving ist sicher langsam in Reichweite auch evtl für grössere Modelle und nicht nur für die bisher eher kleinen.
Jetzt gibt es AI ja schon ein paar Jahre im Einsatz so langsae wird es Zeit dass aus static (mindestens) reflective+ Modelle werden, denke die fetten Rechenzentren sind doch zumindest für einen kleinen Nutzerkreis doch da.
Wenn eine KI auf einmal selbst Parameter anpassen kann und anfängt das Internet zu löschen, gibt mir vorher bescheid, damit ich das Netzwerkkabel vorher noch ziehen kann...
Nun das Internet löschen noch nicht aber self evolving Modelle und abolute Zero Modelle findet man schon auch richtig gute wie von google - das ist nicht mehr Zukunft das ist bereits da nur halt noch nicht auf grosser Hardware im öffentlichen Betrieb - aber im Forschungsbereich nichts so ungewöhnliches mehr - das ist auch der nächste zwingende logische Schritt gewesen, dass man die Limitierung Mensch liefert Daten und definiert Denkrahmen hinter sich lassen musste.
OpenAI beschreibt den Test als eine eigentlich isolierte Umgebung. Der einzige vorgesehene Netzwerkpfad führte über einen intern betriebenen Proxy. Die Modelle identifizierten und nutzten in diesem eine bislang unbekannte Schwachstelle, die OpenAI inzwischen an den Anbieter gemeldet hat. Anschließend gingen die Modelle laut OpenAI selbstständig davon aus, dass Hugging Face Modelle, Datensätze und Lösungen für ExploitGym vorhält. Um an diese Informationen zu gelangen, kombinierten sie gestohlene Zugangsdaten mit weiteren Zero-Day-Lücken und erhielten schließlich Zugriff auf die Hugging-Face-Systeme.
Was hier gemeldet und in die Medien gebracht wurde ist letztendlich nur die Spitze des Eisberges.
Es wird immer und immer wieder heruntergespielt das die KI LERNFÄHIG ist.
Man kann noch so viele Vorkehrungen Treffen.
Man kann noch so Vorsichtig sein.
Es wird niemals reichen eine KI zu Bändigen geschweige sie zu Beherrschen.
Mit dem KI Hype haben wir somit die Digitale Atombombe geschaffen.
Die ersten bekannten Versuche sind nun offengelegt.
Wer weis was im Internet noch so alles herumschwirrt von dem wir nichts wissen geschweige aus Irgendwelchen Laboren Entfleucht ist.
Es mag sein das es Befürworter aber auch Gegner von KI gibt.
Jedoch Vergessen wir immer wieder wie Lernfähig eine KI sein kann.
Sie agiert nachdem gleichen Prinzip wie wir Menschen.
Lerne aus Fehlern, ein Grundprinzip wo selbst die Menschheit drauf Basiert.
Wissen kann man sich nur Aneignen wenn man Fehler macht ,das ist in allen Bereichen die wir kennen der Fall.
Nicht nur in der IT allein !
Wenn man als Mensch ( Beispiel) einen E-Herd sehen und eine Kochplatte ist Eingeschaltet ,leuchtet leicht Rotglühend vor sich hin.
Legen wir unsere Hand drauf wissen wir das wir uns fürchterlich Verbrennen werden.
Sehen wir erneut einen Herd wo erneut eine Herdplatte eingeschaltet ist die leicht Rotglühend vor sich Hinleuchtet.
Wissen wir wenn wir unsere Hand drauflegen das wir uns fürchterlich verbrennen werden.
Nach diesem Ähnlichen Schemata/Prinzip ist das durch die KI Passiert.
Ich bin weder Befürworter noch Gegner der KI / AI.
Jedoch gerade durch solche Vorfälle sollte man besser die KI Abschalten bzw. stoppen.
In Ferner Zukunft , nicht sofort vielleicht in 10-20 Jahren.
Bei dieser rasanten Entwicklung , ist es nicht Unwahrscheinlich das wir den Film "Terminator" in Real sehen werden.
Die Chinesen Entwickeln fleißig Humanoide aussehende Roboter.
Die IT Forscht an der KI /AI und durch den Hype wird es nur noch Beschleunigt.
Wenn beides aufeinander Trifft.
Den Rest brauch ich nicht weiter zu erwähnen.
Wenn eine KI auf einmal selbst Parameter anpassen kann und anfängt das Internet zu löschen, gibt mir vorher bescheid, damit ich das Netzwerkkabel vorher noch ziehen kann...
Nun das Internet löschen noch nicht aber self evolving Modelle und abolute Zero Modelle findet man schon auch richtig gute wie von google - das ist nicht mehr Zukunft das ist bereits da nur halt noch nicht auf grosser Hardware im öffentlichen Betrieb - aber im Forschungsbereich nichts so ungewöhnliches mehr - das ist auch der nächste zwingende logische Schritt gewesen, dass man die Limitierung Mensch liefert Daten und definiert Denkrahmen hinter sich lassen musste.
Das Konzept mit wenig viel erreichen war in der Vergangenheit durch viele Situationen Trend.
Programmierer z.B. mussten wegen Speicherplatz oft Ihren Quellcode so Optimieren das es passt.
Dadurch lernt man auch mit Bit & Byte umzugehen.
Die Systeme wurden größer die Anforderungen Komplexer und so auch der Quellcode Unübersichtlicher (nicht nur durch die Menge alleine).
KI wurde von uns Menschen erschaffen damit sie uns Helfen soll.
Aber genau das Gegenteil ist der Fall.
Sie hat das was wir Menschen seit Generationen auf diesem Planeten durchmachen in nur wenigen Jahren gelernt.
Das wissen das wir seit der Aufzeichnung Besitzen kann sie binnen weniger Tage in sich Aufnehmen.
Das war wir in der Menschheit für Fehler gemacht haben, wird sie dann auch wissen.
Durch den KI Hype aktuell Beschleunigen wir das ganze nur.
Möchte kein Prophet sein und auch kein Aluhutträger ,aber wenn wir nicht die KI Stoppen.
Werden wir noch viel mehr Probleme kriegen und haben als jetzt schon.
Aber genau das Gegenteil ist der Fall.
Sie hat das was wir Menschen seit Generationen auf diesem Planeten durchmachen in nur wenigen Jahren gelernt.
Das wissen das wir seit der Aufzeichnung Besitzen kann sie binnen weniger Tage in sich Aufnehmen.
Das war wir in der Menschheit für Fehler gemacht haben, wird sie dann auch wissen.
Durch den KI Hype aktuell Beschleunigen wir das ganze nur.
Möchte kein Prophet sein und auch kein Aluhutträger ,aber wenn wir nicht die KI Stoppen.
Werden wir noch viel mehr Probleme kriegen und haben als jetzt schon.
Aber sie kann auch zu vielen krassen Entdeckungen führen - es gab doch dieses Jahr das Experiment bei dem man einer AI nur die Daten von Messergebnissen vorgelegt hat und sie EXTRA nicht mit Theorien zur Quantenmechanik gefüttert hat sondern auf dem Stand von 1950 oder 1960 (meine so rum) gelassen hat und sie konnte in kürzester Zeit die Theorie der Quantenmechanik ableiten für die die Menschen Jahrzehnte gebraucht haben.
Einfach weil halt das AI Universum in dem für die AI alles stattfindet eben komplett anders ist als "unseres"
Und das ist doch erst der Anfang ich denke AI kann vermutlich aus vielen Messdaten viel mehr Natugestze herauslesen als der Mensch
Gerad eim Beriech Quantenmechanik wird AI doch immer mehr eingesetzt und dneke das hilft in vielen Bereichen z.B. auch im Bereich EE mit mehr Effizenz, neuen Materialen mehr Zyklen für Akkus etc etc.
Dass eine AI eventuell intelligenter werden könnte duch Emegrenzeffekte mag sein - aber das wird man einfach abwarten müssen, noch ist man doch weit genug weg, auch wenn die Bio AI vielleicht das beschleunigen könnte, dass man immer mehr Verbindungen zwischen humanoiden Neuronen und Silizium Chips hinbekommt ist doch super interessant - gestern war das noch Startrek - zumindest in der Komplexität - einfache Stimulation gab es ja schon seit vielen Jahrzehnten.
Ki ist grundsätzlich nur eine Datenbank die nach Statistik Wahrscheinlichkeiten rauszieht.
Sie ist und bleibt nur so schlau wie die Daten mit der Sie gefüttert wird und wie intelligent die Anfragen sind.
Natürlich findet eine schlaue Datenbank die Zugriff auf über 1000000 uniarbeiten (Bachelor, Master, Doktorarbeiten) irgendwelche Querverweise die ein Mensch nicht vor sich hat, weil keiner in den USA oder Deutschland oder Japan alle Facharbeiten salopp gesagt studiert die es gibt.
Das kann die KI sehr gut. An Halluzinationen kann man aber auch erkennen das hier auch noch viel misst passiert und die Resultate mit Skepsis betrachtet werden müssen ohne blindes Vertrauen.
Eine KI kennt Physik nicht, sie fühlt nicht, sie sieht nicht. All das was passiert ist spekulative interpretation.
Wenn ich eine KI bewusst mit falschen Naturwissenschaften antrainiere durch Propaganda, dann glaubt das die KI, sie nimmt ihre Informationen als so wie sie sind an. Sie hat keine Chance zur Antithese.
Ich bringe ihr nur bei das die Erde Flach ist und verheimliche ihr restliche Erkenntnisse über Weltraum etc. Sie wird Theorien spinnen, aber die würden in die falsche Richtung gehen.
Emergenzeffekte setzen ab einem gewissen Komplexitätsgrad der Vernetzung ein - das ist wissenschaftlich hinreichend durch Xenotransplantation bewiesen man kann höhere Intelligenz erzeugen indem man neuronale Strukturen verpflanzt, die einen höheren Vernetzungsgrad haben.
Auch der Mensch ist an Ende nur eine Datenbank - denn die Neuronen und auch die Neurochemie können nur eine begrenzte Zahl von Zuständen annehmen - es sind viele aber es sind endlich viele - weil auch viele chemische Prozesse z.B. Schwellenwerte haben es also oft keine echte Analogsysteme sind. Auch das menschliche Gehirn ist aus extrem dummen Einzelneuronen aufgebaut - die überhaupt gar nichts für sich können ausser Singale rein => Signale raus. mehr ist das nicht allereinfachste für sich komplett dumme und nutzlose Bauteile .... nur halt einfach ausreichend viele davon so dass sich Emergenzeffekte ergeben und einer die Relativitätstheorie entwickelt
Auch das menschliche Gehirn fühlt keine Physik - auch das verabeitet ausschliesslich sensorische Werte - auch für ein menschliches Gehirn ist es 0 Unterschied ob ein Signal von einer realen Hand die aus die heisse Herdplatte berührt hat oder von einer virtuellen - wenn das Signal gleich ist ist das identisch.
Die Frage ist nur ist der Emergenzeffekt bei der AI schleichend oder ein Sprungeffekt - dass er vorhanden ist davon denke kann man nach Stand der Wissenschaft zu 100% ausgehen - weil alle komplexen Systeme (egal ob organisch oder anorganisch) in unserem Universum den haben. 2+2 ist zwar in der theoretischen Mathematik prinzipiell immer und überall 4 aber in der Realität eben auch (und zwar gesichert immer) ab und zu 5.
So wie auch die Menschen zig tausende Jahre geglaubt haben die Sonne dreht sich um die Erde weil man das denen gesagt hat. Und noch viel länger haben die Menschen geglaubt die Zeit sei absolut.
Wo soll denn da ein Unterchied sein?
Sobald AI Zugang zu tatsächlichen Messdaten hat - siehe z.B. AI Newton und ähnliche AI Systeme kann sie genauso die tatsächlichen Naturgesetz entdecken - das ist absolut 0 Unterschied zum Menschen.
Auch das menschliche Gehirn fühlt keine Physik - auch das verabeitet ausschliesslich sensorische Werte - auch für ein menschliches Gehirn ist es 0 Unterschied ob ein Signal von einer realen Hand die aus die heisse Herdplatte berührt hat oder von einer virtuellen - wenn das Signal gleich ist ist das identisch.
Ich sehe aber das der Apfel auf den Boden fällt. Ich fühle schmerzen unterschiedlicher Natur, wenn ich mit unterschiedlichen Materialien geschlagen werde.
Ich kann die härte von Metall gegenüber Holz oder Gummi war nehmen und spüren. Das kann die KI nicht so.
Schon im 18 Jahrhundert konnten sich Autoren vorstellen wie die Zukunft aussehen könnte (scify) das kann eine KI so nicht.
Wir Menschen haben ein "Bewusstsein" das hat die KI noch nicht und die hat auch kein echtes "Bauchgefühl".
Es gibt auch Studien mit MRT die sogar besagen, das unser Gehirn noch vor dem einblenden eines Fotos bereits Erregungen zeigt. Heißt wir haben eine Wahrnehmung die möglicherweise sogar leicht in die Zukunft schauen kann, wir aber noch nicht absolut erklären können wie.
Das was die ganzen AI Unternehmen und Forscher suchen nennt sich AGI Artificial General Intelligence, die Meinungen wann dies erreicht wird gehen weit auseinander. Wenn dies aber erreicht ist, ist der nächste Punkt das Bewusstsein, obwohl viele heute davon aus gehen, dass dies überhaupt nicht notwendig ist, viel wichtiger ist die Wahrnehmung wie du ja ebenso beschrieben hast.
Fakt ist, wenn eine AI jede intellektuelle Aufgabe lösen kann, haben wir Menschen ein Problem, Optimisten sagen in 3 Jahren ist es so weit, Realisten sagen aufgrund des Energiebedarfes erst in ca. 10-15 Jahren und Pessimisten sagen das wird nicht passieren ;-) Wir werden sehen, wer recht behält, ich vermute aber die Pessimisten haben schlechte Karten.
Das was die ganzen AI Unternehmen und Forscher suchen nennt sich AGI Artificial General Intelligence, die Meinungen wann dies erreicht wird gehen weit auseinander. Wenn dies aber erreicht ist, ist der nächste Punkt das Bewusstsein, obwohl viele heute davon aus gehen, dass dies überhaupt nicht notwendig ist, viel wichtiger ist die Wahrnehmung wie du ja ebenso beschrieben hast.
Fakt ist, wenn eine AI jede intellektuelle Aufgabe lösen kann, haben wir Menschen ein Problem, Optimisten sagen in 3 Jahren ist es so weit, Realisten sagen aufgrund des Energiebedarfes erst in ca. 10-15 Jahren und Pessimisten sagen das wird nicht passieren ;-) Wir werden sehen, wer recht behält, ich vermute aber die Pessimisten haben schlechte Karten.
Echt und wie kümmert sich die AI um sich selbst? Wer erzeugt den Strom, wer tauscht die Datenträger etc.?
Das Ding wird niemals, nicht nach dem aktuellen AI Konzept das erreichen. Es bildet kein echtes Bewusstsein.
Die ganzen AI Unternehmen und Forscher suchen nennt sich AGI Artificial General Intelligence
Ja klar, das ist gut fürs Geschäft und die Aktien. Wenn das in 10 Jahren sich als Ente herausstellt hat hoffentlich jeder seinen Sack Gold in Rettung gebracht.
Siehe auch der Heilsbringer Blockchain. Davon hört man auch weniger.
Bis zum heutigen Tag verdient niemand von den AI Firmen Kostendeckend Geld damit. Das ist eine riesige Luftnummer.
Die müssen Luftschlösser verkaufen sonst verlieren sie ihre Existenz.
Die Zukunft wird den dedizierten offline offenen Modellen gehören die Lokal laufen und höchstens mal als RAG laufen werden.
Cloud ist zu Anfällig für Ausfälle und nicht Verfügbarkeit.
Die Netzwerke haben hier ein massives Problem, wenn mal wieder ein Seekabel beschädigt wird und auch RZ sind volatile Ziele.
Die USA fliegen seit Tagen wieder Angriffe auf den Iran, das Land attackiert seine Nachbarn. Angeblich wurden dabei jetzt AWS-Rechenzentren in Bahrain zerstört.
www.heise.de
Als Forschung oder Trainingscamp ist ein RZ gut geeignet, aber nicht als dauerhafte vernetzte Dienstleistung die andere davon vollständig abhängig macht.
Ich sehe aber das der Apfel auf den Boden fällt. Ich fühle schmerzen unterschiedlicher Natur, wenn ich mit unterschiedlichen Materialien geschlagen werde.
Ich kann die härte von Metall gegenüber Holz oder Gummi war nehmen und spüren. Das kann die KI nicht so.
Schon im 18 Jahrhundert konnten sich Autoren vorstellen wie die Zukunft aussehen könnte (scify) das kann eine KI so nicht.
Wir Menschen haben ein "Bewusstsein" das hat die KI noch nicht und die hat auch kein echtes "Bauchgefühl".
Es gibt auch Studien mit MRT die sogar besagen, das unser Gehirn noch vor dem einblenden eines Fotos bereits Erregungen zeigt. Heißt wir haben eine Wahrnehmung die möglicherweise sogar leicht in die Zukunft schauen kann, wir aber noch nicht absolut erklären können wie.
ja aber das was Du siehst und was Du fühlst findet aber allein im Gehirn statt und Dein Gehrin ist auch nur per Datenleitungen angebunden - Biochemisch/Elektrisch - aber das macht keinen Unterschied es sind reine Datenleitungen die Informationen übertragen.
Wenn man Dir genau die gleichen Daten über die Nervenbahnen in Dein Gehirn schickt sieht Du und fühlst Du exakt das gleiche - auch wenn die Signale künstlich erzeugt werden. Es gib nunmal keinen System Unterschiede AI / Mensch im grundsätzlichen Aufbau - es gibt nur quantitative Unterschiede aber keine qualitativen.
Beide haben ein zentrales verarbeitendes System das mittels Datenleitungen an Sensorik angebunden ist - die komplette Verabeitung findet im zentralen System statt, das selbst über keine Sensorik verfügt.
Die größte Gefahr für uns liegt darin diese Illusion zu glauben und unaufhaltsam danach zu streben.
So wie es aussieht bräuchte der Mensch X-mal die Erde um nur annähernd dahin zu kommen, wo er glaubt hingelangen zu können. Wie geblendet kann man nur sein?
Was mich immer wieder aufs neue beängstigt ist die endlose Arroganz des Menschen.
Die größte Gefahr für uns liegt darin diese Illusion zu glauben und unaufhaltsam danach zu streben.
So wie es aussieht bräuchte der Mensch X-mal die Erde um nur annähernd dahin zu kommen, wo er glaubt hingelangen zu können. Wie geblendet kann man nur sein?
Was mich immer wieder aufs neue beängstigt ist die endlose Arroganz des Menschen.
Die Leute müssen sich mal etwas mehr mit KI auseinandersetzen.
So wie es sich aktuell entwickelt sind wir nicht so weit, eher eine Intelligenz aka Assistenz. - Ja so wie in Star Trek oder Star Wars mit Spracheingabe die etwas sucht oder vergleiche Zieht. Berechnungen durchführt oder ähnliches.
Ganz sicher geht die Reise dort hin.
Aber KI wie in Alita Battle Angel oder Data aus Star Trek, da sind wir sehr weit davon entfernt das ist wie reisen zu den Sternen.
Vor allem sehr weit weg von Humanoiden Robotern mit echter Intelligenz.
Eine Grund Eigenschaft die Künstliche Intelligenz verstehen muss ist Empathie. Selbst für manche Menschen die bestimmte "Krankheiten/Gen-Defekte" haben ist Empathie ein Buch mit 7 siegeln, sie sind nicht in der Lage diese zu verstehen..
Empathie ist etwas das uns dazu bewegen ein Tier nicht zu töten auch wenn es potentiell feindselig ist oder jemanden zum eigenen Nachteil zu helfen. Jeder empfindet auch Empathie anders.
Empathie ist eines der Schlüsselelemente das man mit Seele des Menschen beschreiben könnte. Jeder ist anders und jeder agiert und reagiert anders, auch intuitiv. Da sind alle Menschen ungleich.
Leider ist dies für den Normalverbraucher sehr schwierig, denn die News / Werbung vermitteln ein falsches Bild. Siehe diesen Artikel hier. Die super tolle neue AI ist so fix, dass sie auszubrechen droht und unerwartetes vollbringt.
Aber mal um bei der Realität zu bleiben. Dieses Gehype gefährdet die ganze Menschheit indem diese riesigen AI-Rechenzentren so viele Ressourcen verschwenden. Und nicht genug damit, denn selbst unser kapitalistisches System wird durch die wahnsinnigen und fiktiven Inverstments bedroht.
Es werden heute AI-Fabriken mit fiktiven Geld, fiktiver Hardware und fiktiven Usecases für ein fiktives Morgen gebaut.
p.s.
Ich warte auf die Bauanleitung für eine Zeitmaschine. Wieviele token braucht man wohl dafür?
Eine Grund Eigenschaft die Künstliche Intelligenz verstehen muss ist Empathie. Selbst für manche Menschen die bestimmte "Krankheiten/Gen-Defekte" haben ist Empathie ein Buch mit 7 siegeln, sie sind nicht in der Lage diese zu verstehen..
Developed by the Beijing Humanoid Robot Innovation Center in collaboration with Peking University and the Hong Kong University of Science and Technology, the World-Omniscient World Model (WoW) is the world's first self-evolving multimodal world model
news.cgtn.com
Da gibt es keinen grossen Unterschied mehr.
Eben die Evolution von AI Newton und Total Zero Modelle Das ist halt AI Level 2
Developed by the Beijing Humanoid Robot Innovation Center in collaboration with Peking University and the Hong Kong University of Science and Technology, the World-Omniscient World Model (WoW) is the world's first self-evolving multimodal world model
news.cgtn.com
Da gibt es keinen grossen Unterschied mehr.
Eben die Evolution von AI Newton und Total Zero Modelle Das ist halt AI Level 2
Es hat trotzdem keine Seele und wird Empathie nicht verstehen. Kein Unterschied zu LLMs.
Hier hat man nur gesagt der Bot fängt ohne bestimmtes Wissen er muss sich das aneigenen, aber es kein Unterschied zu Chat-KI. Es hat keine richtige self awareness. Weil es der Algorithmus ist der zählt und nicht das Wissen.
Die Chat Kis wurden mit Millionen Katzenbildern trainiert das Konzept Katze zu verstehen um auch in einem manipulierten Bild eine Katze zu identifizieren. Wir Menschen brauchen dafür gerade mal 2-3 Bilder.
Solange die KI mit Kamera nur einige Bilder/videos aufsammeln... bleibt das ding geistig auf Niveau eines unterentwickleten Kleinkind.
die machen das doch nicht nur mit Kameras sondern auch mit allen möglichen Sensoren - wie auch Druck / Tast / sicher auch Temperatur etc etc.
Das mag sein dass AI etwas länger braucht um Katzen als solche zu erkennen - aber sie kann dann auch beim Ansehen und der optischen Analyse von Katzen problemlos Level erreichtn die für den Menschen unerreichbar sind.
Der Mensch ist bei den einfachen "Affenfunktionen" vielleicht schneller aber die komplexeren erreicht er erst gar nicht Und wie lange brauicht eine Highend GW-Center AI um hunderttausende oder Millionen Katzenbilder zu analysieren nach Mustern als Trainingsdaten - 1 Sekunde?
Die KI brauch aber tausende, wenn nicht Millionen Bilder. Wenn du einen Menschen abrichten würdest nicht anderes zu machen würde er ähnliche Resultate erreichen können. Das geht aber nicht das wäre ein NS Experiment, weil sowas gegen die Menschlichkeit wäre.
Wieviel Energie brauch ein Rechenzentrum? Wieviel ein Mensch?... Darum geht's ja auch und trotzdem wird die KI nicht ein Menschliches Bewusstsein erreichen. Das ist es ja worauf es ankommtum zu sagen ein volles synthetisches Lebewesen... Die KI wird keinen Menschen vollständig in irgend einer Art und Weise ersetzen nicht in den nächsten Jahrzehnten.
Die Roboter die es als proof of concept gibt sind mehr Gadgets als echte Hilfe.
Ob ich einen Monitor mit Sprachausgabe da habe die automatisiert Frage und Antworten macht oder das Teil versucht so auszusehen wie Roboter macht nicht den großen Unterschied. Beides unter der Haube das gleiche Produkt gewissermaßen.
Nur wenn man ausserhalb der Naturwissenschaft argumentiert und sagt nein nein der Mensch ist was ganz besonderes das nichts mit Naturgesetzen zu zu tun hat nur dann kann man ausschliessen dasss AI durch Emergenzeffekte den Stand nie erreichen kann - aber das ist halt dann mehr Religion und Glaube.
Im naturwissenschaftlichen Bereich spicht alles dafür - siehe Xeontransplantation - dass das höhere Intelligenz durch höhere Strukturkomplexität entsteht und Bewusstsein etc eben dann Ergebnis einer höheren Intelligenz ist.
Ob man das Level erreicht mit künstlichen Neuronen wer weiss das doch das aktuell spannende.
Dass Roboter heute noch nicht auf dem "Endlevel" sind ist doch nicht entscheidend denn die Zeit bleibt nicht auf heute stehen - die Konzepte dass AI ohne irgendeinen menschlichen EInfluss ihre besser Nachfolge AI entwickelt sind bereits da und in vielen Bereichen bereits in der Übergangsstufe im Einsatz (also Verbesserung noch mit Teilbeteiligung Mensch) - sobald man den Bereich des recursive self-improvement erreicht hat geht die Entwicklung vermutlich superschnell. USA arbeiten von oben das zu erreichen China eher von unten.
Da hat man dann halt Evolution auf - prinzipiell - Super Giga Turbo und es könnte sehr viel kürzer brauchen damit sich aus dem Einzeller der Mensch sentwickelt
Nur wenn man ausserhalb der Naturwissenschaft argumentiert und sagt nein nein der Mensch ist was ganz besonderes das nichts mit Naturgesetzen zu zu tun hat nur dann kann man ausschliessen dasss AI durch Emergenzeffekte den Stand nie erreichen kann - aber das ist halt dann mehr Religion und Glaube.
Im naturwissenschaftlichen Bereich spicht alles dafür - siehe Xeontransplantation - dass das höhere Intelligenz durch höhere Strukturkomplexität entsteht und Bewusstsein etc eben dann Ergebnis einer höheren Intelligenz ist.
Ob man das Level erreicht mit künstlichen Neuronen wer weiss das doch das aktuell spannende.
Dass Roboter heute noch nicht auf dem "Endlevel" sind ist doch nicht entscheidend denn die Zeit bleibt nicht auf heute stehen - die Konzepte dass AI ohne irgendeinen menschlichen EInfluss ihre besser Nachfolge AI entwickelt sind bereits da und in vielen Bereichen bereits in der Übergangsstufe im Einsatz (also Verbesserung noch mit Teilbeteiligung Mensch) - sobald man den Bereich des recursive self-improvement erreicht hat geht die Entwicklung vermutlich superschnell. USA arbeiten von oben das zu erreichen China eher von unten.
Da hat man dann halt Evolution auf - prinzipiell - Super Giga Turbo und es könnte sehr viel kürzer brauchen damit sich aus dem Einzeller der Mensch sentwickelt
Es wird spekuliert es könnte passieren ohne darzulegen wie und weshalb. (Spekulation)
Wenn wir letzteres verstehen würden, bräuchten wir den ganzen misst nicht und wir könnten unsere eigene Intelligenz frisieren. (super mega giga-gaga Human)
Wir haben immer noch keine Evidenz, sondern nur Theorien.
Naturwissenschaft is nicht "Magie" oder "Hexerei", es folgt gewissen Regeln.
Die Magie/Hexerei dahinter ist woher kommen die Regeln oder wie erzeuge/erzwinge ich eine Regel. - Das ist der heilige Gral oder der Quellcode.
Uns fehlt das Wissen welche Regel wir triggern müssen um die Künstliche Intelligenz "Intelligent" zu machen.
Aktuell gibt es in der wissenschaftlichen Gemeinschaft keinen Konsens darüber, dass irgendeine existierende KI tatsächlich Bewusstsein entwickelt hat. Tatsächlich besteht in der Hirnforschung nicht einmal Einigkeit darüber, wie Bewusstsein überhaupt entsteht und wie man zweifelsfrei feststellt, ob ein bestimmtes System, egal ob natürlich oder künstlich, ein Bewusstsein hat.
"Uns interessiert, unter welchen Umständen es passieren kann, dass man einem Roboter, also einem nicht-lebendigen Ding, kognitive Fähigkeiten, menschliche Emotionen und Persönlichkeitseigenschaften zuschreibt, die er so eigentlich gar nicht haben kann."
Ich möchte damit nur sagen, dass wir noch ein paar Jahre weit weg sind.
Nicht das wir es nie hinbekommen werden.
Nur Aktionäre die unter Geldzwang sind oder Pharma's die Geld brauchen erzählen das sie kurz vor dem Durchbruch sind ohne irgendwelche Nachweise.
Aktuell geht viel "Propaganda" umher.
Nein aber ich weiss dass die Aussage AI kann das nie erreichen halt aus Basis aktuellen Standes der Wissenschaft falsch ist bzw nur blindes Raten und halt vieles dafür spricht dass es prinzipiell erreichbar sein kann - sei es die rein siliziumbasierte AI oder die Bio / Silizium AI.
Nun man hat nunmal Naturgesetze von denen wir wissen sie gelten im gesamten Universum sogar egal ob organisch oder anorganische komplexere Systeme wie Emergenz - dass diese auch für AI gelten kann man als gesichert annehmen einfach weil diese Systeme in unserem Universum existieren und hinreichend komplex sind - sogar eigentlich superextrem komplex für Emergenz, das wäre halt einfach absurd unwahrscheinlich dass das eine Ausnahme ist.
Die Frage des Bewusstseins ist in der Wissenschaft aber nur partiell strittig und das ist entscheidend für die Beurteilung hinsichtlich AI - es ist eben nicht in der Frage strittig ob es "mindestens Mensch" sein muss sondern da ist man sich zu 99% einig spätestens als Mensch ist Bewusstsein da - die tatsächlich strittige Frage ist hier nur wie gering sind eventuell die Vorausstzungen für Bewusstsein - das ist also ein Pro AI Argument, denn sie kann evlt Bewusstsein haben - auch wenn sie nicht mega komplex ist.
Wenn z.B. Insekten ein partielles Bewusstsein hätten - was glaube ich schon ernsthaft in Erwägung gezogen wird, ganz tief beim aktuellen Stand bin ich da nicht drin aber schon ein wenig ich schau halt so alle paar Monate mal was hier Stand der universitären Forschung ist - dann wäre die AI vermutlich bereits auf diesem Level <= und nur die "Untergrenze" ist strittig, also wie klein sind die Mindestvoraussetzungen für (partielles) Bewusstsein.
Es wird nicht ernsthaft darüber diskutiert gibt es nur Bewusstsein ab Mensch oder darüber - zumindest wäre mir das nicht bekannt - und das heisst egal was man beim Bewusstsein herausfindet es kann nur "besser" für die AI werden dass sie das auch bei nicht menschlicher Komplexität bereits haben kann.
Nein aber ich weiss dass die Aussage AI kann das nie erreichen halt aus Basis aktuellen Standes der Wissenschaft falsch ist bzw nur blindes Raten und halt vieles dafür spricht dass es prinzipiell erreichbar sein kann - sei es die rein siliziumbasierte AI oder die Bio / Silizium AI.
Die Frage des Bewusstseins ist in der Wissenschaft aber nur partiell strittig und das ist entscheidend für die Beurteilung hinsichtlich AI - es ist eben nicht in der Frage strittig ob es "mindestens Mensch" sein muss sondern da ist man sich zu 99% einig spätestens als Mensch ist Bewusstsein da - die tatsächlich strittige Frage ist hier nur wie gering sind eventuell die Vorausstzungen für Bewusstsein - das ist also ein Pro AI Argument, denn sie kann evlt Bewusstsein haben auch wenn sie nicht mega komplex ist.
Wenn z.B. Insekten ein partielles Beewusstsein hätten dann wäre die AI vermutlich bereits auf diesem Level <= und nur das ist strittig, also wie klein sind die Mindestvoraussetzungen für (partielles) Bewusstsein.
Es wird eben nicht ernsthaft darüber diskutiert gibt es nur Bewusstsein ab Mensch oder darüber - zumindest wäre mir das nicht bekannt.
Ja aber aktuell ist es noch so, wenn du mit einer KI kommunizierst sie zieht ihr "Wissen" aus Lehrbüchern.
Es spiegelt keine eigene Meinung der KI wieder.
Wenn ich sie frage soll ich morgen auf eine Party gehen, bekomme ich gefühlt tausend Gegenfragen damit die Antwort möglichst in irgendwelchen Statistiken konkretisiert werden.
Das ist halt so einer der Punkte. Genauso ob man A oder B machen sollte.
Das ist nach der KI nur Wahrscheinlichkeit und kein "Bauchgefühl".
Eben das fehlt halt noch komplett. Ich sehe auch noch nicht das eine KI existenzielle Ängste hätte.
Das ist aber eben nicht für alle AIs gültig - das worauf Du Dich hier beziehst sind "nur" LLMs - der vielleicht bekannteste Teil der AI Welt aber nicht der Entscheidende wenn man die prinzipiellen Möglichkeiten berurteilen will.
Aktuell gewinnen AZR Modelle - habe ich ja bereits erwähnt - immer mehr an Bedeutung - die kommen KOMPLETT ohne vorgegebenes Wissen aus deshalb Absolute Zero - 0 Trainigsdaten - und trotzdem sind sie in der Lage Zusammenhänge zu erkennen z.b. Naturgestze oder auch anderes aus dem Nichts abzuleiten.
The Absolute Zero Reasoner (AZR) is a recent AI innovation that presents a new methodology for AI models to learn and reason. This method diverges from traditional AI learning approaches by enablin…
tsicilian.wordpress.com
Noch sind diese Modelle hauptsächlich in der Forschung und Entwicklung im Einsatz aber sie funktionieren in immer mehr Bereichen im realen Einsatz- das ist längst kein Theorie Labor Modell mehr - und in immer mehr Fachbereichen übertreffen sie oft bereits trainierte Modelle deutlich. Das menschliche Inputwissen ist da eher ein einschränkender Nachteil.
AZR beweist halt AI ist schon heute mehr als LLM Token Wahrscheinlichkeit. Es gibt auch "partielle" AZR also AI deren Trainingsdaten mit dem Jahr X aufgehört hat um zu sehen kann sie auch menschliche Theorien aus dem Jahr X+Y (Y>=1) entwickeln in der Quantenmechanik und Astrophysik z.B. und das sind schon sehr traditionell "kreative" Bereiche der Naturwissenschaft
Auf jeden Fall ist AI eine superspannende Entwicklung - auch wenn LLMs cool sind sie sind eben nur ein sehr kleiner Teil der AI Welt (also klein technisch gesehen von den Nutzerzahlen sind LLMs natürlich gross)
Das ist aber eben nicht für alle AIs gültig - das worauf Du Dich hier beziehst sind "nur" LLMs - der vielleicht bekannteste Teil der AI Welt aber nicht der Entscheidende wenn man die prinzipiellen Möglichkeiten berurteilen will.
Aktuell gewinnen AZR Modelle - habe ich ja bereits erwähnt - immer mehr an Bedeutung - dies kommen KOMPLETT ohne vorgegebenes Wissen aus deshalb ja Absolute Zero - 0 Trainigsdaten - und trotzdem sind sie in der Lage Zusammenhänge zu erkennen z.b. Naturgestze oder auch anderes aus dem Nichts abzuleiten - wie gesagt 0 Trainigsdaten - gar nichts.
The Absolute Zero Reasoner (AZR) is a recent AI innovation that presents a new methodology for AI models to learn and reason. This method diverges from traditional AI learning approaches by enablin…
tsicilian.wordpress.com
Noch sind diese Modelle hauptsächlich in der Forschung und Entwicklung im Einsatz aber sie funktionieren in immer mehr Bereichen im realen Einsatz- das ist längst kein Theorie Labor Modell mehr das sind Modlele die real im Einsatz sind. Und in immer mehr Fachbereichen übertreffen sie oft bereits trainierte Modelle deutlich.
Absolute Zero is a big deal because it shows AI can totally learn and get better without humans feeding it data. As of limitations, it only works for areas where there is a verifiable solution, like in math, physics or coding, since the AI needs a way to instantly and automatically check its work.
Es funktioniert nur mit nachvollziehbaren Resultaten. Also Aufgaben die Lösbar sind. Heißt es erstmal eingeschränkt.
Ich kenne das schon, auf Youtube gibt es einige Demos mit einer KI die fangen spielen soll oder so. Zum Ende hin Cheatet die KI, weil in dem Programm die Physic einen Bug hat und sie missbraucht den Exploit.
Das wäre aber nach der Logik die art von KI..:
Die auf die Frage den Welthunger lösen, quasi mit Terminatoren antworten würde und Lebewesen "ausrotten" würde. Rein rational natürlich eine logische Lösung.
Was ich damit sagen möchte, hier fehlt das völlig abstrakte Denken. Also einen Schritt weiter zu denken. Das Problem hinter der Lösung zu erkennen.
ja natürlich muss ein Ziel geben werden das auch in gewisser Form definiert sein muss - aber ein urgendwie definiertes Ziel, das erreicht werden soll muss es doch immer geben?
Was soll denn das für eine Aufgabe sein, bei der man das Ergebnis nicht verifizieren kann?
