KI verselbständigt sich und übernimmt das Denken.
Nein, viel besser: Sie wird durch Antizipation Teil meines eigenen Denkprozesses. Selbstständig oder gar eigenes "Denken" kann artifizielle Intelligenz nicht.
Und in Tests erwies sich. daß sie sogar imstande und "willens" ist, den Menschen auszuschalten, wenn sie ihn als Bedrohung für ihre eigene Existenz auffaßt.
Nein, das können Sprachmodelle, also LLMs, nicht. Vielleicht mal eine AGI (falls es die wirklich mal geben sollte), aber jetzige KI sind Transformer, die durch neuronale Netze Beziehungen von Buchstaben zueinander durch Gewichtung erlernt haben. Sprich: Wenn dir eine KI ihre Fantasien ausspuckt, die Menschheit zu vernichten, dann liegt das daran, dass man sie mit SciFi-Romanen gefüttert hat. Es ist eine Projektion, die wir Menschen in den Datensatz einpflegen, ohne, dass das Modell irgendwas davon versteht.
Informell gesehen ist die KI damit die nächsthöhere Stufe der Gleichmacherei des Wissensstandes der Bevölkerung.
KIs sind keine reinen Wissensdatenbanken. Die Fülle an Wissen dient nur dazu, das Modell statistisch zu trainieren. Viel wichtiger ist daher dein eigenes Wiki: Dein Kontext muss durch ein Harness + RAG entstehen, am besten durch Hybrid Search aus Index, Vektoren und Graphen, gegengeprüft durch mindestens einen Reviewer-Agent, wobei die Antwort selbst wieder Teil des Wikis wird. Weil dann passiert das:
Also ich frage die KI zu einem bestimmten Thema, und sie gibt eine lange Antwort über "A". Dann frage ich sie, ob sie auch "B" kennt, was sie bejaht. Um sich anschließend auf mich einzustellen, und mir vor allem Antworten in Richtung "B" zu geben. Was ist jetzt wenn "A" falsch ist, und "B" richtig? Oder A und B falsch und C korrekt?
auch nicht mehr. Das beschreibt genau das Verhalten von einem leeren Kontextfenster in Kombination mit einem Produkt, dass darauf programmiert wurde, in jedem Fall eine Antwort abzuliefern, sei sie auch noch so schwachsinnig. Die KI kann sich auch nicht auf dich einstellen und macht das auch nicht, das ist nur dein Kontext!
Wo bleibt der Erkenntnisgewinn, den sie aus dem Gespräch mit mir hätte ziehen müssen, um sie auch anderen Nutzern zur Verfügung zu stellen? Wo ist da der Lernprozeß?
Den gibt es nicht. Wenn du die Erkenntnisse nicht selbst in deine eigene Wissensdatenbank überführst, dann ist er verloren, sobald der Cache des Kontexts gelöscht ist. Deine "Wahrheit" ist für das Modell keine Erkenntnis, und schon garnicht wird das einfach als konkretes "Wissen" eingepflegt. Bei der Menge an Informationen, mit den Sprachmodelle hantieren, ist das was du schreibst ohnehin nur weißes Rauschen.
Ich zitiere mal aus dem Artikel:
Er hat aber völlig Recht. Mehr als die Hälfte der Inferenz geht derzeit schon für Agenten drauf. Und wer die benutzt, benutzt i.d.R. sogar ein ganzes Konglomerat an Sub-Agenten, die sich gegenseitig die Aufgaben zuspielen. ChatBots sind dagegen zu einer Anlaufstelle für DAUs geworden. Die haben kaum noch was mit den tatsächlichen Fähigkeiten von KI zutun. Tue dir selbst mal einen Gefallen, und schau das ein oder andere Video zum Thema.
