KI hat ein Akzeptanzproblem: Stanford-Bericht zeigt große Unterschiede in der Bevölkerung
- Ersteller HWL News Bot
- Erstellt am
Ganz genau an den Film muss ich bei so etwas immer als erstes denken. Nur was die Leute immer gerne vergessen: wir müssen auch nicht mehr täglich auf die Jagd gehen um für unser tägliches Essen zu sorgen. Sprich Fortschritt nimmt uns immer Wissen ab, das wir nun nicht mehr brauchen.
Ich denke es wird schon noch Leute geben, die programmieren können, einfach weil sie auch Spaß daran haben, aber auch Experten werden sicherlich noch immer gebraucht werden, weil man sich nicht überall auf KI verlassen und auch noch Code lesen können will. Aber über die Zeit könnte beides auch verschwinden, wenn die Probleme mit KI alle aussortiert sind, was eher die große Frage ist ob das je passiert, weil das größte Problem an KI ist nicht die KI selbst sondern der Mensch, der sie trainiert und nutzt.
Ich denke es wird schon noch Leute geben, die programmieren können, einfach weil sie auch Spaß daran haben, aber auch Experten werden sicherlich noch immer gebraucht werden, weil man sich nicht überall auf KI verlassen und auch noch Code lesen können will. Aber über die Zeit könnte beides auch verschwinden, wenn die Probleme mit KI alle aussortiert sind, was eher die große Frage ist ob das je passiert, weil das größte Problem an KI ist nicht die KI selbst sondern der Mensch, der sie trainiert und nutzt.
Kuzorra
Legende
Naja, ob die KI nicht doch auch selbst ein Problem sein könnte, wird ja in Wall-E auch angerissen - der Autopilot des Raumschiffs mit eigenen Interessen.
Kuzorra
Legende
Ja, stimmt schon - aber wenn am Ende das Ergebnis "die KI stellt jetzt auf einmal ein großes Problem dar!" steht, ist dann ist zu dem Zeitpunk ziemlich egal, aus welchem Grund genau sie ein Problem ist
Liesel Weppen
Urgestein
Dann ist es keine KI sondern ein dummes Programm.
An KI wird von Menschen nur das Funktionsprinzip entwickelt. Funktionieren/lernen/entscheiden tut sie dann autonom.
Im Prinzip genau wie ein Mensch. Der hat sein Gehirn einfach und entscheidet selbst. Man kann ihn nicht programmieren. Man kann ihn maximal beeinflussen, aber das wirkt auch nicht bei jedem gleich. Im Falle einer KI wären so eine "Beeinflussung" dann die Auswahl der Trainingsdaten. Will man nicht das die KI irgendwann auf "dumme" Gedanken kommt, gibt man ihr halt nur positive-belegte Trainingsdaten. Aber selbst dann kann man nicht vorhersagen, wie eine so trainierte KI reagiert, wenn sie dann doch mal mit solchen Sachen konfrontiert wird. Im Endeffekt genau wie bei einem Menschen, der wohlbehütet und isoliert aufgezogen wurde. Vielleicht ist er dadurch zu einem Mimöschen geworden und verweigert alles, was er auch nur ansatzweise für gefährlich hält oder sogar einfach nur nicht kennt. Oder er tappt vollgas rein, weil er nie gelernt hat was überhaupt "gut" und "böse" ist, oder weil er trotzdem neugierig ist und das eben "neu" ist.
Also wenn eine KI irgendwann beschließt, das sie den Planeten vor dem Klimawandel retten "will/muss" und dafür die Menschheit auslöschen muss, dann tut sie das nicht, weil ihr irgendein Mensch das "einprogrammiert" hat, sondern dann hat die KI selbstständig entschieden, das der Planet wichtiger ist als die Menschen und selbst die Schlussfolgerung gezogen, das zum Erreichen dieses Ziels die Menschheit ausgelöscht werden muss.
DAS ist das Problem. Die KI entscheidet selbst und folgt eben nicht nur stumpf einer vorgegebenen Programmierung. Das ist ja sogar der wesentliche Punkt den eine KI überhaupt erst ausmacht.
So einfach ist es eben nicht, die Wall-E KI wurde ja für bestimmte Ziele programmiert und an die hat sie sich auch ziemlich stur und genau gehalten.
Aber der Mensch kann die KI eben auch ganz bewusst in eine Richtung entwickeln. Zum Beispiel die Art von OpenAI ChatGPT zensiert ist auch so etwas, damit die KI bloß nichts generiert worauf sich die Medien stürzen können und OpenAI einen schlechten Ruf einbringt oder gar Klagen gegen sich. Was für Auswirkungen das auf eine AGI hätte, keine Ahnung, kann man nur raten. In vielem reagieren die LLMs ziemlich menschlich, nur nicht unbedingt wie der beste Mensch, eher wie der Durchschnittliche und da gehört eben auch dazu Falschinformationen so zu verkaufen als wären es ganz sicher Fakten. Online Betrüger, Schwurbler etc. gibt es schließlich genug dessen Daten ebenfalls in den Trainingsdaten landen und das LLM übernimmt davon quasi das größere Narrativ wenn vorhanden oder einen Durchschnitt (der Vorteil einer KI ist aber, dass sie vieles simulieren kann bevor sie es umsetzt).
Das passiert halt wenn man eine KI mit Daten von alles andere als perfekten Wesen füttert. Aber oben drauf kommen halt auch noch die Pläne von Menschen, die diese KIs nutzen wollen. Da sieht man ja schon jetzt zur Genüge den Missbrauch und der macht mir trotz allem mehr Sorgen als eine KI selbst. Und es ist halt wie bei Kindern, die man falsch erzieht, tut es dann etwas "böses", haben eben auch die Eltern daran ihren Anteil. Nicht ohne Grund sind viele Erwachsene verkorkst durch ihre Kindheit.
Was die Sache mit dem Klimawandel angeht, wenn die KI wirklich eine echte KI ist, kommt sie eher zu dem Schluss das der Planet nicht vor uns gerettet werden muss, der überlebt uns so oder so.