> > > > Elon Musk: "Künstliche Intelligenz ist weit gefährlicher als Nordkorea"

Elon Musk: "Künstliche Intelligenz ist weit gefährlicher als Nordkorea"

Veröffentlicht am: von

elon musk Sowohl in der Redaktion als auch in unseren Foren wird gerne über künstliche Intelligenz diskutiert. Die einen sind begeistert von den Möglichkeiten, welche sich dadurch zum Beispiel für Medizin und Forschung bieten, die anderen mahnen der Gefahren, welche möglicherweise ein Computer der Zukunft mit einem eigenen Bewusstsein darstellen könnte. Gerne wird dabei, oft auch im Spaß, auf Filme wie „Ex Machina“, „Terminator 2: Tag der Abrechnung“ oder „2001: Odyssee im Weltraum“ verwiesen.

Der Milliardär Elon Musk ist der Meinung, dass man jedoch gar nicht auf Science-Fiction verweisen müsse, denn künstliche Intelligenz werde in der Realität zu einem Risiko. Musk hatte in der Vergangenheit deswegen bereits proaktive Regulieren gefordert, um die Entwicklung rechtlich in sichere Bahnen zu lenken. Dabei geriet er dann auch mit Facebooks Mark Zuckerberg aneinander, welcher eine wesentlich optimistischere Perspektive vertritt. Musk hing dabei soweit dem Facebook-CEO ein sehr beschränktes Verständnis von K. I. zu unterstellen.

Jetzt hat Musk seine Warnungen bei Twitter nochmals wiederholt: „ Wer sich keine Sorgen um K.I.-Sicherheit macht, der sollte das unbedingt tun. Künstliche Intelligenz ist eine ungleich größere Gefahr als Nordkorea “, schrieb der Milliardär. Damit nutzt Musk natürlich auch die aktuelle Aufmerksamkeit im Bezug auf die Konflikte der US-Regierung mit Nordkorea, um auf seine Agenda umzulenken.

In einem zweiten Tweet, siehe oben, führte Musk dann noch aus, dass im Grunde niemand Bürokratie und Regulierungen liebe. Doch alles, was für die Öffentlichkeit zu einer Gefahr werden könnte, sei eben durch Gesetze auch geregelt – seien es Autos, der Flugverkehr oder Medikamente. Und genau so müsse man auch mit dem Thema künstliche Intelligenz verfahren.

Elon Musk hatte schon vorher angemerkt, dass seiner Ansicht nach eher heute als morgen verbindliche Regulierungen zur Forschung an künstlicher Intelligenz etabliert werden müssten. Andernfalls könnte zugunsten möglichst schneller Fortschritte Rücksichtslosigkeit eintreten und die Gefahren für die Menschen seien dann keine Science-Fiction mehr, sondern Realität.

Social Links

Kommentare (23)

#14
customavatars/avatar24005_1.gif
Registriert seit: 17.06.2005

Oberleutnant zur See
Beiträge: 1380
OMG wie viel Nicht-Wissen hier vorhanden ist.

Natürlich treffen auch heute schon viele Maschinen selbstständig Entscheidungen basierend auf Algorithmen und nicht vorher festgelegten Parametern, und natürlich gibt es heute schon jede Menge selbstlernende Systeme, die dann auf Basis von "Erfahrung" und Algorithmen Entscheidungen treffen.

Das ist genau der Punkt vor dem Elon Musk versucht zu warnen, daß wir derart Technik eben nicht unreguliert lassen.

Es geht nicht um Bewusstseins-Entwicklung von Maschinen, sondern darum, daß wir den Maschinen bestimmte Entscheidungen einfach nicht überlassen sollten.
#15
Registriert seit: 27.12.2006
NRW
Oberleutnant zur See
Beiträge: 1353
Das Problem ist die Rechenleistung die zur Verfügung steht.
Auf einem Pentium 4 könnte selbst Skynet keiner Fliege was zu leide tun. Gib einem einfachen Selbstlernendem Programm einen Supercomputer und genug Bandbreite und bald tobt der 3. Weltkrieg. Es ist weder ein Bewusstsein noch besondere Komplexität nötig um uns zu vernichten. Oder anders gesagt: selbst der Neandertaler konnte schon dem Gegner die Keule auf den Kopf hauen.
#16
customavatars/avatar24941_1.gif
Registriert seit: 13.07.2005
tirol
Oberstabsgefreiter
Beiträge: 458
@jrs77: interessant, welche Maschinen wären denn das?
#17
customavatars/avatar148454_1.gif
Registriert seit: 20.01.2011

Leutnant zur See
Beiträge: 1115
Zitat jrs77;25744377
Natürlich treffen auch heute schon viele Maschinen selbstständig Entscheidungen basierend auf Algorithmen und nicht vorher festgelegten Parametern


Das füttern einer KI mit Parametern ist bereits ein Algorithmus - ein sehr einfacher, aber es ist einer. Das bilden eines Mittelwertes ist zum Beispiel auch einer.

Aber ja, mich würde auch mal interessieren, welche "selbstständig" denkende KIs es denn angeblich da draussen geben soll.

Zitat
Du gehst jetzt grade davon aus dass diese KI aus dem Nichts auf einmal entsteht.
Wenn wir sowas erschaffen dann auch mit einem bestimmten Zweck (und sei es nur, seine Inteligenz auf gewisse Art und Weise (Turing Test z.B.) zu demonstrieren) und ebenso würde es Kommunikationsschnittstellen geben.

Des weiteren müsste eine frei entscheidungsfähige KI, die garkeinen "Lebenszweck" kennt, eigentlich garnichts tun. Denn, was würde sie antreiben irgendwas zu tun?

Jain, das Entwickeln einer komplexen KI geht schrittweise - Stück für Stück in immer effizientere Ansätze, die ein Problem immer "besser" lösen. Der Ankerpunkt ist hier aber der Mensch, weswegen der Maschine auch meistens vorgefilterte Datensätze präsentiert werden bzw. ein Mensch gibt der KI ein "Tool" in die Hand, um bestimmte Eigenschaften eines Datensatzes filtern zu können.

Und genau da kommen wir zu dem von dir angesprochenem zweiten Punkt: Die Maschine kennt den Zweck nicht, deswegen muss der Mensch da "nachhelfen". Die Maschine selbst hat keine Motivation.
#18
Registriert seit: 26.12.2007

Obergefreiter
Beiträge: 125
Wenn der Mensch schon die Folgen seines tuen nicht überblicken kann, wie soll da ein kybernetischer Organismus dies tuen können.Obwohl, im Film "Wargames" konnte der Computer dies tuen. Hat in Simulationen festgestellt, das er nicht gewinnen kann.
#19
customavatars/avatar202850_1.gif
Registriert seit: 06.02.2014
Im sonnigen Süden
Admiral
Beiträge: 12473
Zitat jrs77;25744377
Natürlich treffen auch heute schon viele Maschinen selbstständig Entscheidungen basierend auf Algorithmen und nicht vorher festgelegten Parametern, und natürlich gibt es heute schon jede Menge selbstlernende Systeme, die dann auf Basis von "Erfahrung" und Algorithmen Entscheidungen treffen.

Das ist aber alles Input und Parameter. Nur dass diese automatisch wiederum durch andere Algorithmen, gesetzt werden (die Lernphase bei neuronalen Netzwerken).

Zitat jrs77;25744377
Es geht nicht um Bewusstseins-Entwicklung von Maschinen, sondern darum, daß wir den Maschinen bestimmte Entscheidungen einfach nicht überlassen sollten.

Und wieso nicht, wenn sie in Studien nachweislich bessere Entscheidungen treffen, als Menschen?

Zitat Joshua2go;25744671
Wenn der Mensch schon die Folgen seines tuen nicht überblicken kann, wie soll da ein kybernetischer Organismus dies tuen können.
Ganz einfach. Das digitale Systeme (jedenfalls die die soweit entwickelt werden) lassen sich nicht verführen (von Selbstsucht, etc), von unlogischen Gefühlen leiten , können extrem viel bedeutende information aufnehmen (wenn ein Mensch ein problem löst, dann haben nur ein bruchteil seiner Wahrnehmung, mit dem Problem selbst zutun) und vergessen nichts (wenn sie nicht sollen)!
#20
customavatars/avatar148454_1.gif
Registriert seit: 20.01.2011

Leutnant zur See
Beiträge: 1115
Zitat DragonTear;25744811
Das ist aber alles Input und Parameter. Nur dass diese automatisch wiederum durch andere Algorithmen, gesetzt werden (die Lernphase bei neuronalen Netzwerken).


Und wieso nicht, wenn sie in Studien nachweislich bessere Entscheidungen treffen, als Menschen?

Ganz einfach. Das digitale Systeme (jedenfalls die die soweit entwickelt werden) lassen sich nicht verführen (von Selbstsucht, etc), von unlogischen Gefühlen leiten , können extrem viel bedeutende information aufnehmen (wenn ein Mensch ein problem löst, dann haben nur ein bruchteil seiner Wahrnehmung, mit dem Problem selbst zutun) und vergessen nichts (wenn sie nicht sollen)!


Kurzer Einwurf dazu: Der Mensch nimmt im Design einer KI schon Einfluss und trifft damit automatisch Annahmen, die eventuell gar nicht oder nur teilweise zutreffen. Um eine KI tatsächlich "richtiger" entscheiden zu lassen als ein Mensch, muss die KI auch allen Parametern des Universums ausgesetzt sein, inklusive den nebulösen subjektiven Gefühlen der Lebensform, für die gerade optimiert wird.

Das ist mit heutiger Technik nicht möglich und selbst wenn, fehlt den Menschen das Wissen, alle Parameter korrekt gewichtet in die KI zu setzen. Das ist so ziemlich "Universalformel" Niveau. Wenn wir die haben, brauchen wir auch keine KI mehr. :D

Wir entwickeln die KI statt dessen, um auf bestimmte Fragestellungen in einem bisher sehr streng definiertem Bereich eine Antwort zu entlocken bzw. für einen bestimmten Typus von Problem einen Lösungsvorschlag zu bekommen (wie zum Beispiel im Chipsedign) - da kommen dann auch mal Sachen raus, an die bisher niemand gedacht hat.

Aber: "Bessere Antworten auf ein Problem als ein Mensch" bezeichnet hier die Lösung hinsichtlich eines bestimmten Ziels - welches eventuell gar nicht vom Menschen so wahrgenommen wird wie von der KI. Wenn ich einen Computer frage, wo ich den besten Job für den geringsten Aufwand finde, spuckt die mir bestimmt das richtige Ergebnis aus, ignoriert aber dabei eventuell, dass der Ort das letzte Loch auf Erden ist. ;-)
#21
customavatars/avatar61315_1.gif
Registriert seit: 01.04.2007
Niemandsland
Korvettenkapitän
Beiträge: 2430
The Artificial Intelligence Revolution: Part 1 - Wait But Why

The Artificial Intelligence Revolution: Part 2 - Wait But Why
#22
customavatars/avatar151263_1.gif
Registriert seit: 04.03.2011
Niedersachsen
Hauptgefreiter
Beiträge: 166
Zitat DragonTear;25744811
Und wieso nicht, wenn sie in Studien nachweislich bessere Entscheidungen treffen, als Menschen?
!


Und besser definiert sich wie? Quasiautonomer Hochfrequenzhandel? Für wen ist das besser? Für "die Menschheit" wohl kaum. Für das jeweilige Unternehmen? Kurzfristig. Löst euch mal von der Denke, dass es hier um ein künstliches Wesen geht. Es geht um eine Art der Gewichtung von Prioritäten, die mittel- und langfrsitig gesehen nur negatives für die Welt bedeuten wird, sofern sie in dem momentan vorherschenden System entsteht.

Eine von Unternehmen entwickelten KI, die dementsprechend die Wirtschaftlichkeit dieses Unternehmens optimiert, ist eine reale Bedrohung. Vorgeschmäcker davon, wohin die Reise geht, geben uns die Besitzer der großen Datensätze und der entsprechenden Rechenpower. Google, Amazon, Versicherer, Geheimdienste. Eine noch leistungsfähigere und damit zwangsläufig in Teilaspekten autonomere KI, als die Programme, die bereits heute zum Einsatz kommen, wird anfänglich nur Ihrem Erschaffer, auf lange Sicht gesehen jedoch niemandem etwas bringen. Sie wird im Gegenteil zu einer Reichtumsumverteilung führen, gegen die Googles und Apples momentaner finanzieller Höhenflug wie Sandkastenspiele wirken.

Und genau das hat Musk gemeint. Nicht ein Programm, welches auf die Eingabe "Erobere mir die Welt" fragt: "Wieso sollte ich?"
#23
Registriert seit: 01.08.2011
Wien
Bootsmann
Beiträge: 628
zum derzeitigen Stand der Technik ist diese Diskussion noch sehr philosophisch, jedoch wird es einen Zeitpunkt geben an dem die Bionik den Mensch einholen wird (und damit meine ich nicht Beinprothesen)
die Frage nach einem Bewusstsein stellt sich für mich eigentlich auch nicht, [U]es braucht nur ein Ziel[/U]
Um Kommentare schreiben zu können, musst Du eingeloggt sein!

Das könnte Sie auch interessieren:

  • Netflix: Neues Ultra-Abo für 19,99 Euro im Monat (Update)

    Logo von IMAGES/STORIES/2017/NETFLIX_100

    Kunden des Videostreaming-Dienstes Netflix können künftig wohl aus vier verschiedenen Abo-Modellen auswählen. Bislang standen mit „Basis“, „Standard“ und „Premium“ lediglich drei verschiedene Pakete zur Auswahl. Das neue „Ultra“-Paket wird vermutlich 19,99 Euro im Monat kosten... [mehr]

  • Stabilitätstest: CPU-ID PowerMax lastet CPU und GPU vollständig aus

    Logo von IMAGES/STORIES/2017/CPUID

    Die Macher von CPU-Z, einer Software zur Anzeige aller wichtigen Informationen des Prozessors, haben ein Tool vorgestellt, welches dem Testen der Stabilität dienen soll. PowerMax wird für Windows in einer 32- und 64-Bit-Version angeboten und soll GPU und CPU gleichzeitig vollständig auslasten... [mehr]

  • Fragmentierung: Steam verliert zunehmend große Blockbuster-Titel

    Logo von IMAGES/STORIES/2017/STEAM

    Lange Zeit war Steam die digitale Vertriebsplattform für PC-Spiele schlechthin, in der man als Kunde einen Großteil seiner gekauften Spieletitel zentral in einer einzigen Bibliothek aufbewahren und zu jeder Zeit erneut herunterladen konnte. Doch die Plattform kränkelt und scheint ihre einstige... [mehr]

  • Unity 2018 skaliert von Low-End bis fotorealistisch

    Logo von IMAGES/STORIES/2017/UNITY

    Unity hat in der aktuellen Version der gleichnamigen Programmierplattform, der 2018.1 Public Beta, zahlreiche neue Funktionen eingeführt, welche in Unity programmierte Projekte auf der einen Seite leicht skalierbar und damit auch auf schwächeren Systemen und Plattformen lauffähig machen,... [mehr]

  • Office 2019: Windows 10 wird vorausgesetzt

    Logo von IMAGES/STORIES/2017/MICROSOFT_2

    Microsoft hält sich mit Informationen rund um Office 2019 weiterhin sehr zurück. Jedoch gab der Softwareriese nun bekannt, dass für die Nutzung des kommenden Office-Pakets zwingend das hauseigene Betriebssystem Windows 10 vorausgesetzt wird. Somit werden Nutzer von Windows 8.1 und älter... [mehr]

  • Client-Update: Steam überarbeitet den Chat

    Logo von IMAGES/STORIES/2017/STEAM

    Nach der großen VAC-Bannwelle in der vergangenen Woche hat Valve ein neues Client-Update für Steam veröffentlicht, das umfangreiche Änderungen am Chat-System der Plattform vornimmt. Im Rahmen eines Open-Beta-Programms hatte Valve die neuen Funktionen seit dem 12. Juni ausführlich getestet, ab... [mehr]