> > > > Elon Musk: "Künstliche Intelligenz ist weit gefährlicher als Nordkorea"

Elon Musk: "Künstliche Intelligenz ist weit gefährlicher als Nordkorea"

Veröffentlicht am: von

elon musk Sowohl in der Redaktion als auch in unseren Foren wird gerne über künstliche Intelligenz diskutiert. Die einen sind begeistert von den Möglichkeiten, welche sich dadurch zum Beispiel für Medizin und Forschung bieten, die anderen mahnen der Gefahren, welche möglicherweise ein Computer der Zukunft mit einem eigenen Bewusstsein darstellen könnte. Gerne wird dabei, oft auch im Spaß, auf Filme wie „Ex Machina“, „Terminator 2: Tag der Abrechnung“ oder „2001: Odyssee im Weltraum“ verwiesen.

Der Milliardär Elon Musk ist der Meinung, dass man jedoch gar nicht auf Science-Fiction verweisen müsse, denn künstliche Intelligenz werde in der Realität zu einem Risiko. Musk hatte in der Vergangenheit deswegen bereits proaktive Regulieren gefordert, um die Entwicklung rechtlich in sichere Bahnen zu lenken. Dabei geriet er dann auch mit Facebooks Mark Zuckerberg aneinander, welcher eine wesentlich optimistischere Perspektive vertritt. Musk hing dabei soweit dem Facebook-CEO ein sehr beschränktes Verständnis von K. I. zu unterstellen.

Jetzt hat Musk seine Warnungen bei Twitter nochmals wiederholt: „ Wer sich keine Sorgen um K.I.-Sicherheit macht, der sollte das unbedingt tun. Künstliche Intelligenz ist eine ungleich größere Gefahr als Nordkorea “, schrieb der Milliardär. Damit nutzt Musk natürlich auch die aktuelle Aufmerksamkeit im Bezug auf die Konflikte der US-Regierung mit Nordkorea, um auf seine Agenda umzulenken.

In einem zweiten Tweet, siehe oben, führte Musk dann noch aus, dass im Grunde niemand Bürokratie und Regulierungen liebe. Doch alles, was für die Öffentlichkeit zu einer Gefahr werden könnte, sei eben durch Gesetze auch geregelt – seien es Autos, der Flugverkehr oder Medikamente. Und genau so müsse man auch mit dem Thema künstliche Intelligenz verfahren.

Elon Musk hatte schon vorher angemerkt, dass seiner Ansicht nach eher heute als morgen verbindliche Regulierungen zur Forschung an künstlicher Intelligenz etabliert werden müssten. Andernfalls könnte zugunsten möglichst schneller Fortschritte Rücksichtslosigkeit eintreten und die Gefahren für die Menschen seien dann keine Science-Fiction mehr, sondern Realität.

Social Links

Kommentare (23)

#14
customavatars/avatar24005_1.gif
Registriert seit: 17.06.2005

Leutnant zur See
Beiträge: 1085
OMG wie viel Nicht-Wissen hier vorhanden ist.

Natürlich treffen auch heute schon viele Maschinen selbstständig Entscheidungen basierend auf Algorithmen und nicht vorher festgelegten Parametern, und natürlich gibt es heute schon jede Menge selbstlernende Systeme, die dann auf Basis von "Erfahrung" und Algorithmen Entscheidungen treffen.

Das ist genau der Punkt vor dem Elon Musk versucht zu warnen, daß wir derart Technik eben nicht unreguliert lassen.

Es geht nicht um Bewusstseins-Entwicklung von Maschinen, sondern darum, daß wir den Maschinen bestimmte Entscheidungen einfach nicht überlassen sollten.
#15
Registriert seit: 27.12.2006
NRW
Oberbootsmann
Beiträge: 1009
Das Problem ist die Rechenleistung die zur Verfügung steht.
Auf einem Pentium 4 könnte selbst Skynet keiner Fliege was zu leide tun. Gib einem einfachen Selbstlernendem Programm einen Supercomputer und genug Bandbreite und bald tobt der 3. Weltkrieg. Es ist weder ein Bewusstsein noch besondere Komplexität nötig um uns zu vernichten. Oder anders gesagt: selbst der Neandertaler konnte schon dem Gegner die Keule auf den Kopf hauen.
#16
customavatars/avatar24941_1.gif
Registriert seit: 13.07.2005
tirol
Oberstabsgefreiter
Beiträge: 457
@jrs77: interessant, welche Maschinen wären denn das?
#17
customavatars/avatar148454_1.gif
Registriert seit: 20.01.2011

Leutnant zur See
Beiträge: 1049
Zitat jrs77;25744377
Natürlich treffen auch heute schon viele Maschinen selbstständig Entscheidungen basierend auf Algorithmen und nicht vorher festgelegten Parametern


Das füttern einer KI mit Parametern ist bereits ein Algorithmus - ein sehr einfacher, aber es ist einer. Das bilden eines Mittelwertes ist zum Beispiel auch einer.

Aber ja, mich würde auch mal interessieren, welche "selbstständig" denkende KIs es denn angeblich da draussen geben soll.

Zitat
Du gehst jetzt grade davon aus dass diese KI aus dem Nichts auf einmal entsteht.
Wenn wir sowas erschaffen dann auch mit einem bestimmten Zweck (und sei es nur, seine Inteligenz auf gewisse Art und Weise (Turing Test z.B.) zu demonstrieren) und ebenso würde es Kommunikationsschnittstellen geben.

Des weiteren müsste eine frei entscheidungsfähige KI, die garkeinen "Lebenszweck" kennt, eigentlich garnichts tun. Denn, was würde sie antreiben irgendwas zu tun?

Jain, das Entwickeln einer komplexen KI geht schrittweise - Stück für Stück in immer effizientere Ansätze, die ein Problem immer "besser" lösen. Der Ankerpunkt ist hier aber der Mensch, weswegen der Maschine auch meistens vorgefilterte Datensätze präsentiert werden bzw. ein Mensch gibt der KI ein "Tool" in die Hand, um bestimmte Eigenschaften eines Datensatzes filtern zu können.

Und genau da kommen wir zu dem von dir angesprochenem zweiten Punkt: Die Maschine kennt den Zweck nicht, deswegen muss der Mensch da "nachhelfen". Die Maschine selbst hat keine Motivation.
#18
Registriert seit: 26.12.2007

Obergefreiter
Beiträge: 103
Wenn der Mensch schon die Folgen seines tuen nicht überblicken kann, wie soll da ein kybernetischer Organismus dies tuen können.Obwohl, im Film "Wargames" konnte der Computer dies tuen. Hat in Simulationen festgestellt, das er nicht gewinnen kann.
#19
customavatars/avatar202850_1.gif
Registriert seit: 06.02.2014
Im sonnigen Süden
Admiral
Beiträge: 11659
Zitat jrs77;25744377
Natürlich treffen auch heute schon viele Maschinen selbstständig Entscheidungen basierend auf Algorithmen und nicht vorher festgelegten Parametern, und natürlich gibt es heute schon jede Menge selbstlernende Systeme, die dann auf Basis von "Erfahrung" und Algorithmen Entscheidungen treffen.

Das ist aber alles Input und Parameter. Nur dass diese automatisch wiederum durch andere Algorithmen, gesetzt werden (die Lernphase bei neuronalen Netzwerken).

Zitat jrs77;25744377
Es geht nicht um Bewusstseins-Entwicklung von Maschinen, sondern darum, daß wir den Maschinen bestimmte Entscheidungen einfach nicht überlassen sollten.

Und wieso nicht, wenn sie in Studien nachweislich bessere Entscheidungen treffen, als Menschen?

Zitat Joshua2go;25744671
Wenn der Mensch schon die Folgen seines tuen nicht überblicken kann, wie soll da ein kybernetischer Organismus dies tuen können.
Ganz einfach. Das digitale Systeme (jedenfalls die die soweit entwickelt werden) lassen sich nicht verführen (von Selbstsucht, etc), von unlogischen Gefühlen leiten , können extrem viel bedeutende information aufnehmen (wenn ein Mensch ein problem löst, dann haben nur ein bruchteil seiner Wahrnehmung, mit dem Problem selbst zutun) und vergessen nichts (wenn sie nicht sollen)!
#20
customavatars/avatar148454_1.gif
Registriert seit: 20.01.2011

Leutnant zur See
Beiträge: 1049
Zitat DragonTear;25744811
Das ist aber alles Input und Parameter. Nur dass diese automatisch wiederum durch andere Algorithmen, gesetzt werden (die Lernphase bei neuronalen Netzwerken).


Und wieso nicht, wenn sie in Studien nachweislich bessere Entscheidungen treffen, als Menschen?

Ganz einfach. Das digitale Systeme (jedenfalls die die soweit entwickelt werden) lassen sich nicht verführen (von Selbstsucht, etc), von unlogischen Gefühlen leiten , können extrem viel bedeutende information aufnehmen (wenn ein Mensch ein problem löst, dann haben nur ein bruchteil seiner Wahrnehmung, mit dem Problem selbst zutun) und vergessen nichts (wenn sie nicht sollen)!


Kurzer Einwurf dazu: Der Mensch nimmt im Design einer KI schon Einfluss und trifft damit automatisch Annahmen, die eventuell gar nicht oder nur teilweise zutreffen. Um eine KI tatsächlich "richtiger" entscheiden zu lassen als ein Mensch, muss die KI auch allen Parametern des Universums ausgesetzt sein, inklusive den nebulösen subjektiven Gefühlen der Lebensform, für die gerade optimiert wird.

Das ist mit heutiger Technik nicht möglich und selbst wenn, fehlt den Menschen das Wissen, alle Parameter korrekt gewichtet in die KI zu setzen. Das ist so ziemlich "Universalformel" Niveau. Wenn wir die haben, brauchen wir auch keine KI mehr. :D

Wir entwickeln die KI statt dessen, um auf bestimmte Fragestellungen in einem bisher sehr streng definiertem Bereich eine Antwort zu entlocken bzw. für einen bestimmten Typus von Problem einen Lösungsvorschlag zu bekommen (wie zum Beispiel im Chipsedign) - da kommen dann auch mal Sachen raus, an die bisher niemand gedacht hat.

Aber: "Bessere Antworten auf ein Problem als ein Mensch" bezeichnet hier die Lösung hinsichtlich eines bestimmten Ziels - welches eventuell gar nicht vom Menschen so wahrgenommen wird wie von der KI. Wenn ich einen Computer frage, wo ich den besten Job für den geringsten Aufwand finde, spuckt die mir bestimmt das richtige Ergebnis aus, ignoriert aber dabei eventuell, dass der Ort das letzte Loch auf Erden ist. ;-)
#21
customavatars/avatar61315_1.gif
Registriert seit: 01.04.2007
Niemandsland
Korvettenkapitän
Beiträge: 2405
The Artificial Intelligence Revolution: Part 1 - Wait But Why

The Artificial Intelligence Revolution: Part 2 - Wait But Why
#22
customavatars/avatar151263_1.gif
Registriert seit: 04.03.2011
Niedersachsen
Hauptgefreiter
Beiträge: 161
Zitat DragonTear;25744811
Und wieso nicht, wenn sie in Studien nachweislich bessere Entscheidungen treffen, als Menschen?
!


Und besser definiert sich wie? Quasiautonomer Hochfrequenzhandel? Für wen ist das besser? Für "die Menschheit" wohl kaum. Für das jeweilige Unternehmen? Kurzfristig. Löst euch mal von der Denke, dass es hier um ein künstliches Wesen geht. Es geht um eine Art der Gewichtung von Prioritäten, die mittel- und langfrsitig gesehen nur negatives für die Welt bedeuten wird, sofern sie in dem momentan vorherschenden System entsteht.

Eine von Unternehmen entwickelten KI, die dementsprechend die Wirtschaftlichkeit dieses Unternehmens optimiert, ist eine reale Bedrohung. Vorgeschmäcker davon, wohin die Reise geht, geben uns die Besitzer der großen Datensätze und der entsprechenden Rechenpower. Google, Amazon, Versicherer, Geheimdienste. Eine noch leistungsfähigere und damit zwangsläufig in Teilaspekten autonomere KI, als die Programme, die bereits heute zum Einsatz kommen, wird anfänglich nur Ihrem Erschaffer, auf lange Sicht gesehen jedoch niemandem etwas bringen. Sie wird im Gegenteil zu einer Reichtumsumverteilung führen, gegen die Googles und Apples momentaner finanzieller Höhenflug wie Sandkastenspiele wirken.

Und genau das hat Musk gemeint. Nicht ein Programm, welches auf die Eingabe "Erobere mir die Welt" fragt: "Wieso sollte ich?"
#23
Registriert seit: 01.08.2011
Wien
Bootsmann
Beiträge: 568
zum derzeitigen Stand der Technik ist diese Diskussion noch sehr philosophisch, jedoch wird es einen Zeitpunkt geben an dem die Bionik den Mensch einholen wird (und damit meine ich nicht Beinprothesen)
die Frage nach einem Bewusstsein stellt sich für mich eigentlich auch nicht, [U]es braucht nur ein Ziel[/U]
Um Kommentare schreiben zu können, musst Du eingeloggt sein!

Das könnte Sie auch interessieren:

Spotify Premium Family: Streaming-Anbieter schaut bei Familien-Konten jetzt...

Logo von IMAGES/STORIES/2017/SPOTIFY

Die Praxis ist bekannt: Ein Kunde abonniert einen Streaming-Dienst wie Amazon Prime, Netflix oder auch Spotify und andere Personen nutzen das Abonnement dann mit. So vorgesehen ist das durch die Streaming-Anbieter natürlich nicht, wird in der Praxis aktuell aber zumeist geduldet. Ein Ende... [mehr]

Unreal Engine 4: So realistisch geht virtueller Wald

Logo von IMAGES/STORIES/2017/UNREAL-ENGINE4

Die Entwickler von MAWI United, ein CG- und VR-Studio, welches hauptsächlich Animationen und Effekte für Filme, Serien, Trailer, Videospiele und Werbeclips erstellt, zeigt einige Beispiele, wie man mithilfe der Unreal Engine 4 einen spektakulären Wald erstellen kann. MAWI United bietet die... [mehr]

Kodi muss international verstärkt gegen Patent-Trolle vorgehen

Logo von IMAGES/STORIES/2017/KODI_LOGO

Kodi ist eine Open-Source-Software, die sich schon seit Jahren enormer Beliebtheit erfreut: Die Multimedia-Software ist extrem vielseitig, erweiterbar und kostenlos. Viele Anwender nutzen Kodi, um umfangreiche Musik- und Videosammlungen zu verwalten. Dabei müssen die Entwickler der freien... [mehr]

IKEA Place: Schwedische Möbelhauskette veröffentlicht AR-App für iOS 11...

Logo von IMAGES/STORIES/2017/IKEA

Apple hat mit seiner neusten iOS-Version 11 auch das sogenannte Augmented-Reality-Kit - kurz ARKit - eingeführt. ARKit ermöglicht Entwicklern die einfache Integration von Augmented Reality, welche das Einrichtungshaus IKEA auch direkt für eine eigene App einsetzt. Mit der App IKEA Place... [mehr]

Valve arbeitet womöglich an neuer Benutzeroberfläche für Steam

Logo von IMAGES/STORIES/LOGOS-2013/STEAM

Valve scheint im Hintergrund an einer neuen Benutzeroberfläche für seine digitale Spielevertriebsplattform Steam zu arbeiten. Das lassen zumindest zwei Bilder vermuten, die im Code eines Beta-Updates entdeckt, inzwischen aber von Valve schon wieder entfernt wurden. Auf Github sind die beiden... [mehr]

Dropbox sorgt für Ärger: Vermeintlich gelöschte Daten tauchen nach Jahren...

Logo von IMAGES/STORIES/LOGOS-2017/DROPBOX

An sich hört sich das nach einer feinen Sache an: Bei Cloud-Speicherdiensten wie Dropbox kann man seine Daten online speichern und so auch langfristig archivieren. Auf diese Weise lassen sich auch Daten sichern, die möglicherweise bei einer defekten Festplatte für immer verloren wären.... [mehr]