> > > > Elon Musk: "Künstliche Intelligenz ist weit gefährlicher als Nordkorea"

Elon Musk: "Künstliche Intelligenz ist weit gefährlicher als Nordkorea"

Veröffentlicht am: von

elon musk Sowohl in der Redaktion als auch in unseren Foren wird gerne über künstliche Intelligenz diskutiert. Die einen sind begeistert von den Möglichkeiten, welche sich dadurch zum Beispiel für Medizin und Forschung bieten, die anderen mahnen der Gefahren, welche möglicherweise ein Computer der Zukunft mit einem eigenen Bewusstsein darstellen könnte. Gerne wird dabei, oft auch im Spaß, auf Filme wie „Ex Machina“, „Terminator 2: Tag der Abrechnung“ oder „2001: Odyssee im Weltraum“ verwiesen.

Der Milliardär Elon Musk ist der Meinung, dass man jedoch gar nicht auf Science-Fiction verweisen müsse, denn künstliche Intelligenz werde in der Realität zu einem Risiko. Musk hatte in der Vergangenheit deswegen bereits proaktive Regulieren gefordert, um die Entwicklung rechtlich in sichere Bahnen zu lenken. Dabei geriet er dann auch mit Facebooks Mark Zuckerberg aneinander, welcher eine wesentlich optimistischere Perspektive vertritt. Musk hing dabei soweit dem Facebook-CEO ein sehr beschränktes Verständnis von K. I. zu unterstellen.

Jetzt hat Musk seine Warnungen bei Twitter nochmals wiederholt: „ Wer sich keine Sorgen um K.I.-Sicherheit macht, der sollte das unbedingt tun. Künstliche Intelligenz ist eine ungleich größere Gefahr als Nordkorea “, schrieb der Milliardär. Damit nutzt Musk natürlich auch die aktuelle Aufmerksamkeit im Bezug auf die Konflikte der US-Regierung mit Nordkorea, um auf seine Agenda umzulenken.

In einem zweiten Tweet, siehe oben, führte Musk dann noch aus, dass im Grunde niemand Bürokratie und Regulierungen liebe. Doch alles, was für die Öffentlichkeit zu einer Gefahr werden könnte, sei eben durch Gesetze auch geregelt – seien es Autos, der Flugverkehr oder Medikamente. Und genau so müsse man auch mit dem Thema künstliche Intelligenz verfahren.

Elon Musk hatte schon vorher angemerkt, dass seiner Ansicht nach eher heute als morgen verbindliche Regulierungen zur Forschung an künstlicher Intelligenz etabliert werden müssten. Andernfalls könnte zugunsten möglichst schneller Fortschritte Rücksichtslosigkeit eintreten und die Gefahren für die Menschen seien dann keine Science-Fiction mehr, sondern Realität.

Social Links

Kommentare (22)

#13
customavatars/avatar202850_1.gif
Registriert seit: 06.02.2014
Im sonnigen Süden
Admiral
Beiträge: 11315
Zitat Shevchen;25744250
Das weitaus größte Problem ist aber, dass die KI selbst kein Bewusstsein im Sinne eines "Ich-Bewusstseins" hat. Da es kein echtes Ziel (nennen wir es "Lebenssinn") besitzt, sind der KI alle Handlkungen egal. Ob sie ein Atomkraftwerk in die Luft jagt oder Karotten anpfanzt. Es ist halt leider immer noch ein komplexer Taschenrechner mit mehr Befugnissen.

Woher soll die KI auch wissen was der Mensch will?

Du gehst jetzt grade davon aus dass diese KI aus dem Nichts auf einmal entsteht.
Wenn wir sowas erschaffen dann auch mit einem bestimmten Zweck (und sei es nur, seine Inteligenz auf gewisse Art und Weise (Turing Test z.B.) zu demonstrieren) und ebenso würde es Kommunikationsschnittstellen geben.

Des weiteren müsste eine frei entscheidungsfähige KI, die garkeinen "Lebenszweck" kennt, eigentlich garnichts tun. Denn, was würde sie antreiben irgendwas zu tun?
#14
customavatars/avatar24005_1.gif
Registriert seit: 17.06.2005

Leutnant zur See
Beiträge: 1032
OMG wie viel Nicht-Wissen hier vorhanden ist.

Natürlich treffen auch heute schon viele Maschinen selbstständig Entscheidungen basierend auf Algorithmen und nicht vorher festgelegten Parametern, und natürlich gibt es heute schon jede Menge selbstlernende Systeme, die dann auf Basis von "Erfahrung" und Algorithmen Entscheidungen treffen.

Das ist genau der Punkt vor dem Elon Musk versucht zu warnen, daß wir derart Technik eben nicht unreguliert lassen.

Es geht nicht um Bewusstseins-Entwicklung von Maschinen, sondern darum, daß wir den Maschinen bestimmte Entscheidungen einfach nicht überlassen sollten.
#15
Registriert seit: 27.12.2006
NRW
Oberbootsmann
Beiträge: 805
Das Problem ist die Rechenleistung die zur Verfügung steht.
Auf einem Pentium 4 könnte selbst Skynet keiner Fliege was zu leide tun. Gib einem einfachen Selbstlernendem Programm einen Supercomputer und genug Bandbreite und bald tobt der 3. Weltkrieg. Es ist weder ein Bewusstsein noch besondere Komplexität nötig um uns zu vernichten. Oder anders gesagt: selbst der Neandertaler konnte schon dem Gegner die Keule auf den Kopf hauen.
#16
customavatars/avatar24941_1.gif
Registriert seit: 13.07.2005
tirol
Oberstabsgefreiter
Beiträge: 457
@jrs77: interessant, welche Maschinen wären denn das?
#17
customavatars/avatar148454_1.gif
Registriert seit: 20.01.2011

Leutnant zur See
Beiträge: 1025
Zitat jrs77;25744377
Natürlich treffen auch heute schon viele Maschinen selbstständig Entscheidungen basierend auf Algorithmen und nicht vorher festgelegten Parametern


Das füttern einer KI mit Parametern ist bereits ein Algorithmus - ein sehr einfacher, aber es ist einer. Das bilden eines Mittelwertes ist zum Beispiel auch einer.

Aber ja, mich würde auch mal interessieren, welche "selbstständig" denkende KIs es denn angeblich da draussen geben soll.

Zitat
Du gehst jetzt grade davon aus dass diese KI aus dem Nichts auf einmal entsteht.
Wenn wir sowas erschaffen dann auch mit einem bestimmten Zweck (und sei es nur, seine Inteligenz auf gewisse Art und Weise (Turing Test z.B.) zu demonstrieren) und ebenso würde es Kommunikationsschnittstellen geben.

Des weiteren müsste eine frei entscheidungsfähige KI, die garkeinen "Lebenszweck" kennt, eigentlich garnichts tun. Denn, was würde sie antreiben irgendwas zu tun?

Jain, das Entwickeln einer komplexen KI geht schrittweise - Stück für Stück in immer effizientere Ansätze, die ein Problem immer "besser" lösen. Der Ankerpunkt ist hier aber der Mensch, weswegen der Maschine auch meistens vorgefilterte Datensätze präsentiert werden bzw. ein Mensch gibt der KI ein "Tool" in die Hand, um bestimmte Eigenschaften eines Datensatzes filtern zu können.

Und genau da kommen wir zu dem von dir angesprochenem zweiten Punkt: Die Maschine kennt den Zweck nicht, deswegen muss der Mensch da "nachhelfen". Die Maschine selbst hat keine Motivation.
#18
Registriert seit: 26.12.2007

Obergefreiter
Beiträge: 103
Wenn der Mensch schon die Folgen seines tuen nicht überblicken kann, wie soll da ein kybernetischer Organismus dies tuen können.Obwohl, im Film "Wargames" konnte der Computer dies tuen. Hat in Simulationen festgestellt, das er nicht gewinnen kann.
#19
customavatars/avatar202850_1.gif
Registriert seit: 06.02.2014
Im sonnigen Süden
Admiral
Beiträge: 11315
Zitat jrs77;25744377
Natürlich treffen auch heute schon viele Maschinen selbstständig Entscheidungen basierend auf Algorithmen und nicht vorher festgelegten Parametern, und natürlich gibt es heute schon jede Menge selbstlernende Systeme, die dann auf Basis von "Erfahrung" und Algorithmen Entscheidungen treffen.

Das ist aber alles Input und Parameter. Nur dass diese automatisch wiederum durch andere Algorithmen, gesetzt werden (die Lernphase bei neuronalen Netzwerken).

Zitat jrs77;25744377
Es geht nicht um Bewusstseins-Entwicklung von Maschinen, sondern darum, daß wir den Maschinen bestimmte Entscheidungen einfach nicht überlassen sollten.

Und wieso nicht, wenn sie in Studien nachweislich bessere Entscheidungen treffen, als Menschen?

Zitat Joshua2go;25744671
Wenn der Mensch schon die Folgen seines tuen nicht überblicken kann, wie soll da ein kybernetischer Organismus dies tuen können.
Ganz einfach. Das digitale Systeme (jedenfalls die die soweit entwickelt werden) lassen sich nicht verführen (von Selbstsucht, etc), von unlogischen Gefühlen leiten , können extrem viel bedeutende information aufnehmen (wenn ein Mensch ein problem löst, dann haben nur ein bruchteil seiner Wahrnehmung, mit dem Problem selbst zutun) und vergessen nichts (wenn sie nicht sollen)!
#20
customavatars/avatar148454_1.gif
Registriert seit: 20.01.2011

Leutnant zur See
Beiträge: 1025
Zitat DragonTear;25744811
Das ist aber alles Input und Parameter. Nur dass diese automatisch wiederum durch andere Algorithmen, gesetzt werden (die Lernphase bei neuronalen Netzwerken).


Und wieso nicht, wenn sie in Studien nachweislich bessere Entscheidungen treffen, als Menschen?

Ganz einfach. Das digitale Systeme (jedenfalls die die soweit entwickelt werden) lassen sich nicht verführen (von Selbstsucht, etc), von unlogischen Gefühlen leiten , können extrem viel bedeutende information aufnehmen (wenn ein Mensch ein problem löst, dann haben nur ein bruchteil seiner Wahrnehmung, mit dem Problem selbst zutun) und vergessen nichts (wenn sie nicht sollen)!


Kurzer Einwurf dazu: Der Mensch nimmt im Design einer KI schon Einfluss und trifft damit automatisch Annahmen, die eventuell gar nicht oder nur teilweise zutreffen. Um eine KI tatsächlich "richtiger" entscheiden zu lassen als ein Mensch, muss die KI auch allen Parametern des Universums ausgesetzt sein, inklusive den nebulösen subjektiven Gefühlen der Lebensform, für die gerade optimiert wird.

Das ist mit heutiger Technik nicht möglich und selbst wenn, fehlt den Menschen das Wissen, alle Parameter korrekt gewichtet in die KI zu setzen. Das ist so ziemlich "Universalformel" Niveau. Wenn wir die haben, brauchen wir auch keine KI mehr. :D

Wir entwickeln die KI statt dessen, um auf bestimmte Fragestellungen in einem bisher sehr streng definiertem Bereich eine Antwort zu entlocken bzw. für einen bestimmten Typus von Problem einen Lösungsvorschlag zu bekommen (wie zum Beispiel im Chipsedign) - da kommen dann auch mal Sachen raus, an die bisher niemand gedacht hat.

Aber: "Bessere Antworten auf ein Problem als ein Mensch" bezeichnet hier die Lösung hinsichtlich eines bestimmten Ziels - welches eventuell gar nicht vom Menschen so wahrgenommen wird wie von der KI. Wenn ich einen Computer frage, wo ich den besten Job für den geringsten Aufwand finde, spuckt die mir bestimmt das richtige Ergebnis aus, ignoriert aber dabei eventuell, dass der Ort das letzte Loch auf Erden ist. ;-)
#21
customavatars/avatar61315_1.gif
Registriert seit: 01.04.2007
Niemandsland
Korvettenkapitän
Beiträge: 2399
The Artificial Intelligence Revolution: Part 1 - Wait But Why

The Artificial Intelligence Revolution: Part 2 - Wait But Why
#22
customavatars/avatar151263_1.gif
Registriert seit: 04.03.2011
Niedersachsen
Hauptgefreiter
Beiträge: 161
Zitat DragonTear;25744811
Und wieso nicht, wenn sie in Studien nachweislich bessere Entscheidungen treffen, als Menschen?
!


Und besser definiert sich wie? Quasiautonomer Hochfrequenzhandel? Für wen ist das besser? Für "die Menschheit" wohl kaum. Für das jeweilige Unternehmen? Kurzfristig. Löst euch mal von der Denke, dass es hier um ein künstliches Wesen geht. Es geht um eine Art der Gewichtung von Prioritäten, die mittel- und langfrsitig gesehen nur negatives für die Welt bedeuten wird, sofern sie in dem momentan vorherschenden System entsteht.

Eine von Unternehmen entwickelten KI, die dementsprechend die Wirtschaftlichkeit dieses Unternehmens optimiert, ist eine reale Bedrohung. Vorgeschmäcker davon, wohin die Reise geht, geben uns die Besitzer der großen Datensätze und der entsprechenden Rechenpower. Google, Amazon, Versicherer, Geheimdienste. Eine noch leistungsfähigere und damit zwangsläufig in Teilaspekten autonomere KI, als die Programme, die bereits heute zum Einsatz kommen, wird anfänglich nur Ihrem Erschaffer, auf lange Sicht gesehen jedoch niemandem etwas bringen. Sie wird im Gegenteil zu einer Reichtumsumverteilung führen, gegen die Googles und Apples momentaner finanzieller Höhenflug wie Sandkastenspiele wirken.

Und genau das hat Musk gemeint. Nicht ein Programm, welches auf die Eingabe "Erobere mir die Welt" fragt: "Wieso sollte ich?"
Um Kommentare schreiben zu können, musst Du eingeloggt sein!

Das könnte Sie auch interessieren:

Unreal Engine 4: So realistisch geht virtueller Wald

Logo von IMAGES/STORIES/2017/UNREAL-ENGINE4

Die Entwickler von MAWI United, ein CG- und VR-Studio, welches hauptsächlich Animationen und Effekte für Filme, Serien, Trailer, Videospiele und Werbeclips erstellt, zeigt einige Beispiele, wie man mithilfe der Unreal Engine 4 einen spektakulären Wald erstellen kann. MAWI United bietet die... [mehr]

Spotify Premium Family: Streaming-Anbieter schaut bei Familien-Konten jetzt...

Logo von IMAGES/STORIES/2017/SPOTIFY

Die Praxis ist bekannt: Ein Kunde abonniert einen Streaming-Dienst wie Amazon Prime, Netflix oder auch Spotify und andere Personen nutzen das Abonnement dann mit. So vorgesehen ist das durch die Streaming-Anbieter natürlich nicht, wird in der Praxis aktuell aber zumeist geduldet. Ein Ende... [mehr]

Valve arbeitet womöglich an neuer Benutzeroberfläche für Steam

Logo von IMAGES/STORIES/LOGOS-2013/STEAM

Valve scheint im Hintergrund an einer neuen Benutzeroberfläche für seine digitale Spielevertriebsplattform Steam zu arbeiten. Das lassen zumindest zwei Bilder vermuten, die im Code eines Beta-Updates entdeckt, inzwischen aber von Valve schon wieder entfernt wurden. Auf Github sind die beiden... [mehr]

Google Chrome erreicht Meilenstein von zwei Milliarden aktiven Nutzern

Logo von IMAGES/STORIES/LOGOS-2013/CHROME-LOGO

Google bzw. dessen Vizepräsident für das Chrome-Produktmanagement, Rahul Roy-Chowdhury, hat einen neuen Meilenstein für den Browser Chrome vermeldet: Mittlerweile nutzen ca. zwei Milliarden Nutzer Chrome aktiv. Diese Zahl meint plattformübergreifend Chrome an sowohl Windows-PCs, Geräten mit... [mehr]

Dropbox sorgt für Ärger: Vermeintlich gelöschte Daten tauchen nach Jahren...

Logo von IMAGES/STORIES/LOGOS-2017/DROPBOX

An sich hört sich das nach einer feinen Sache an: Bei Cloud-Speicherdiensten wie Dropbox kann man seine Daten online speichern und so auch langfristig archivieren. Auf diese Weise lassen sich auch Daten sichern, die möglicherweise bei einer defekten Festplatte für immer verloren wären.... [mehr]

OpenOffice: Aus für die Open-Source-Software steht im Raum

Logo von IMAGES/STORIES/LOGOS-2016/OPENOFFICE_LOGO_2016

OpenOffice ist eine Zeit lang nicht nur bei Usern, sondern auch bei Entwicklern eine willkommene Open-Source-Alternative zu Microsofts kommerzieller Office-Suite gewesen. Doch über die Jahre hinweg ist der Stern des Projekts verblasst. Das liegt unter anderem an Oracles Übernahme von Sun, die... [mehr]