• Thursday May 23,2019

Experten für künstliche Intelligenz reagieren auf Elon Musks Dire Warning für US-Gouverneure

Anonim

Wenn Sie nicht gehört hätten, macht sich Elon Musk Sorgen um die Maschinen.

Auch wenn dies für den Leiter mehrerer Tech-Unternehmen eine quixotische Haltung einnehmen mag, so scheint es ihm, dass seine Nähe zum blutigen Rand der technologischen Entwicklung ihm den Sprung in die künstliche Intelligenz gegeben hat. Er teilte seine Ängste, dass die KI zuvor Amok laufen ließ, und verglich sie damit, "den Dämon zu beschwören". Musk bezwang sich bei einem Treffen der National Governors Association an diesem Wochenende und erklärte den Staatsoberhäuptern, dass die KI eine existenzielle Bedrohung darstellt Menschheit.

In einer Diskussion über fahrerlose Fahrzeuge und die Erkundung des Weltraums forderte Musk mehr staatliche Vorschriften in Bezug auf Forschung und Implementierung künstlicher Intelligenz.

„Bis die Leute Roboter auf der Straße sehen, die Menschen töten, wissen sie nicht, wie sie reagieren sollen, weil es so ätherisch scheint. KI ist ein seltener Fall, in dem ich denke, dass wir proaktiv in der Regulierung sein müssen, anstatt reaktiv zu sein. Ich denke, dass wir zu dem Zeitpunkt, an dem wir auf die KI-Regulierung reagieren, zu spät sind “, so die MIT Tech Review .

Es ist alles andere als eine Täuschung, solche Bedenken auszusprechen, da KI eines Tages den Punkt erreichen könnte, an dem sie in der Lage ist, sich selbst zu verbessern, und eine Feedbackschleife des Fortschritts auslöst, die weit über die menschlichen Fähigkeiten hinausgeht. Wenn wir diesen Punkt tatsächlich erreichen, ist niemand zu vermuten, und wir befinden uns im Moment überhaupt nicht in der Nähe, denn die heutigen Aufnahmen eines Sicherheitsroboters, der blind in einen Brunnen wandert, machen deutlich.

Computer können zwar Videospiele aufnehmen und Poker meistern, sie können sich jedoch nicht an allgemeine Intelligenz halten - die weitreichenden Denkfähigkeiten, die es uns ermöglichen, viele variable Aufgaben zu erfüllen. Dies ist der Grund, warum KI, die sich bei einer einzelnen Aufgabe, wie Schachspielen, hervorhebt, kläglich scheitert, wenn sie aufgefordert werden, etwas so einfaches zu tun, wie einen Stuhl beschreiben.

Um etwas über die Kommentare von Musk zu erfahren, wandte sich Discover an Informatiker und Zukunftsforscher, die an der Art von KI arbeiteten, vor der der Tech-CEO warnt.

Oren Etzioni

Professor für Informatik an der University of Washington und CEO des Allen Institute for Artificial Intelligence

Elon Musks Besessenheit mit der KI als existenzielle Bedrohung für die Menschheit ist eine Ablenkung von der wahren Besorgnis über die Auswirkungen von KI auf Arbeitsplätze und Waffensysteme. Was die Öffentlichkeit braucht, ist eine gute Information über die tatsächlichen Konsequenzen der AI, sowohl positiv als auch negativ. Wir müssen zwischen Wissenschaft und Science Fiction unterscheiden. In fiktionalen Berichten wird KI häufig als der „Bösewicht“ gecastet, der die Welt erobern will. In Wirklichkeit ist KI ein Werkzeug, eine Technologie und eine, die das Potenzial hat, durch die Verbesserung von Transport, Medizin und vielem mehr Leben zu retten . Anstatt eine neue Aufsichtsbehörde zu schaffen, müssen wir die Menschen besser aufklären und darüber informieren, was die KI tun kann und was nicht. Wir brauchen Forschungen zum Aufbau von AI-Wächtern - KI-Systemen, die andere KI-Systeme überwachen und analysieren, um sicherzustellen, dass sie unsere Gesetze und Werte einhalten. Die Welt braucht KI für ihre Vorteile, KI braucht Regulierung wie der Pazifik die globale Erwärmung.

Toby Walsh

Professor für künstliche Intelligenz an der Universität von New South Wales, Sydney, und Autor von „ It's Alive !: Künstliche Intelligenz vom Logikpiano zu Killerrobotern

Elon Musks Äußerungen sind alarmierend. Ich habe kürzlich 300 führende KI-Forscher befragt, und die Mehrheit der Befragten glaubt, dass es mindestens 50 weitere Jahre dauern wird, bis die Maschine so intelligent ist wie der Mensch. Dies ist also kein Problem, das sofortige Aufmerksamkeit erfordert.

Und ich mache mir nicht zu viele Sorgen darüber, was passiert, wenn wir zur Superintelligenz gelangen, da eine gesunde Forschungsgemeinschaft daran arbeitet, sicherzustellen, dass diese Maschinen keine existenzielle Bedrohung für die Menschheit darstellen. Ich gehe davon aus, dass sie genau herausgefunden haben, welche Sicherheitsmaßnahmen bis dahin erforderlich sind.

Aber in einem Punkt hat Elon recht: Wir brauchen die Regierung, um jetzt mit der KI-Regulierung zu beginnen. Es ist jedoch die dumme KI, die wir heute haben, und wir müssen mit der Regulierung beginnen. Die voreingenommenen Algorithmen. Das Wettrüsten um die Entwicklung von "Killerrobotern", bei denen dumme KI die Fähigkeit erhalten, Entscheidungen über Leben oder Tod zu treffen. Die Bedrohung unserer Privatsphäre, da die Tech-Unternehmen all unsere persönlichen und medizinischen Daten erhalten. Und die Verzerrung der politischen Debatte, die das Internet ermöglicht.

Die Technologieunternehmen erkennen, dass sie ein Problem haben, und sie haben einige Anstrengungen unternommen, um staatliche Regulierung zu vermeiden, indem sie sich selbst regulieren. Aber es gibt ernste Fragen, ob man ihnen das selbst überlassen kann. Wir erleben ein KI-Rennen zwischen den großen Technologiegiganten, das Milliarden von Dollars in diesen Gewinner investiert, um alle Gewinner zu gewinnen. In vielen anderen Branchen hat die Regierung eingegriffen, um zu verhindern, dass sich Monopole schlecht verhalten. Ich habe das kürzlich in einem Vortrag gesagt, aber ich wiederhole es noch einmal: Wenn einige der Giganten wie Google und Facebook in zwanzig Jahren nicht auseinandergerissen werden, bin ich sehr besorgt um die Zukunft unserer Gesellschaft.

Fei-Fei Li

Direktor des Stanford Artificial Intelligence Lab

Es gibt keine unabhängigen Maschinenwerte. Maschinenwerte sind menschliche Werte. Wenn die Menschheit wirklich besorgt über die zukünftigen Auswirkungen einer Technologie ist, sei es eine KI oder Energie oder etwas anderes, dann müssen alle Wege und Stimmen des Lebens bei der Entwicklung und Anwendung dieser Technologie vertreten sein. Jeder Technologe spielt eine Rolle bei der Entwicklung einer wohlwollenden Technologie zur Verbesserung unserer Gesellschaft, unabhängig davon, ob es Stanford, Google oder Tesla ist. Als KI-Pädagoge und Technologe hoffe ich vor allem, dass sowohl bei der Entwicklung der KI als auch bei der Verbreitung von KI-Stimmen und Meinungen viel mehr Inklusion und Vielfalt zu sehen ist.

Raja Chatila

Vorsitzender der IEEE Global AI Ethics Initiative

Künstliche Intelligenz ist schon überall. Seine Auswirkungen konkurrieren mit denen des Internets und verstärken sie tatsächlich. KI wird in fast alle Algorithmen und Systeme eingebettet, die wir jetzt und in der Zukunft bauen. Es gibt eine wichtige Gelegenheit, ethische und verantwortungsbewusste Gestaltung für AI heute zu priorisieren. Dies ist jedoch eher auf das größere unmittelbare Risiko für AI und die Gesellschaft zurückzuführen, dh die Priorisierung exponentiellen Wirtschaftswachstums, während ökologische und gesellschaftliche Probleme ignoriert werden.

In Bezug auf die Frage, ob Musks Warnungen vor existenziellen Bedrohungen in Bezug auf künstliche Superintelligenz unmittelbare Aufmerksamkeit verdienen, riskieren wir tatsächlich große negative und unbeabsichtigte Konsequenzen, weil wir exponentielles Wachstum und den Unternehmenswert als Indikatoren für den Erfolg über die blühenden Parameter der Gesellschaft stellen für diese erstaunlichen Technologien.

Um diese Probleme anzugehen, muss jeder Stakeholder, der eine KI erstellt, sich mit Fragen der Transparenz, Verantwortlichkeit und Rückverfolgbarkeit seiner Arbeit befassen. Sie müssen den sicheren und vertrauenswürdigen Zugang zu und den Austausch von Benutzerdaten gewährleisten, wie dies durch die DSGVO (Allgemeine Datenschutzverordnung) in der EU gefördert wird. Und sie müssen menschenrechtsorientierte Kennzahlen zum Wohlbefinden wie die UN-Ziele für nachhaltige Entwicklung als vorab festgelegte globale Erfolgsgrößen festlegen, die nachweislich den Wohlstand der Menschen steigern können.

Die globale KI-Ethikinitiative von IEEE entwickelte ein ethisch ausgerichtetes Design: Eine Vision für die Priorisierung des menschlichen Wohlergehens mit künstlicher Intelligenz und autonomen Systemen, um pragmatisch allen Beteiligten zu helfen, die diese Technologien entwickeln, um proaktiv mit den allgemeinen Arten von ethischen Problemen umzugehen, die Musk mit ihren Anliegen befasst. Die Gruppe von über 250 globalen Experten für KI und Ethik war auch die Inspiration für die Serie der IEEE P7000-Standards - Modellprozess zur Behandlung ethischer Bedenken während des Systemdesigns, die derzeit in Bearbeitung sind und entwickelt wurden, um Lösungen für diese Probleme in einem globalen Konsensbildungsprozess zu schaffen.

Meine größte Sorge in Bezug auf AI ist das Entwerfen und Erweitern der Technologie, ohne dass ethisches und verantwortungsbewusstes Design priorisiert werden muss oder das Wirtschaftswachstum in einer Zeit beschleunigt werden muss, in der wir uns so dringend auf ökologische und gesellschaftliche Nachhaltigkeit konzentrieren müssen, um die existenziellen Risiken zu vermeiden, die wir bereits ohne das System geschaffen haben Hilfe von AI Die Menschheit muss sich vor der KI nicht fürchten, solange wir jetzt handeln, um ihrer ethischen und verantwortungsvollen Gestaltung Priorität einzuräumen.

Martin Ford

Autor, "Aufstieg der Roboter: Technologie und die Bedrohung einer arbeitslosen Zukunft"

Elon Musks Besorgnis über die KI, die eine existenzielle Bedrohung für die Menschheit darstellen wird, ist legitim und sollte nicht abgewiesen werden - betrifft jedoch Entwicklungen, die fast sicher in relativ ferner Zukunft liegen, wahrscheinlich mindestens 30 bis 50 Jahre und vielleicht viel mehr.

Aufrufe zur sofortigen Regulierung oder Einschränkung der KI-Entwicklung werden aus einer Reihe von Gründen missachtet, vielleicht am wichtigsten, weil die USA derzeit in einem aktiven Wettbewerb mit anderen Ländern, insbesondere China, stehen. Wir können es uns nicht leisten, in diesem kritischen Rennen zurückzufallen.

Darüber hinaus lenken uns die Sorgen, dass die KI wirklich fortgeschritten ist, von den viel unmittelbareren Problemen ab, die mit dem Fortschritt in der spezialisierten künstlichen Intelligenz verbunden sind. Dazu gehören die Möglichkeit massiver wirtschaftlicher und sozialer Störungen, da Millionen von Arbeitsplätzen wegfallen, potenzielle Bedrohungen für die Privatsphäre und der Einsatz künstlicher Intelligenz bei Cyberkriminalität und Cyberkriegern sowie das Aufkommen wirklich autonomer Militär- und Sicherheitsroboter. Keine dieser kurzfristigeren Entwicklungen beruht auf der Entwicklung der fortgeschrittenen Superintelligenz, die Musk beunruhigt. Sie sind eine einfache Extrapolation der bereits vorhandenen Technologie. Unser unmittelbarer Fokus sollte auf der Bewältigung dieser weit weniger spekulativen Risiken liegen, die höchstwahrscheinlich dramatische Auswirkungen auf die nächsten zwei Jahrzehnte haben werden.


Interessante Artikel

Ein mondbeschiener Wolkenschild - vom Weltraum aus gesehen

Ein mondbeschiener Wolkenschild - vom Weltraum aus gesehen

Bild des Tages: | Aktualisiert 20.12.2013 mit einem zweiten Bild unten. | Am 18. Dezember 2013 konnte der KKW-Satellit Suomi durch einen beinahe Vollmond dieses ungewöhnliche Bild eines spektakulären Wolkenbildes am östlichen Hang der Rocky Mountains in Colorado und Wyoming einfangen. Sie können die Nachtzeit an den Lichtpunkten erkennen, die im rechten Teil des Bildes am deutlichsten sichtbar sind. Di

Wann wird das Wetter zum Klima?

Wann wird das Wetter zum Klima?

Wann wird das Wetter zum Klima? Es fühlt sich wirklich so an, als ob die Antwort jetzt ist . Diese Karte zeigt, wie hoch die Durchschnittstemperaturen in den USA in letzter Zeit waren. Vor allem in Colorado sorgten niedrige Niederschlagsmengen in Verbindung mit trockenem Wetter (plus einer immer länger werdenden warmen Jahreszeit, in der Kiefernkäfer gedeihen und lebende Bäume zerstören können) dafür, dass der Staat zu einem Spiel wurde, das darauf wartet, beleuchtet zu werden. und d

Forschungsförderung: Es ist eine Gruppenarbeit

Forschungsförderung: Es ist eine Gruppenarbeit

Jackson Solway Wie viele Studenten in wissenschaftlichen Bereichen war Cindy Wu von einer akademischen Laufbahn in der Forschung fasziniert. Nach ihrem Abschluss in Biologie im Jahr 2011 arbeitete sie als wissenschaftliche Mitarbeiterin an der University of Washington in Seattle, ihrer Alma Mater. Während sie dort war, wollte sie eine Behandlung mit Anthrax zur Aufklärung von Staphinfektionen durchführen, war sich jedoch nicht sicher, wie sie Geld für ihre Idee bekommen konnte. Al

Nein, tropische Abholzungsraten fallen nicht

Nein, tropische Abholzungsraten fallen nicht

Ein Gebiet in der Nähe von Acre, Brasilien, zeigt den Fortschritt von Wald zu Weideland auf einer großen Rinderfarm: intakter Wald (links), Wald, der zu Weideland (oben) verbrannt wird, frisch gerodeter Wald (unten) und Gras, das zum Weiden bereit ist (rechts) ). Jüngste Studien zeigen eine Zunahme der Entwaldung. R

Sieh dir das an: Der Komet kann auf Mars wirken

Sieh dir das an: Der Komet kann auf Mars wirken

Wenn Sie zu denjenigen gehören, die Mars eines Tages nach Hause rufen möchten, empfehlen wir Ihnen, mindestens bis zum nächsten Herbst zu warten. Das ist, wenn die NASA sagt, ein Komet könnte in den Roten Planeten rammen. Der Comet 2013 A1 schneidet derzeit mit etwa 125.000 Meilen pro Stunde und misst irgendwo zwischen 0, 5 und 3 Meilen im Durchmesser. Se