• Saturday May 25,2019

Vergessen Sie Verbote: UN-Mission bei der Definition von Killerrobotern

Anonim

Ein Treffen der Vereinten Nationen über tödliche autonome Waffen endete in einer Enttäuschung, weil die Befürworter hofften, dass die Welt Fortschritte bei der Regulierung oder dem Verbot von "Killer Robot" -Technologien machen würde. Die UN-Gruppe von Regierungsexperten kratzte kaum an der Oberfläche, um zu definieren, was als tödliche autonome Waffe gilt. Aber anstatt zu versuchen, eine Killer-Roboter-Definition für alles zu kreieren, könnten sie beim nächsten Mal mehr Glück haben und sich auf die Rolle des Menschen bei der Kontrolle solcher autonomen Waffen konzentrieren.

Diese Fokussierung auf die Rolle des Menschen in der Kriegsführung wurde von einer Reihe von Experten und Nichtregierungsorganisationen wie dem Internationalen Roten Kreuz unterstützt. Es würde die rechtliche und moralische Verantwortung von Soldaten und Offizieren in den Mittelpunkt stellen, die in der nahen Zukunft Schwärme von Militärdrohnen koordinieren oder Befehle an einen Posten Roboterpanzer erteilen könnten. Und es vermeidet Fallstricke im Zusammenhang mit dem Versuch, tödliche autonome Waffen zu definieren, wenn sich künstliche Intelligenz und Robotertechnologien immer schneller entwickeln als die langsam schleifenden Zahnräder eines UN-Gremiums, das sich nur einmal im Jahr trifft.

„Eine Kritik, die die Leute zu Recht gemacht haben, ist, dass, wenn Sie heute ein Verbot des Standes der Technik aufstellen, Sie sich in naher Zukunft mit der Technologie irren könnten“, sagt Paul Scharre, Direktor des Technology and National Security Program im Center for a New American Security (CNAS) und Autor des kommenden Buches "Army of None", das im Frühjahr 2018 erscheinen soll. "In diesem Bereich tödlicher autonomer Waffen könnten Sie sich sehr irren."

Ein nicht-militärisches Beispiel dafür, wie schnell die KI-Technologie die regulativen Diskussionen übertrifft, stammt aus dem Fall des AlphaGo-Programms von DeepMind Lab. Im ersten Halbjahr 2016 widersetzte sich AlphaGo den Expertenvorhersagen von vor wenigen Jahren, indem es die besten menschlichen Spieler im alten Brettspiel Go besiegte. Im Jahr 2017 veröffentlichte DeepMind eine aktualisierte Version von AlphaGo namens AlphaZero, die das Schachspiel innerhalb von vier Stunden lernte und die besten spezialisierten Computerprogramme für Schachspieler übertraf.

In dieser Zeit, in der die KI einen unglaublichen Fortschritt machte, konnte die internationale Gemeinschaft trotz der Einberufung mehrerer UN-Treffen zu tödlichen autonomen Waffen nur wenig erreichen. Bei der letzten UN-Tagung im November 2017, an der die Gruppe der Regierungsexperten für Systeme für tödliche autonome Waffensysteme beteiligt war, wurden nur wenige Erfolge erzielt, außer sich zu verpflichten, 2018 erneut für 10 Tage zusammenzutreten und sich darauf vorzubereiten, alles noch einmal zu tun.

Der Stolperstein über das Verbot von Killerrobotern

Ein großes Problem für Befürworter, die tödliche autonome Waffen verbieten wollen, besteht darin, dass sie keine Unterstützung der führenden Militärmächte haben, die am ehesten derartige autonome Waffen einsetzen und einsetzen könnten. Viele führende KI-Forscher und Führer des Silicon Valley haben ein Verbot autonomer Waffen gefordert. Nichtregierungsorganisationen (NGOs) stehen jedoch meistens ohne die Unterstützung nationaler Regierungen, wenn sie versuchen, die Militärgiganten der Welt davon zu überzeugen, dass sie es vermeiden sollten, ihren Arsenalen tödliche autonome Waffen hinzuzufügen.

„Sie haben eine Reihe von NGOs, die im Wesentlichen den großen Nationalstaaten sagen - einer Reihe von Großmächten wie Russland, China und den Vereinigten Staaten, die alle sagten, dass die KI für die Zukunft der nationalen Sicherheit und des Krieges von zentraler Bedeutung sein wird -, dass sie es nicht können habe diese Waffen “, sagt Scharre. "Die Reaktion der Militärmächte lautet:" Natürlich würde ich sie verantwortungsbewusst einsetzen, wer sollst du sagen? "

Dies scheint im Einklang mit den Erwartungen der Vergangenheit zu stehen, dass ein Verbot tödlicher autonomer Waffen wahrscheinlich erfolgreich sein könnte. Im Oktober 2016 veranstaltete der in London ansässige Chatham House Think Tank eine Rollenspielübung, in der er sich ein Zukunftsszenario vorstellte, in dem China das erste Land ist, das im Krieg tödliche autonome Waffen einsetzt. Bei dieser Übung, die sich auf die Standpunkte der Vereinigten Staaten, Israels und europäischer Länder konzentrierte, stellte sich heraus, dass keiner der Experten, die verschiedene Regierungen spielten, bereit war, sogar ein vorübergehendes Verbot autonomer Waffen zu unterschreiben.

Nichtregierungsorganisationen wie The Campaign to Stop Killer Robots weisen darauf hin, dass mindestens 22 Länder eine rechtsverbindliche Vereinbarung zum Verbot tödlicher autonomer Waffen wünschen. Scharre wies jedoch darauf hin, dass keines dieser Länder zu den großen Militärmächten gehört, die die notwendigen KI-Technologien für den Einsatz tödlicher autonomer Waffen entwickeln.

Russland sagt Nyet zum Verbot

Tatsächlich hat Russland das sprichwörtliche Grab möglicherweise bereits für ein Verbot potenzieller Killer-Roboter ausgegraben, indem es bekannt gab, dass es an kein internationales Verbot, Moratorium oder keine Verordnung über tödliche autonome Waffen gebunden wäre. Der Journalist Patrick Tucker von Defence One beschrieb die russische Erklärung, die mit dem UN-Treffen der Regierungsexperten zusammenfiel, folgendermaßen.

Russlands Erklärung vom 10. November ist ein rechtmäßiger Versuch, jeden Fortschritt in Richtung eines Verbots zu untergraben. Die Definition von "tödlichen autonomen Robotern" sei zu schwierig, noch nicht erforderlich und eine Bedrohung für die rechtmäßige Entwicklung der Technologie.

Tucker berief sich auf mehrere anonyme Experten, die an der UN-Tagung teilnahmen. Sie beklagten sich darüber, dass die fünftägige Tagung kaum den grundlegenden Schritt der Definition tödlicher autonomer Waffen berührte.

Die Suche nach Gemeinsamkeiten bei der Definition von Killerrobotern mag wie grundlegendes Zeug erscheinen, aber in gewissem Sinne ist es für Regierungsvertreter eine Notwendigkeit, sicherzustellen, dass sie nicht nur aneinander vorbeigehen. "Eine Person könnte sich eine Roomba mit einer Waffe vorstellen, eine andere könnte sich den Terminator vorstellen", sagt Scharre.

Wie Killer-Roboter menschliche Soldaten verändern könnten

Vielleicht können größere Militärmächte wie Russland und die Vereinigten Staaten besser in der Lage sein, sich auf die Pflichten und Verantwortlichkeiten der Menschen zu einigen, die künftigen Schwärmen autonomer Waffen Befehle erteilen. Aber potenzielle Fallstricke bleiben auch dann bestehen, wenn sie dort Erfolg haben. Eine der größten Herausforderungen besteht darin, dass der Aufstieg von Killerrobotern dazu führen kann, dass sich Militärführer oder einzelne Soldaten weniger verantwortlich für ihre Aktionen fühlen, nachdem sie einen Schwarm Killerroboter auf die Schlachtfelder von morgen entfesselt haben.

"Was mich beunruhigt, ist, was ist, wenn wir zu dem Punkt kommen, an dem Menschen verantwortlich sind, aber die Menschen nicht wirklich das Gefühl haben, dass sie diejenigen sind, die töten und Entscheidungen mehr treffen?", Sagt Scharre.

Der Kern des Militärberufs besteht darin, Entscheidungen über den Einsatz von Gewalt zu treffen. Als ehemaliger Ranger der US-Armee drückte Scharre seine Besorgnis aus, dass tödliche autonome Waffen letztendlich zu mehr psychologischer Distanz zwischen dem Gefühl der individuellen Verantwortung eines Soldaten und dem Einsatz potenziell tödlicher Waffen führen könnten. Er stellte jedoch fest, dass über diese zukünftigen Auswirkungen auf die militärische Berufsethik sehr wenig geschrieben wurde.

Mit anderen Worten, die Welt könnte letztendlich den rechtlichen Rahmen für die moralische und rechtliche Verantwortung des Menschen in der Kriegsführung erklären, wenn er tödliche autonome Waffen benutzt. Aber der Aufstieg von Killerrobotern kann immer noch dazu führen, dass militärische Anführer und einzelne Soldaten sich weniger empathisch und zurückhaltend fühlen für die Menschen, die solche Waffen erhalten - und es ihnen leichter machen, ihre moralischen und rechtlichen Verpflichtungen zu vergessen.

„Ich denke, die Technologie hat uns eine grundlegende Frage der menschlichen Rolle bei der tödlichen Entscheidungsfindung im Krieg auferlegt“, sagt Scharre.


Interessante Artikel

Wie Forscher die Suche nach außerirdischem Leben durchführen werden

Wie Forscher die Suche nach außerirdischem Leben durchführen werden

Gibt es ein Leben jenseits unseres Planeten? Astronomen haben diese Frage gestellt, seit wir erkannt haben, dass sich tatsächlich etwas außerhalb unseres Planeten befindet. In Anbetracht der Weite des Universums werden wir jedoch wahrscheinlich nicht bald auf die Reise gehen und es für uns treffen. S

Mögliche Heilung für Blindheit: Implantieren eines Teleskops in Ihrem Auge

Mögliche Heilung für Blindheit: Implantieren eines Teleskops in Ihrem Auge

Ein Miniaturteleskop, das in das Auge implantiert werden kann, könnte Blinden helfen, vorausgesetzt, dass es klinische Studien bestanden hat. Erinnern Sie sich daran, wie Galileo durch sein Teleskop sehen konnte, selbst wenn er eine degenerative Augenkrankheit hatte? Stellen Sie sich jetzt vor, Sie würden ein Miniaturteleskop direkt in den Augapfel einführen - genau so beabsichtigt VisionCare Inc.,

Kardamom

Kardamom

Kardamom ist nach Gewicht nur Safran und Vanille das dritt teuerste Gewürz. Aber mit einem faszinierenden komplexen Geschmacksprofil, das in so einem kleinen Paket zusammengepfercht ist, steckt hinter dem stolzen Preis ein kleines Rätsel. Dieses Gewürz liefert einen scharfen Geschmack, der rauchig ist, enthält aber auch Kühle, die an Minze und Zitrone erinnert und in die kleinen schwarzen Samen der kleinen Kardamomsamenschale eingepackt ist. Die

GSA 2009 Nachbearbeitung - Teil 1

GSA 2009 Nachbearbeitung - Teil 1

Ich erinnerte mich schließlich daran, meine GSA-Notizen mit ins Büro zu bringen, damit ich endlich ein Resümee dessen veröffentlichen kann, was ich beim großen Treffen in Portland 2009 gesehen / gehört habe. Ich habe einen speziellen Beitrag zu Kasatochi - zu viel, um hier zu sagen. Es war jedoch eine tolle Zeit für alle! Der K

Ein weiterer kleiner, aufregender Schritt in Richtung Lebensverlängerung

Ein weiterer kleiner, aufregender Schritt in Richtung Lebensverlängerung

Mit den Schlagzeilen, die nach "alterswechselnden" Möglichkeiten in Bezug auf das Dana-Farber Cancer Institute der Harvard University mit Mäusetelomerase-Manipulationen schreien, fühlte ich, dass ein bisschen kaltes Wasser in Ordnung war. Ich bin genauso aufgeregt wie ernsthafte Beweise dafür, wie wichtig Telomere und Telomerase für die Anti-Aging-Medizin sind. Ver

Was definiert eine Art?

Was definiert eine Art?

Isslee / Dreamstime.com; Gekaskr / Dreamstime.com Wenn es um Arten geht, sagt die biologische Anthropologin Rebecca Ackermann, "vergessen Sie alles, was Sie in der High School gelernt haben." Die klassische Definition des Lehrbuchs, bekannt als biologisches Artenkonzept, ist eine Gruppe von Organismen, die nur miteinander fruchtbare Nachkommen produzieren