• Friday March 22,2019

Vergessen Sie Verbote: UN-Mission bei der Definition von Killerrobotern

Ein Treffen der Vereinten Nationen über tödliche autonome Waffen endete in einer Enttäuschung, weil die Befürworter hofften, dass die Welt Fortschritte bei der Regulierung oder dem Verbot von "Killer Robot" -Technologien machen würde. Die UN-Gruppe von Regierungsexperten kratzte kaum an der Oberfläche, um zu definieren, was als tödliche autonome Waffe gilt. Aber anstatt zu versuchen, eine Killer-Roboter-Definition für alles zu kreieren, könnten sie beim nächsten Mal mehr Glück haben und sich auf die Rolle des Menschen bei der Kontrolle solcher autonomen Waffen konzentrieren.

Diese Fokussierung auf die Rolle des Menschen in der Kriegsführung wurde von einer Reihe von Experten und Nichtregierungsorganisationen wie dem Internationalen Roten Kreuz unterstützt. Es würde die rechtliche und moralische Verantwortung von Soldaten und Offizieren in den Mittelpunkt stellen, die in der nahen Zukunft Schwärme von Militärdrohnen koordinieren oder Befehle an einen Posten Roboterpanzer erteilen könnten. Und es vermeidet Fallstricke im Zusammenhang mit dem Versuch, tödliche autonome Waffen zu definieren, wenn sich künstliche Intelligenz und Robotertechnologien immer schneller entwickeln als die langsam schleifenden Zahnräder eines UN-Gremiums, das sich nur einmal im Jahr trifft.

„Eine Kritik, die die Leute zu Recht gemacht haben, ist, dass, wenn Sie heute ein Verbot des Standes der Technik aufstellen, Sie sich in naher Zukunft mit der Technologie irren könnten“, sagt Paul Scharre, Direktor des Technology and National Security Program im Center for a New American Security (CNAS) und Autor des kommenden Buches "Army of None", das im Frühjahr 2018 erscheinen soll. "In diesem Bereich tödlicher autonomer Waffen könnten Sie sich sehr irren."

Ein nicht-militärisches Beispiel dafür, wie schnell die KI-Technologie die regulativen Diskussionen übertrifft, stammt aus dem Fall des AlphaGo-Programms von DeepMind Lab. Im ersten Halbjahr 2016 widersetzte sich AlphaGo den Expertenvorhersagen von vor wenigen Jahren, indem es die besten menschlichen Spieler im alten Brettspiel Go besiegte. Im Jahr 2017 veröffentlichte DeepMind eine aktualisierte Version von AlphaGo namens AlphaZero, die das Schachspiel innerhalb von vier Stunden lernte und die besten spezialisierten Computerprogramme für Schachspieler übertraf.

In dieser Zeit, in der die KI einen unglaublichen Fortschritt machte, konnte die internationale Gemeinschaft trotz der Einberufung mehrerer UN-Treffen zu tödlichen autonomen Waffen nur wenig erreichen. Bei der letzten UN-Tagung im November 2017, an der die Gruppe der Regierungsexperten für Systeme für tödliche autonome Waffensysteme beteiligt war, wurden nur wenige Erfolge erzielt, außer sich zu verpflichten, 2018 erneut für 10 Tage zusammenzutreten und sich darauf vorzubereiten, alles noch einmal zu tun.

Der Stolperstein über das Verbot von Killerrobotern

Ein großes Problem für Befürworter, die tödliche autonome Waffen verbieten wollen, besteht darin, dass sie keine Unterstützung der führenden Militärmächte haben, die am ehesten derartige autonome Waffen einsetzen und einsetzen könnten. Viele führende KI-Forscher und Führer des Silicon Valley haben ein Verbot autonomer Waffen gefordert. Nichtregierungsorganisationen (NGOs) stehen jedoch meistens ohne die Unterstützung nationaler Regierungen, wenn sie versuchen, die Militärgiganten der Welt davon zu überzeugen, dass sie es vermeiden sollten, ihren Arsenalen tödliche autonome Waffen hinzuzufügen.

„Sie haben eine Reihe von NGOs, die im Wesentlichen den großen Nationalstaaten sagen - einer Reihe von Großmächten wie Russland, China und den Vereinigten Staaten, die alle sagten, dass die KI für die Zukunft der nationalen Sicherheit und des Krieges von zentraler Bedeutung sein wird -, dass sie es nicht können habe diese Waffen “, sagt Scharre. "Die Reaktion der Militärmächte lautet:" Natürlich würde ich sie verantwortungsbewusst einsetzen, wer sollst du sagen? "

Dies scheint im Einklang mit den Erwartungen der Vergangenheit zu stehen, dass ein Verbot tödlicher autonomer Waffen wahrscheinlich erfolgreich sein könnte. Im Oktober 2016 veranstaltete der in London ansässige Chatham House Think Tank eine Rollenspielübung, in der er sich ein Zukunftsszenario vorstellte, in dem China das erste Land ist, das im Krieg tödliche autonome Waffen einsetzt. Bei dieser Übung, die sich auf die Standpunkte der Vereinigten Staaten, Israels und europäischer Länder konzentrierte, stellte sich heraus, dass keiner der Experten, die verschiedene Regierungen spielten, bereit war, sogar ein vorübergehendes Verbot autonomer Waffen zu unterschreiben.

Nichtregierungsorganisationen wie The Campaign to Stop Killer Robots weisen darauf hin, dass mindestens 22 Länder eine rechtsverbindliche Vereinbarung zum Verbot tödlicher autonomer Waffen wünschen. Scharre wies jedoch darauf hin, dass keines dieser Länder zu den großen Militärmächten gehört, die die notwendigen KI-Technologien für den Einsatz tödlicher autonomer Waffen entwickeln.

Russland sagt Nyet zum Verbot

Tatsächlich hat Russland das sprichwörtliche Grab möglicherweise bereits für ein Verbot potenzieller Killer-Roboter ausgegraben, indem es bekannt gab, dass es an kein internationales Verbot, Moratorium oder keine Verordnung über tödliche autonome Waffen gebunden wäre. Der Journalist Patrick Tucker von Defence One beschrieb die russische Erklärung, die mit dem UN-Treffen der Regierungsexperten zusammenfiel, folgendermaßen.

Russlands Erklärung vom 10. November ist ein rechtmäßiger Versuch, jeden Fortschritt in Richtung eines Verbots zu untergraben. Die Definition von "tödlichen autonomen Robotern" sei zu schwierig, noch nicht erforderlich und eine Bedrohung für die rechtmäßige Entwicklung der Technologie.

Tucker berief sich auf mehrere anonyme Experten, die an der UN-Tagung teilnahmen. Sie beklagten sich darüber, dass die fünftägige Tagung kaum den grundlegenden Schritt der Definition tödlicher autonomer Waffen berührte.

Die Suche nach Gemeinsamkeiten bei der Definition von Killerrobotern mag wie grundlegendes Zeug erscheinen, aber in gewissem Sinne ist es für Regierungsvertreter eine Notwendigkeit, sicherzustellen, dass sie nicht nur aneinander vorbeigehen. "Eine Person könnte sich eine Roomba mit einer Waffe vorstellen, eine andere könnte sich den Terminator vorstellen", sagt Scharre.

Wie Killer-Roboter menschliche Soldaten verändern könnten

Vielleicht können größere Militärmächte wie Russland und die Vereinigten Staaten besser in der Lage sein, sich auf die Pflichten und Verantwortlichkeiten der Menschen zu einigen, die künftigen Schwärmen autonomer Waffen Befehle erteilen. Aber potenzielle Fallstricke bleiben auch dann bestehen, wenn sie dort Erfolg haben. Eine der größten Herausforderungen besteht darin, dass der Aufstieg von Killerrobotern dazu führen kann, dass sich Militärführer oder einzelne Soldaten weniger verantwortlich für ihre Aktionen fühlen, nachdem sie einen Schwarm Killerroboter auf die Schlachtfelder von morgen entfesselt haben.

"Was mich beunruhigt, ist, was ist, wenn wir zu dem Punkt kommen, an dem Menschen verantwortlich sind, aber die Menschen nicht wirklich das Gefühl haben, dass sie diejenigen sind, die töten und Entscheidungen mehr treffen?", Sagt Scharre.

Der Kern des Militärberufs besteht darin, Entscheidungen über den Einsatz von Gewalt zu treffen. Als ehemaliger Ranger der US-Armee drückte Scharre seine Besorgnis aus, dass tödliche autonome Waffen letztendlich zu mehr psychologischer Distanz zwischen dem Gefühl der individuellen Verantwortung eines Soldaten und dem Einsatz potenziell tödlicher Waffen führen könnten. Er stellte jedoch fest, dass über diese zukünftigen Auswirkungen auf die militärische Berufsethik sehr wenig geschrieben wurde.

Mit anderen Worten, die Welt könnte letztendlich den rechtlichen Rahmen für die moralische und rechtliche Verantwortung des Menschen in der Kriegsführung erklären, wenn er tödliche autonome Waffen benutzt. Aber der Aufstieg von Killerrobotern kann immer noch dazu führen, dass militärische Anführer und einzelne Soldaten sich weniger empathisch und zurückhaltend fühlen für die Menschen, die solche Waffen erhalten - und es ihnen leichter machen, ihre moralischen und rechtlichen Verpflichtungen zu vergessen.

„Ich denke, die Technologie hat uns eine grundlegende Frage der menschlichen Rolle bei der tödlichen Entscheidungsfindung im Krieg auferlegt“, sagt Scharre.


Interessante Artikel

Schizophrenie in einer Schüssel…?

Schizophrenie in einer Schüssel…?

. oder ein Sturm in einer Teetasse? Nach einem kürzlich in Nature erschienenen Artikel des renommierten Salk-Instituts kann Schizophrenie mit Unterschieden in der neuronalen Verdrahtung zusammenhängen, die bei im Labor gezüchteten Zellen beobachtet werden können, und bietet so ein Fenster in die normalerweise unzugängliche Entwicklung des menschlichen Gehirns. Die

Terhertz-Strahlung verwenden, um unsere durchsichtige Vision zu verwischen

Terhertz-Strahlung verwenden, um unsere durchsichtige Vision zu verwischen

Science-Fiction-Filme und Fernsehsendungen versuchen ständig, die Dinge zu durchschauen: Jeder von Superman bis zum KITT-Neustart vom letzten Jahr benutzte alle Methoden, um Wände und Kleidung zu durchschauen. Da wir bereits in der Zukunft leben, gibt es in unzähligen Formen Durchsichtstechnologie, nicht zuletzt das Ganzkörperscanning am Flughafen. Di

Peek-a-Moon!

Peek-a-Moon!

Überprüfen Sie dies heraus: Klicken Sie, um sich zu vervielfältigen. Originalbild hier. Das ist ein Hubble-Bild von Jupiter und seinem Mond Ganymede, kurz bevor der Satellit hinter der Scheibe des Planeten eintaucht. Es wurde im April 2007 aufgenommen, aber erst heute veröffentlicht (was gut ist, denn ich hätte angekreuzt, dass es in diesem Jahr meine Top Ten verfehlt hätte). Scha

Spender wählen 2011

Spender wählen 2011

Daher ist es eine jährliche Tradition hier bei Cosmic Variance, an der Veranstaltung „Choose“ des Science Blogger-Donors teilzunehmen. Donors Choose ist eine großartige gemeinnützige Organisation, die es Lehrern öffentlicher Schulen ermöglicht, ihren Bedarf an Bildungsmaterial für ihre Schüler zu veröffentlichen und Spender wählen können, welche Projekte finanziert werden. Wie in den l

Zwei neue Elemente treten dem Periodensystem bei

Zwei neue Elemente treten dem Periodensystem bei

116 und 114 können jetzt offiziell ausgefüllt werden. Neuigkeiten: Am Mittwoch wurden zwei neue Elemente offiziell im Periodensystem begrüßt. Die Neuankömmlinge sind die Elemente 114 und 116, und sie haben gerade eine dreijährige Beratung der Gemeinsamen Arbeitsgruppe "Entdeckung der Elemente", eines Teams von Chemikern und anderen Wissenschaftlern, verabschiedet, die die Beweise hinter den Behauptungen neu entdeckter Elemente zusammenfassen. Dies

Alien Planet, wo hyperintelligente Dinosaurier oder Chemiewitz mit 2 linken Füßen herrschen?

Alien Planet, wo hyperintelligente Dinosaurier oder Chemiewitz mit 2 linken Füßen herrschen?

Moar nerdy Chemie Humor? In einer Pressemitteilung, die von den Interwebs rundweg angeprangert wird, schreibt die normalerweise respektable American Chemical Society, dass „fortgeschrittene Versionen von T. Rex und anderen Dinosauriern - monströse Kreaturen mit der Intelligenz und List des Menschen - die Lebensformen sein könnten, die sich auf anderen Planeten entwickelt haben das Universum.&qu