Berlin, 27.04.2016

Regeln für Roboter – die Rüstungskontrolle braucht Deutschlands Unterstützung

Anja Dahlmann
Anja Dahlmann
Marcel Dickow
Marcel Dickow

Während die internationale Rüstungskontrolle insgesamt an Unterstützung verliert, fordern neue Technologien verstärkte Aufmerksamkeit. Im Rahmen der VN-Waffenkonvention beraten Staaten nun über die Regulierung von autonomen Robotern. Anja Dahlmann und Marcel Dickow kennen die Hintergründe.

Die internationale Rüstungskontrolle verliert an Unterstützung. In Zeiten internationaler Krisen und Rüstungswettläufe sind die Interessengegensätze der Staaten oft so groß, dass gemeinsame Regelungen für Rüstungsgüter und ihren Einsatz nicht beachtet und erst recht nicht neu beschlossen werden. Dabei ist eine starke Rüstungskontrolle auch heute wichtig, um potenziell negative Auswirkungen von neuen Technologien zu begrenzen. Neben dem Cyber-Raum, also der Digitalisierung der Kriegsführung, bereitet die Robotik, die Automatisierung der Kriegsführung, besonderes Kopfzerbrechen: Sie ist völkerrechtlich unreguliert.

Staaten, die automatisierte Waffensysteme – Roboter – entwickeln und einsetzen können, haben einen militärischen Vorteil, weil sie die Kriegsführung beschleunigen können. Die Technologie erlaubt es, dass sich der langsame Mensch zunehmend aus dem Verständnis- und Entscheidungsprozess im Schlachtfeld zurückziehen und das taktische Handeln an Maschinen delegieren kann – in Zukunft möglicherweise bis hin zur Entscheidung über den Einsatz tödlicher Gewalt. Schon heute assistiert der Computer dem Menschen in vielen Waffensystemen bei der Zielauswahl und -priorisierung, z.B. in modernen Kampfflugzeugen, oder übernimmt die Verteidigung bei schnell ablaufenden Angriffen wie mit Raketen. Dabei wird der Kontrollverlust in kauf genommen, weil er militärische Vorteile bringt und die Maschinen in eng begrenzten Handlungsspielräumen und wenig komplexen Umfeldern agieren. Der Trend aber geht dazu, maschinelle Entscheidungsunterstützung auch in komplexeren Situationen zu nutzen, nicht nur als Assistenzsystem für den Menschen, sondern auch für das autonome Funktionieren von Maschinen.

Verhandlungen über Kontrolle autonomer Waffensysteme sollen formalisiert werden

Internationale Experten und besorgte Staaten haben diese Entwicklung erkannt und im Rahmen der Vereinten Nationen Diskussionsprozesse gestartet, um neue Normen und Regelungen zu etablieren. Als Gesprächsplattform für den Einsatz von militärischer Robotik hat sich die VN-Waffenkonvention, die »Convention on Certain Conventional Weapons« (CCW), etabliert. Am Ende der Verhandlungen könnte ein neues Protokoll stehen, das die Nutzung von Letalen Autonomen Waffensystemen (LAWS) reguliert. Im April haben sich die Vertragsstaaten zum dritten Mal für eine Woche in Genf zusammengefunden, um mit Experten informell über LAWS zu diskutieren. Ergebnis ist eine im Konsens verabschiedete Empfehlung an die CCW-Überprüfungskonferenz im Dezember 2016, den Prozess in einer Governmental Group of Experts (GGE) zu formalisieren. Dieses Gremium soll, als Vorstufe zu rechtlich verbindlichen Begriffsbestimmungen, Arbeitsdefinitionen erörtern und den möglichen Regelungsrahmen abstecken. Ethische Grundlage hierfür ist laut Empfehlung die Norm, dass beim Einsatz von tödlicher Gewalt eine »angemessene menschliche Eingriffsmöglichkeit« zentral ist.

Dieser Grundsatz hat sich in den Verhandlungen der letzten Jahre auf Betreiben vieler Nichtregierungsorganisationen und einiger Staaten herauskristallisiert, auch wenn diese eine weitreichendere Norm forderten. Die aktuelle Formulierung ist durch den weiten Interpretationsspielraum politisch attraktiv, ist leicht verständlich und nimmt immerhin den ethischen Grundkonflikt dieser Technologie in den Blick: Darf der Mensch alle Entscheidungen an Maschinen delegieren oder sind manchmal Eigenschaften wie Selbstbewusstsein, Würde, Empathie und ein Verständnis von Intentionen eines potenziellen Gegners nötig? Diese Fähigkeiten bilden die Grundlage für Prinzipien des Humanitären Völkerrechts, und Experten bezweifeln mehrheitlich, dass diese je in Maschinen einprogrammiert werden können. Es mangelt allerdings an klaren Definitionen: Was ist ein LAWS, wie beschreibt man Autonomie, welche Qualität muss menschliche Kontrolle haben, um ausreichend zu sein? Wenn sich die Staaten am Ende zu einem neuen Protokoll für die CCW entschließen, werden diese Definitionen nötig sein.

Deutschland sollte durch gutes Vorbild eine verbindliche Regelung voranbringen

Die Empfehlung ist nur ein kleiner Schritt auf dem Weg zu einer verbindlichen Regulierung. Insofern hängt die Staatengemeinschaft bei der Rüstungskontrolle den technologischen Entwicklungen hinterher. Versagt hat sie aber nicht, denn in den Verhandlungen wurden grundlegende Fragen von Technologie und Krieg besprochen und ein erster (Minimal-)Konsens zur Regulierung von LAWS gefunden. Ein Erfolg, der auch dem deutschen Vorsitz der letzten beiden Treffen unter Botschafter Michael Biontino zu verdanken ist, der diese geduldig und umsichtig geleitet hat.

Vierzehn Staaten gehen über die Empfehlung hinaus und fordern eine Ächtung von LAWS. Ob sie sich durchsetzen können oder es wenigstens zu einer Begrenzung des Einsatzes von LAWS kommen wird, ist offen, ein Ergebnis frühestens 2018 zu erwarten. Die Technologie wird sich in dieser Zeit weiterentwickeln, und führende Staaten werden Fakten schaffen. Daher sollten sich jetzt weitere Länder zur Ächtung von LAWS bekennen und einfordern, dass der Mensch immer eine echte Kontrolle, nicht bloß eine »angemessene Eingriffsmöglichkeit« beim Einsatz von tödlicher Gewalt behalten muss. Rückendeckung könnten sie durch eine abgestimmte Position der EU erhalten, nach der es bisher aber nicht aussieht. Umso wichtiger ist es, dass Deutschland weiterhin eine Führungsrolle übernimmt und mit gutem Beispiel vorangeht. Nationale Moratorien, also die Aussetzung der Entwicklung, Beschaffung oder Nutzung von LAWS, bis es eine geeignete Regulierung gibt, klare politische Positionen und transparente militärische Doktrinen können helfen. Im Koalitionsvertrag der aktuellen Regierung heißt es: »Deutschland wird [...] sich für eine völkerrechtliche Ächtung vollautomatisierter Waffensysteme einsetzen, die dem Menschen die Entscheidung über den Waffeneinsatz entziehen«. Hier sind längst nicht alle Mittel ausgeschöpft.

Der Text ist auch bei Zeit.de und EurActiv.de erschienen.

Literaturempfehlung

Marcel Dickow, Oliver Meier

Raus aus der Deckung! Rüstungskontrolle als Fundament einer modernen Ordnungspolitik

in: Volker Perthes (Hg.)
Ausblick 2016: Begriffe und Realitäten internationaler Politik

Beiträge zu Sammelstudien 2016/S 00, Januar 2016, 55 Seiten, S. 28-32
Christian Alwardt, Anja Dahlmann, Marcel Dickow, Frank Sauer, Niklas Schörnig

First Steps towards a Multidimensional Autonomy Risk Assessment (MARA) in Weapons Systems

Working Papers 5, Dezember 2015, 26 Seiten
 

SWP-Aktuell

Jakub Eberle, Vladimír Handl, Kai-Olaf Lang
Berlin–Prag: Entfremdung vermeiden – Chancen ergreifen

Für eine europapolitische Einbettung der deutsch-tschechischen Beziehungen


Oliver Geden
Treibhausgasneutralität als Klimaziel priorisieren

Die EU und Deutschland sollten eine ehrgeizigere und zugleich pragmatischere Klimapolitik betreiben