paxvoorvrede.nl maakt gebruik van cookies om je de inhoud van deze website optimaal te kunnen presenteren.

https://www.paxvoorvrede.nl/wat-wij-doen/programmas/killer-robots

Killer Robots

Wat zijn killer robots
Killer robots zijn volledig autonome wapensystemen die een doelwit kunnen selecteren en aanvallen zonder betekenisvolle menselijke controle. Dus, waar bij een drone nog een mens op afstand controle heeft, is de menselijke controle bij killer robots afwezig. Iets waar PAX zich grote zorgen om maakt.

Via onderzoek, politieke lobby en publieksacties streeft PAX naar een verbod op de ontwikkeling, de productie en het gebruik van volledig autonome wapens.

Bestaan killer robots al?
Killer robots bestaan nog niet, maar er zijn al wel voorlopers die de trend naar verdergaande autonomie duidelijk laten zien. Voorbeelden hiervan zijn de Israëlisch Iron Dome, de Amerikaanse Phalanx (die beiden automatisch inkomende rakketten kunnen neutraliseren) en de SGR-A1, een bewapende bewakingsrobot aan de grens tussen Noord en Zuid Korea. De technologie om volledig autonome wapensystemen te kunnen maken ontwikkelt zich razendsnel. Onder meer China, Rusland, Israël, de Verenigde Staten en het Verenigd Koninkrijk hebben al interesse getoond in dergelijke wapensystemen.

Wat zijn de bezwaren?
Het belangrijkste bezwaar van PAX is dat een killer robot ethisch onacceptabel is. Een machine mag nooit de beslissing nemen over leven en dood, deze keuze kan niet tot een algoritme worden gereduceerd. Het uitbesteden van deze beslissing is het uitbesteden van moraliteit.

Naast de ethische bezwaren zijn er juridische, veiligheids- en strategische bezwaren. Kan een killer robot bijvoorbeeld voldoen aan het Humanitair Oorlogsrecht en onderscheid maken tussen een burger en een soldaat? Wie is er verantwoordelijk als er iets mis gaat? De commandant, de programmeur of de robot? Verlagen deze wapens de drempel om oorlog te voeren? Wat gebeurt er als dictators of terroristen deze wapens in handen krijgen? Leidt de komst van dergelijke wapens niet tot een verdere wapenwedloop? En wat zijn de gevolgen ten aanzien van mensenrechten, als ook de politie gebruik gaat maken van dergelijke technologie. PAX heeft enkele notities en rapporten geschreven die onze bezwaren weergeven:

Wat wil PAX?
PAX wil dat landen een preventief verbod instellen op de ontwikkeling, productie en inzet van killer robots. Daarom richtte PAX in 2013, samen met een aantal andere organisaties, de Campaign to Stop Killer Robots op. Deze internationale coalitie zet zich voor dit preventief verbod in en pleit hiervoor bij diverse fora van de Verenigde Naties en nationale parlementen.

In 2014, 2015 en 2016 waren er diverse besprekingen en expert bijeenkomsten, zoals bij de VN bij de Conventie voor Conventionele Wapens (CCW). Er zijn inmiddels 14 landen die oproepen tot een verbod. PAX bepleit dat staten zo snel mogelijk beginnen met de onderhandelingen over een verdrag dat deze wapens verbiedt. Technologische ontwikkelingen gaan sneller dan diplomatie en als deze wapensystemen eenmaal worden ingezet, is het uitermate lastig ze nog te reguleren.

Welk standpunt neemt Nederland in?
Eind 2015 publiceerden de commissies AIV en CAVV, op verzoek van de regering, een gezamenlijk adviesrapport over autonome wapensystemen. PAX is zeer kritisch op dit rapport.  Grootste zorg van PAX is dat het rapport menselijke controle heel vroeg in het targeting proces afdoende vindt. Controle tijdens de inzet van het wapensysteem is volgens de commissie niet noodzakelijk. Verder mist het rapport urgentie, besteedt het weinig aandacht aan de internationale context en aan ethiek en zet het door haar brede definitie van menselijke controle de deur open voor staten om dergelijke wapensystemen te ontwikkelen. Verbazingwekkend genoeg heeft de regering de conclusie van het rapport onomwonden overgenomen. PAX blijft zich inzetten om de regering te overtuigen van de bezwaren voor deze wapens. Ook gaat PAX door met lobbyen op zowel nationaal als internationaal niveau en het aanzwengelen van de publieke discussie. Een voorbeeld hiervan is het debat ‘Killing without a heart’, dat PAX in 2016 organiseerde, en de interreligieuze verklaring van PAX.


Achtergrondinformatie en links

Informatie over de discussies bij de VN Conventie voor Conventionele wapens
Informatie over de internationale campagne Campaign to Stop Killer Robots

Belangrijke publicaties

 


Contact

Miriam Struyk, programmadirecteur Veiligheid en Ontwapening
struyk(javascript needed for readable email)paxforpeace.nl

Omstreden wapens en wapenhandel