paxvoorvrede.nl maakt gebruik van cookies om je de inhoud van deze website optimaal te kunnen presenteren.

https://www.paxvoorvrede.nl/wat-wij-doen/programmas/killer-robots

Killer Robots

Wat zijn killer robots?
Killer robots zijn autonome wapensystemen die een doelwit kunnen selecteren en aanvallen zonder betekenisvolle menselijke controle. Dit betekent dat het wapensysteem dodelijk geweld kan gebruiken zonder directe instructies van een mens. Deze functie kan worden toegepast op verschillende wapensystemen, zoals een gevechtstank, straaljager of een schip.

Een veel voorkomend misverstand is dat killer robots hetzelfde zijn als drones. Bij een drone is er echter een mens die doelwitten op afstand selecteert en besluit aan te vallen. Een ander misverstand is dat killer robots hetzelfde zouden zijn als de Terminator of de Robocop. Dit zijn echter sciencefiction concepten, die zeker de komende decennia en misschien wel nooit werkelijkheid zullen worden.

Een wapensysteem dat autonome besluiten nemen over het selecteren en aanvallen van doelwitten roept vele juridische, veiligheids- en ethische bezwaren op. PAX wil daarom een preventief verbod op de ontwikkeling, productie en inzet van killer robots. Al in 2011 waarschuwde PAX over de ontwikkelingen rondom autonome wapensystemen en in april 2013 richtte PAX, samen met een aantal andere organisaties, de Campaign to Stop Killer Robots op. Deze internationale coalitie zet zich in voor dit preventief verbod en pleit hiervoor bij diverse fora van de Verenigde Naties en nationale parlementen.

Bestaan killer robots al?
Killer-robots bestaan nog niet, maar er zijn voorlopers die duidelijk de trend van toenemende autonomie laten zien. Voorbeelden zijn de Harpy, een rondhangende munitie die vijandelijke radars doorzoekt en aanvalt, evenals de SGR-1, een gewapende robot op de grens tussen Noord- en Zuid-Korea. Meer recente voorbeelden zijn de KARGU, een kleine drone die doelen kan aanvallen op basis van gezichtsherkenning. De technologie die nodig is om deze wapens te produceren, ontwikkelt zich razendsnel. Landen als China, Rusland, Israël, de Verenigde Staten en het Verenigd Koninkrijk hebben al belangstelling getoond voor de ontwikkeling van dergelijke wapensystemen.

Wat zijn de bezwaren?
Het belangrijkste bezwaar van PAX is dat een killer robot ethisch onacceptabel is. Een machine mag nooit de beslissing nemen over leven en dood; deze keuze kan niet tot een algoritme worden gereduceerd. Het uitbesteden van deze beslissing is het uitbesteden van moraliteit.

Naast de ethische bezwaren zijn er juridische, veiligheids- en strategische bezwaren. Kan een killer robot bijvoorbeeld voldoen aan het oorlogsrecht en onderscheid maken tussen een burger en een soldaat? Wie is er verantwoordelijk als er iets mis gaat? De commandant, de programmeur of de robot? Verlagen deze wapens de drempel om oorlog te voeren? Wat gebeurt er als dictators of terroristen deze wapens in handen krijgen? Leidt de komst van dergelijke wapens niet tot een verdere wapenwedloop? En wat zijn de gevolgen ten aanzien van mensenrechten, als ook de politie gebruik gaat maken van dergelijke technologie. PAX heeft enkele notities en rapporten geschreven die onze bezwaren weergeven:

Wat wil PAX?
PAX wil dat landen een preventief verbod instellen op de ontwikkeling, productie en inzet van killer robots. In andere woorden, PAX wil een internationaal juridisch bindend instrument dat betekenisvolle menselijke controle over de selectie en aanval van de doelwitten (kritieke functies) waarborgt. PAX bepleit dat staten zo snel mogelijk beginnen met de onderhandelingen over een verdrag dat deze wapens verbiedt. Technologische ontwikkelingen gaan sneller dan diplomatie en als deze wapensystemen eenmaal worden ingezet, is het uitermate lastig ze nog te reguleren.

Het aantal landen dat een verbod steunt is gegroeid naar 26, met de toevoeging van China, Djibouti, Colombia en Oostenrijk als eerste EU land. Daarnaast ontstaat er consensus onder een meerderheid van landen dat menselijke controle over het gebruik van geweld essentieel is. In 2015 hebben meer dan 3.000 Kunstmatige Intelligentie experts, en in 2017 116 directeuren van robotica bedrijven, gewaarschuwd voor de ontwikkeling van deze wapens en de VN opgeroepen actie te ondernemen. Het Europees Parlement, twintig Nobelprijswinnaars en meer dan 160 religieuze leiders hebben eveneens opgeroepen tot een verbod op autonome wapen systemen.

Welk standpunt neemt Nederland in?
Eind 2015 publiceerden de commissies AIV en CAVV, op verzoek van de regering, een gezamenlijk adviesrapport over autonome wapensystemen. Dit rapport vormt tot en met 2020 het Nederlandse kabinetsstandpunt. PAX is hier zeer kritisch op. De grootste zorg is dat de Nederlandse regering menselijke controle vooraf, dus voor de inzet van een wapen, voldoende vindt. Controle over een wapen tijdens een missie zou niet nodig zijn. Dit is iets wat PAX erg zorgelijk vindt. Om te voldoen aan de ethische en juridische normen is het essentieel dat er ook menselijk controle is tijdens de inzet van een wapen. Verder vindt PAX dat er te weinig aandacht is voor de gevolgen voor de internationale veiligheid, en voor de ethische aspecten van deze wapensystemen. PAX blijft zich inzetten om de regering te overtuigen van de bezwaren voor deze wapens. Ook gaat PAX door met lobbyen op nationaal en internationaal niveau en het aanzwengelen van de publieke discussie.

Het internationale debat
De inzet van autonome wapensystemen werd voor het eerst besproken tijdens de Human Rights Council in 2013, na een rapportage van de VN Special Rapporteur Christof Heyns. Vervolgens is het onderwerp opgepakt door de UN Convention for Conventional Weapons (CCW) waar informele expert bijeenkomsten plaats vonden in 2014, 2015 en 2016. In 2017 vond de eerste Group of Governmental Experts (GGE) plaats in de CCW, met een formeler mandaat. In 2018 vonden twee GGE bijeenkomsten plaats, de eerste in april en de tweede in augustus. PAX neemt deel aan alle vergaderingen van het CCW, waar we diplomaten ontmoeten en presentaties geven tijdens de side-events.

De inzet van autonome wapensystemen werd voor het eerst besproken in de Mensenrechtenraad in 2013 na een rapport van speciaal VN-rapporteur Christof Heyns. Vervolgens werd de kwestie opgepakt door het VN-Verdrag inzake bepaalde conventionele wapens (CCW), waar informele vergaderingen van deskundigen plaatsvonden in 2014, 2015 en 2016. In 2017 vond de eerste bijeenkomst van de groep van gouvernementele deskundigen (GGE), die een formeler mandaat heeft, plaats bij de CCW. Sindsdien hebben vergaderingen plaatsgevonden in 2018 (tien dagen) en 2019 (zeven dagen). Tijdens de bijeenkomst van november 2019 werd besloten dat de GGE in 2020 10 dagen en in 2021 10-20 dagen zou samenkomen. Deze bijeenkomsten zullen gericht zijn op de 'ontwikkeling van aspecten van het normatieve en operationele kader'. PAX neemt deel aan alle vergaderingen bij de CCW, waar we diplomaten ontmoeten, verklaringen afleggen en spreken tijdens nevenevenementen.


Achtergrondinformatie en links

Informatie over de discussies bij de VN Conventie voor Conventionele wapens
Informatie over de internationale campagne Campaign to Stop Killer Robots

Belangrijke video's en publicaties

 


Contact

Daan Kayser, projectleider autonome wapens, kayser(javascript needed for readable email)paxforpeace.nl

 

 

Omstreden wapens en wapenhandel