Killer Robots

Wat zijn killer robots?

Killer robots zijn autonome wapensystemen die een doelwit kunnen selecteren en aanvallen zonder betekenisvolle menselijke controle. Dit betekent dat het wapensysteem dodelijk geweld kan gebruiken zonder directe instructies van een mens. Dergelijke autonomie kan worden geïntegreerd in allerlei wapensystemen, zoals een tank, een gevechtsvliegtuig of een oorlogsschip.

Teken de petitie!

Wij willen een internationaal verdrag dat killer robots verbiedt. Autonome wapens mogen alleen worden gebruikt met betekenisvolle menselijke controle. Wil jij dat ook?

Teken de petitie!

Een veel voorkomend misverstand is dat killer robots hetzelfde zijn als bewapende drones. Bij de huidige drones is er echter een mens die doelwitten op afstand selecteert en besluit aan te vallen. Een ander misverstand is dat killer robots hetzelfde zouden zijn als de Terminator of de Robocop. Dit zijn echter sciencefiction concepten, die zeker de komende decennia en misschien wel nooit werkelijkheid zullen worden.
Een wapensysteem dat autonome besluiten nemen over het selecteren en aanvallen van doelwitten roept vele juridische, veiligheids- en ethische bezwaren op. PAX wil daarom een preventief verbod op de ontwikkeling, productie en inzet van killer robots. Al in 2011 waarschuwde PAX over de ontwikkelingen rondom autonome wapensystemen en in 2013 richtte PAX, samen met een aantal andere organisaties, de Campaign to Stop Killer Robots op.

Bestaan killer robots al?

Killer robots bestaan nog niet, maar er zijn voorlopers die duidelijk de trend van toenemende autonomie laten zien. Voorbeelden zijn de Harpy, een rondhangende munitie die vijandelijke radars zoekt en aanvalt, evenals de SGR-1, een gewapende robot op de grens tussen Noord- en Zuid-Korea. Meer recente voorbeelden zijn de KARGU, een kleine drone die doelen kan aanvallen op basis van gezichtsherkenning. De technologie die nodig is om deze wapens te produceren, ontwikkelt zich razendsnel. Landen als China, Rusland, Israël, de Verenigde Staten en het Verenigd Koninkrijk zijn bezig met de ontwikkeling van steeds autonomere wapensystemen.

Wat zijn de bezwaren?

Het belangrijkste bezwaar van PAX is dat een killer robot ethisch onacceptabel is. Een machine mag nooit de beslissing nemen over leven en dood; deze keuze kan niet tot een algoritme worden gereduceerd. Het uitbesteden van deze beslissing is het uitbesteden van moraliteit.

Naast de ethische bezwaren zijn er juridische, veiligheids- en strategische bezwaren. Kan een killer robot bijvoorbeeld voldoen aan het oorlogsrecht en onderscheid maken tussen een burger en een soldaat? Wie is er verantwoordelijk als er iets mis gaat? De commandant, de programmeur of de robot? Verlagen deze wapens de drempel om oorlog te voeren? Wat gebeurt er als dictators of terroristen deze wapens in handen krijgen? Leidt de komst van dergelijke wapens niet tot een verdere wapenwedloop? En wat zijn de gevolgen ten aanzien van mensenrechten, als ook de politie gebruik gaat maken van dergelijke technologie? PAX heeft deze bezwaren weergeven in deze korte paper weergegeven: Ten reasons to ban killer robots.

Wat wil PAX?

PAX wil dat landen een preventief verbod instellen op de ontwikkeling, productie en inzet van killer robots. In andere woorden, PAX wil een internationaal juridisch bindend instrument dat betekenisvolle menselijke controle over de selectie en aanval van de doelwitten waarborgt. PAX bepleit dat staten zo snel mogelijk beginnen met de onderhandelingen over een verdrag dat deze wapens verbiedt. Technologische ontwikkelingen gaan sneller dan diplomatie en als deze wapensystemen eenmaal worden ingezet, is het uitermate lastig ze nog te reguleren.

Het aantal landen dat een verbod steunt staat op 30. Daarnaast ontstaat er consensus onder een meerderheid van landen dat menselijke controle over het gebruik van geweld essentieel is.
In 2015 hebben meer dan 3.000 Kunstmatige Intelligentie experts, en in 2017 116 directeuren van robotica bedrijven, gewaarschuwd voor de ontwikkeling van deze wapens en de VN opgeroepen actie te ondernemen. Het Europees Parlement, twintig Nobelprijswinnaars en meer dan 160 religieuze leiders hebben eveneens opgeroepen tot een verbod op autonome wapen systemen. VN Secretaris-Generaal Guterres heeft gezegd dat deze wapens “politiek onacceptabel, moreel verwerpelijk [zijn] en verboden zouden moeten worden onder internationaal recht”.

Welk standpunt neemt Nederland in?

Eind 2015 publiceerden de commissies AIV en CAVV, op verzoek van de regering, een gezamenlijk adviesrapport over autonome wapensystemen. Dit rapport vormt tot en met 2020 het Nederlandse kabinetsstandpunt. PAX is hier zeer kritisch op. Onze grootste zorg is dat de Nederlandse regering menselijke controle vooraf, dus voor de inzet van een wapen, voldoende vindt. Controle over een wapen tijdens een missie zou niet nodig zijn. Om te voldoen aan de ethische en juridische normen is het essentieel dat er ook menselijk controle is tijdens de inzet van een wapen. Verder vindt PAX dat er te weinig aandacht is voor de gevolgen voor de internationale veiligheid, en voor de ethische aspecten van deze wapensystemen. PAX blijft zich inzetten om de regering te overtuigen van de bezwaren voor deze wapens.

Het internationale debat

De inzet van autonome wapensystemen werd voor het eerst besproken tijdens de Human Rights Council in 2013, na een rapportage van de VN Special Rapporteur Christof Heyns. Vervolgens is het onderwerp opgepakt door de UN Convention for Conventional Weapons (CCW) waar informele expert bijeenkomsten plaats vonden in 2014, 2015 en 2016. In 2017 vond de eerste Group of Governmental Experts (GGE) plaats in de CCW, met een formeler mandaat. In 2018 vonden twee GGE bijeenkomsten plaats, de eerste in april en de tweede in augustus. PAX neemt deel aan alle vergaderingen van het CCW, waar we diplomaten ontmoeten en presentaties geven tijdens de side-events.

De inzet van autonome wapensystemen werd voor het eerst besproken in de Mensenrechtenraad in 2013 na een rapport van speciaal VN-rapporteur Christof Heyns. Vervolgens werd de kwestie opgepakt door het VN-Verdrag inzake bepaalde conventionele wapens (CCW), waar informele vergaderingen van deskundigen plaatsvonden in 2014, 2015 en 2016. In 2017 vond de eerste bijeenkomst van de groep van gouvernementele deskundigen (GGE), die een formeler mandaat heeft, plaats bij de CCW en hebben sindsdien ieder jaar plaatsgevonden. PAX neemt deel aan alle vergaderingen bij de CCW, waar we diplomaten ontmoeten, verklaringen afleggen en spreken tijdens nevenevenementen.

Bedrijfsleven

PAX richt zich ook op de private sector om de ontwikkeling van killer robots tegen te gaan. Daarbij richten we ons op the tech sector, de wapenindustrie en de financiële wereld, maar ook op onderzoekers en wetenschappers. Voor meer informatie hierover, zie onze website Reprogramming War.