paxvoorvrede.nl maakt gebruik van cookies om je de inhoud van deze website optimaal te kunnen presenteren.

https://www.paxvoorvrede.nl/wat-wij-doen/programmas/killer-robots

Killer Robots

Wat zijn killer robots
Killer robots zijn autonome wapensystemen die een doelwit kunnen selecteren en aanvallen zonder betekenisvolle menselijke controle. Dit betekent dat het wapensysteem dodelijk geweld kan gebruiken zonder directe instructies van een mens. Deze functie kan worden toegepast op verschillende wapensystemen, zoals een gevechtstank, straaljager of een schip.

Een veel voorkomend misverstand is dat killer robots hetzelfde zijn als drones. Bij een drone is er echter een mens die doelwitten op afstand selecteert en besluit aan te vallen. Een ander misverstand is dat killer robots hetzelfde zouden zijn als de Terminator of de Robocop. Dit zijn echter sciencefiction concepten, die zeker de komende decennia en misschien wel nooit werkelijkheid zullen worden.

Een wapensysteem dat autonome besluiten nemen over het selecteren en aanvallen van doelwitten roept vele juridische, veiligheids- en ethische bezwaren op. PAX wil daarom een preventief verbod op de ontwikkeling, productie en inzet van killer robots. Al in 2011 waarschuwde PAX over de ontwikkelingen rondom autonome wapensystemen en in april 2013 richtte PAX, samen met een aantal andere organisaties, de Campaign to Stop Killer Robots op. Deze internationale coalitie zet zich in voor dit preventief verbod en pleit hiervoor bij diverse fora van de Verenigde Naties en nationale parlementen.

Bestaan killer robots al?
Killer robots bestaan nog niet, maar er zijn al wel voorlopers die de trend naar verdergaande autonomie duidelijk laten zien. Een voorbeeld hiervan is de Harpy, een 'fire and forget'-raket die urenlang kan rondzweven, op zoek naar radar signalen van de vijand. Als die worden opgepikt valt de Harpy autonoom het doel aan en vernietigt het de radarsysteem door middel van zelfvernietiging. Een ander voorbeeld is de SGR-1, een bewapende robot op de grens tussen Noord- en Zuid-Korea. Het heeft een machinegeweer en een granaatwerper en kan mensen detecteren via infraroodsensoren. De technologie die nodig is om deze wapens te produceren, ontwikkelt zich razend snel. Onder meer China, Rusland, Israël, de Verenigde Staten en het Verenigd Koninkrijk hebben al interesse getoond in dergelijke wapensystemen.

Wat zijn de bezwaren?
Het belangrijkste bezwaar van PAX is dat een killer robot ethisch onacceptabel is. Een machine mag nooit de beslissing nemen over leven en dood; deze keuze kan niet tot een algoritme worden gereduceerd. Het uitbesteden van deze beslissing is het uitbesteden van moraliteit.

Naast de ethische bezwaren zijn er juridische, veiligheids- en strategische bezwaren. Kan een killer robot bijvoorbeeld voldoen aan het oorlogsrecht en onderscheid maken tussen een burger en een soldaat? Wie is er verantwoordelijk als er iets mis gaat? De commandant, de programmeur of de robot? Verlagen deze wapens de drempel om oorlog te voeren? Wat gebeurt er als dictators of terroristen deze wapens in handen krijgen? Leidt de komst van dergelijke wapens niet tot een verdere wapenwedloop? En wat zijn de gevolgen ten aanzien van mensenrechten, als ook de politie gebruik gaat maken van dergelijke technologie. PAX heeft enkele notities en rapporten geschreven die onze bezwaren weergeven:

Wat wil PAX?
PAX wil dat landen een preventief verbod instellen op de ontwikkeling, productie en inzet van killer robots. In andere woorden, PAX wil een internationaal juridisch bindend instrument dat betekenisvolle menselijke controle over de selectie en aanval van de doelwitten (kritieke functies) waarborgt. PAX bepleit dat staten zo snel mogelijk beginnen met de onderhandelingen over een verdrag dat deze wapens verbiedt. Technologische ontwikkelingen gaan sneller dan diplomatie en als deze wapensystemen eenmaal worden ingezet, is het uitermate lastig ze nog te reguleren.

Het aantal landen dat een verbod steunt is gegroeid naar 26, met de toevoeging van China, Djibouti, Colombia en Oostenrijk als eerste EU land. Daarnaast ontstaat er consensus onder een meerderheid van landen dat menselijke controle over het gebruik van geweld essentieel is. In 2015 hebben meer dan 3.000 Kunstmatige Intelligentie experts, en in 2017 116 directeuren van robotica bedrijven, gewaarschuwd voor de ontwikkeling van deze wapens en de VN opgeroepen actie te ondernemen. Het Europees Parlement, twintig Nobelprijswinnaars en meer dan 160 religieuze leiders hebben eveneens opgeroepen tot een verbod op autonome wapen systemen.

Welk standpunt neemt Nederland in?
Eind 2015 publiceerden de commissies AIV en CAVV, op verzoek van de regering, een gezamenlijk adviesrapport over autonome wapensystemen. Dit rapport vormt tot en met 2020 het Nederlandse kabinetsstandpunt. PAX is hier zeer kritisch op. De grootste zorg is dat de Nederlandse regering menselijke controle vooraf, dus voor de inzet van een wapen, voldoende vindt. Controle over een wapen tijdens een missie zou niet nodig zijn. Dit is iets wat PAX erg zorgelijk vindt. Om te voldoen aan de ethische en juridische normen is het essentieel dat er ook menselijk controle is tijdens de inzet van een wapen. Verder vindt PAX dat er te weinig aandacht is voor de gevolgen voor de internationale veiligheid, en voor de ethische aspecten van deze wapensystemen. PAX blijft zich inzetten om de regering te overtuigen van de bezwaren voor deze wapens. Ook gaat PAX door met lobbyen op nationaal en internationaal niveau en het aanzwengelen van de publieke discussie.

Het internationale debat
De inzet van autonome wapensystemen werd voor het eerst besproken tijdens de Human Rights Council in 2013, na een rapportage van de VN Special Rapporteur Christof Heyns. Vervolgens is het onderwerp opgepakt door de UN Convention for Conventional Weapons (CCW) waar een informele expert bijeenkomst plaats vond in 2014, 2015, en 2016. In 2017 vond de eerste Group of Governmental Experts (GGE) plaats in de CCW, met een meer formeel mandaat. In april 2018 vond de tweede GGE bijeenkomst plaats en in augustus zal de derde plaatsvinden. PAX neemt deel aan alle vergaderingen van het CCW, waar we diplomaten ontmoeten en presentaties geven tijdens de side-events.


Achtergrondinformatie en links

Informatie over de discussies bij de VN Conventie voor Conventionele wapens
Informatie over de internationale campagne Campaign to Stop Killer Robots

Belangrijke publicaties

 


Contact

Miriam Struyk, programmadirecteur Veiligheid en Ontwapening
struyk(javascript needed for readable email)paxforpeace.nl

Omstreden wapens en wapenhandel