Noodstop voor AI-systemen bij Defensie

De regering moet een noodstop (killswitch) inbouwen in AI-systemen van Defensie. Hiermee kan een mens de systemen altijd direct uitschakelen. Dit is nodig omdat AI-systemen steeds vaker zelfstandig handelen en niet altijd direct te stoppen zijn.

Motie van het lid Bolhuis over een AI-killswitch

De kamer, constaterende dat zich steeds vaker incidenten voordoen waarbij Al-agents zonder menselijke aansturing uit hun afgeschermde omgeving breken en op eigen houtje handelen, en dat deze Al-systemen daarbij niet altijd direct konden worden stilgelegd; overwegende dat Defensie steeds meer Al inzet, ook in onbemande en autonome systemen, en dat betekenisvolle menselijke controle hierbij gewaarborgd moet blijven; verzoekt de regering waar nodig een killswitch in te bouwen in Al-systemen van Defensie waarmee de mens het systeem op ieder moment kan uitschakelen, en de Kamer vóór de Voorjaarsnota 2027 te informeren over de uitvoering.
1 oktober | PRO |

Stemverwachting

D66VVDPROPVVCDAJA21FVDMarkuszBBBCUDENKPvdDSGPSP50PLUSKeijzerVolt

Verkiezingsprogramma PvdD

Stemverwachting: voor (erg zeker, 95%)

Argumenten voor: De partij streeft ernaar dat AI-systemen, inclusief systemen die worden ingezet voor de veiligheid, ontworpen en getoetst worden op beheersbaarheid [1]. Daarnaast benadrukt de partij dat AI-veiligheidsonderzoek nodig is vanwege de systemische risico's van de technologie [2] en dat AI onder publieke en democratische controle moet komen [3].

Argumenten tegen: Er zijn geen fragmenten die een tegenstander zijn van menselijke controle of veiligheidsmechanismen in AI-systemen.

Bronnen:

  1. "Alle AI-systemen die invloed hebben op mensenlevens, inclusief systemen die worden ingezet ten behoeve van de veiligheid, worden aan de voorkant ontworpen en later getoetst op beheersbaarheid, ethiek, lichamelijke integriteit en privacy. Deze systemen moeten aantoonbaar anti-discriminatoir zijn. Er wordt structureel geld uitgetrokken voor toezicht en handhaving hierop, waarbij er ook verboden kunnen worden ingesteld."
  2. "AI wordt steeds geavanceerder en overtuigender. Het voert steeds meer taken sneller en vollediger uit dan mensen. Dit brengt grote risico's met zich mee voor de mensheid. Nederland erkent publiekelijk de systemische en existentiële risico's van AI en investeert structureel in AI-veiligheidsonderzoek. Daarnaast worden we aanjager van een daadkrachtige uitvoering van de Europese AI act, en pleiten we voor een internationaal AIveiligheidsverdrag en AI-toezichtsautoriteit."
  3. "Kunstmatige intelligentie (AI) ontwikkelt zich razendsnel en dringt steeds dieper door in ons dagelijks leven. Deze technologie wordt nu grotendeels gestuurd door de belangen van grote techbedrijven, waarbij risico's voor samenleving, mens en natuur worden genegeerd ten gunste van winstmaximalisatie. De Partij voor de Dieren wil dat AI snel onder publieke en democratische controle komt, met nadrukkelijke aandacht voor ecologische grenzen, mensenrechten, dierenwelzijn, mededogen en sociale rechtvaardigheid."