Noodstop voor AI-systemen bij Defensie

De regering moet een noodstop (killswitch) inbouwen in AI-systemen van Defensie. Hiermee kan een mens de systemen altijd direct uitschakelen. Dit is nodig omdat AI-systemen steeds vaker zelfstandig handelen en niet altijd direct te stoppen zijn.

Motie van het lid Bolhuis over een AI-killswitch

De kamer, constaterende dat zich steeds vaker incidenten voordoen waarbij Al-agents zonder menselijke aansturing uit hun afgeschermde omgeving breken en op eigen houtje handelen, en dat deze Al-systemen daarbij niet altijd direct konden worden stilgelegd; overwegende dat Defensie steeds meer Al inzet, ook in onbemande en autonome systemen, en dat betekenisvolle menselijke controle hierbij gewaarborgd moet blijven; verzoekt de regering waar nodig een killswitch in te bouwen in Al-systemen van Defensie waarmee de mens het systeem op ieder moment kan uitschakelen, en de Kamer vóór de Voorjaarsnota 2027 te informeren over de uitvoering.
1 oktober | PRO |

Stemverwachting

D66VVDPROPVVCDAJA21FVDMarkuszBBBCUDENKPvdDSGPSP50PLUSKeijzerVolt

Verkiezingsprogramma Volt

Stemverwachting: voor (erg zeker, 90%)

Argumenten voor: De partij stelt dat de mens centraal moet blijven staan en het laatste woord moet hebben bij besluitvorming [1]. Daarnaast benadrukt de partij dat AI niet autonoom mag handelen zonder menselijke eindverantwoordelijkheid [2] en dat de controleerbaarheid van algoritmen essentieel is [3].

Argumenten tegen: Er zijn geen fragmenten in het programma die de noodzaak van menselijke controle of veiligheidsmechanismen bij AI-systemen tegenspreken.

Bronnen:

  1. "De overheid moet een nieuw, AI-gedreven, toeslagenschandaal voorkomen. De mens moet centraal blijven staan en het laatste woord hebben bij beslissingen. AI die de overheid inzet, voldoet altijd aan de AI-verordening en de Europese eisen en waarden. Door dit op Europees niveau goed te regelen, is het volgen en uitvoeren van de wet in Nederland gemakkelijker en goedkoper."
  2. "Volt pleit voor duidelijke richtlijnen voor het gebruik van generatieve AI binnen nieuwsredacties en publieke omroepen. Deze richtlijnen moeten waarborgen dat AI geen autonoom nieuws genereert zonder menselijke eindverantwoordelijkheid en redactionele controle. Ook moet worden vermeld wanneer AI is ingezet bij het maken van nieuwsberichten. Transparantie en redactionele integriteit staan hierbij voorop."
  3. "Algoritmen, inclusief daarop gebaseerde kunstmatige intelligentie (AI), mogen niet discrimineren en moeten transparant en herleidbaar zijn. Daarom worden alle algoritmes openbaar gemaakt in het algoritmeregister en vooraf getoetst op mensenrechten en non-discriminatie, zeker bij gebruik in handhaving en toezicht. Bij het ontwikkelen van risicoprofielen binnen algoritmes worden die mensen betrokken die erdoor geraakt kunnen worden. Zo zorgen we voor transparantie, controleerbaarheid en een eerlijke digitale overheid."