Noodstop voor AI-systemen bij Defensie

De regering moet een noodstop (killswitch) inbouwen in AI-systemen van Defensie. Hiermee kan een mens de systemen altijd direct uitschakelen. Dit is nodig omdat AI-systemen steeds vaker zelfstandig handelen en niet altijd direct te stoppen zijn.

Motie van het lid Bolhuis over een AI-killswitch

De kamer, constaterende dat zich steeds vaker incidenten voordoen waarbij Al-agents zonder menselijke aansturing uit hun afgeschermde omgeving breken en op eigen houtje handelen, en dat deze Al-systemen daarbij niet altijd direct konden worden stilgelegd; overwegende dat Defensie steeds meer Al inzet, ook in onbemande en autonome systemen, en dat betekenisvolle menselijke controle hierbij gewaarborgd moet blijven; verzoekt de regering waar nodig een killswitch in te bouwen in Al-systemen van Defensie waarmee de mens het systeem op ieder moment kan uitschakelen, en de Kamer vóór de Voorjaarsnota 2027 te informeren over de uitvoering.
1 oktober | PRO |

Stemverwachting

D66VVDPROPVVCDAJA21FVDMarkuszBBBCUDENKPvdDSGPSP50PLUSKeijzerVolt

Verkiezingsprogramma GL-PvdA

Stemverwachting: voor (vrij zeker, 85%)

Argumenten voor: De partij streeft naar verantwoordelijk gebruik en publieke controle bij het gebruik van technologie [4]. Ze willen de risico's van AI beperken [1] en voorkomen dat AI-software in de defensie-industrie bijdraagt aan mensenrechtenschendingen [2]. Daarnaast steunen zij het verbod op volledig autonome wapens [3].

Argumenten tegen: Het programma bevat geen argumenten die tegen het waarborgen van menselijke controle of het implementeren van veiligheidsmechanismen in defensie-systemen zijn.

Bronnen:

  1. "Waak voor de risico's van AI. Naast de kansen van AI, zijn we ons bewust van de risico's. Op dit moment is AI te vervuilend, vervaagt het de grens tussen wat echt en nep is en laten we belangrijke taken over aan taalmodellen waardoor we zelf vaardigheden verliezen. We nemen maatregelen om dit te voorkomen. We verbieden riskante AI-systemen, zoals systemen voor realtime-gezichts- of emotieherkenning. AI-gegenereerde content moet altijd als zodanig herkenbaar zijn, met duidelijke bronvermelding. Data voor het trainen van AI-modellen mag alleen zonder dwang of drang en met expliciete toegang verkregen zijn."
  2. "Beschermen mensenrechten, ook over de grens. Met nieuwe Europese regelgeving voorkomen we het gebruik, de import en de export van (AI-) software in de surveillance- en defensie-industrie die bijdraagt aan mensenrechtenschendingen."
  3. "Een verantwoord wapenexportbeleid. Nederland moet afgesproken wapenexportregels handhaven en internationaal recht blijft het leidende principe bij militaire samenwerkingen. We steunen de oproep van de VN-secretaris-generaal om volledig autonome wapens bij verdrag te verbieden. We voeren een actief ruimtebeleid en versterken het ruimterecht. Tevens beschermen we in dit kader bestaande wapenbeheersingsafspraken."
  4. "Daarom kiezen we in alles wat we doen voor verantwoordelijk gebruik en publieke controle. In een democratie moeten mensen zich vrij en veilig kunnen uitspreken, zonder dat het gesprek gestuurd wordt door onzichtbare algoritmes of de politieke agenda van buitenlandse techmiljardairs. We creëren eerlijke algoritmes, versterken onze veiligheid en investeren in kunstmatige intelligentie die bijdraagt aan de samenleving. Zo voorkomen we dat de ongelijkheid toeneemt en beschermen we onze vrijheden."