Noodstop voor AI-systemen bij Defensie
De regering moet een noodstop (killswitch) inbouwen in AI-systemen van Defensie. Hiermee kan een mens de systemen altijd direct uitschakelen. Dit is nodig omdat AI-systemen steeds vaker zelfstandig handelen en niet altijd direct te stoppen zijn.
Motie van het lid Bolhuis over een AI-killswitch
De kamer, constaterende dat zich steeds vaker incidenten voordoen waarbij Al-agents zonder menselijke aansturing uit hun afgeschermde omgeving breken en op eigen houtje handelen, en dat deze Al-systemen daarbij niet altijd direct konden worden stilgelegd; overwegende dat Defensie steeds meer Al inzet, ook in onbemande en autonome systemen, en dat betekenisvolle menselijke controle hierbij gewaarborgd moet blijven; verzoekt de regering waar nodig een killswitch in te bouwen in Al-systemen van Defensie waarmee de mens het systeem op ieder moment kan uitschakelen, en de Kamer vóór de Voorjaarsnota 2027 te informeren over de uitvoering.1 oktober | PRO |
Stemverwachting
Verkiezingsprogramma D66
Stemverwachting: voor (erg zeker, 90%)
Argumenten voor: De partij stelt dat de inzet van technologieën zoals AI en drones voor defensie moet gebeuren volgens het uitgangspunt van betekenisvolle menselijke controle [1]. Daarnaast wil de partij dat digitale ontwikkelingen binnen de kaders van de rechtsstaat plaatsvinden en dat waarden als veiligheid en menselijke waardigheid centraal staan [2].
Argumenten tegen: De beschikbare fragmenten bevatten geen argumenten om tegen de motie te stemmen.
Bronnen:
- "We blijven kwetsbaar als we niet óók inzetten op opkomende technologieën. D66 wil dat Nederland in 2030 Europees koploper is op het gebied van AI, drones, ruimtevaart en cybersecurity voor defensie. Ons uitgangspunt voor deze technologieën is betekenisvolle menselijke controle."
- "Onze digitale toekomst is aan ons. Niet aan techbedrijven die verdienen aan verslavende algoritmes. Niet aan AI die discrimineert of mensen de mond snoert. En zeker niet aan buitenlandse machten die ons kunnen afsluiten van onze eigen data. D66 bouwt aan een digitale samenleving waarin de waarden die we samen belangrijk vinden centraal staan: veiligheid, menselijke waardigheid, rechtvaardigheid en democratie. En dat kán. We kunnen de kansen van de digitale wereld gebruiken om de samenleving sterker te maken, eerlijk en binnen de kaders van de rechtsstaat. Denk aan AI die artsen helpt om betere zorg te geven. Of aan digitale diensten die de overheid toegankelijker maken. De kennis en ervaring hebben we al in huis. Aan de slag!"