Noodstop voor AI-systemen bij Defensie

De regering moet een noodstop (killswitch) inbouwen in AI-systemen van Defensie. Hiermee kan een mens de systemen altijd direct uitschakelen. Dit is nodig omdat AI-systemen steeds vaker zelfstandig handelen en niet altijd direct te stoppen zijn.

Motie van het lid Bolhuis over een AI-killswitch

De kamer, constaterende dat zich steeds vaker incidenten voordoen waarbij Al-agents zonder menselijke aansturing uit hun afgeschermde omgeving breken en op eigen houtje handelen, en dat deze Al-systemen daarbij niet altijd direct konden worden stilgelegd; overwegende dat Defensie steeds meer Al inzet, ook in onbemande en autonome systemen, en dat betekenisvolle menselijke controle hierbij gewaarborgd moet blijven; verzoekt de regering waar nodig een killswitch in te bouwen in Al-systemen van Defensie waarmee de mens het systeem op ieder moment kan uitschakelen, en de Kamer vóór de Voorjaarsnota 2027 te informeren over de uitvoering.
1 oktober | PRO |

Stemverwachting

D66VVDPROPVVCDAJA21FVDMarkuszBBBCUDENKPvdDSGPSP50PLUSKeijzerVolt

Verkiezingsprogramma 50plus

Stemverwachting: voor (vrij zeker, 70%)

Argumenten voor: De partij hecht grote waarde aan digitale veiligheid [1] en digitale weerbaarheid [3]. Daarnaast wordt aangegeven dat AI-implementatie door de overheid gecoördineerd moet worden [2], wat aansluit bij het verzoek om een gestandaardiseerde veiligheidsmaatregel zoals een killswitch.

Argumenten tegen: Het programma bevat geen informatie die het belang van veiligheidsmechanismen of menselijke controle bij AI-systemen tegenspreekt.

Bronnen:

  1. "Digitale veiligheid heeft grote urgentie. Er komen digitaal steeds sneller en meer bedreigingen op ons af. We willen dat er extra geïnvesteerd wordt in de veiligheid van onze systemen om onafhankelijk te worden van commerciële en buitenlandse partijen. Brede automatisering met behulp van de modernste technische hulpmiddelen kan leiden tot betere dienstverlening en een prettige gebruikservaring voor bewoners en bijvoorbeeld patiënten. Daardoor is op den duur voor digibeten en digifoben geen conventioneel alternatief meer nodig."
  2. "Digitale zaken en AI-implementatie worden door de overheid beter gecoördineerd."
  3. "Veiligheid en digitale weerbaarheid"