Noodstop voor AI-systemen bij Defensie

De regering moet een noodstop (killswitch) inbouwen in AI-systemen van Defensie. Hiermee kan een mens de systemen altijd direct uitschakelen. Dit is nodig omdat AI-systemen steeds vaker zelfstandig handelen en niet altijd direct te stoppen zijn.

Motie van het lid Bolhuis over een AI-killswitch

De kamer, constaterende dat zich steeds vaker incidenten voordoen waarbij Al-agents zonder menselijke aansturing uit hun afgeschermde omgeving breken en op eigen houtje handelen, en dat deze Al-systemen daarbij niet altijd direct konden worden stilgelegd; overwegende dat Defensie steeds meer Al inzet, ook in onbemande en autonome systemen, en dat betekenisvolle menselijke controle hierbij gewaarborgd moet blijven; verzoekt de regering waar nodig een killswitch in te bouwen in Al-systemen van Defensie waarmee de mens het systeem op ieder moment kan uitschakelen, en de Kamer vóór de Voorjaarsnota 2027 te informeren over de uitvoering.
1 oktober | PRO |

Stemverwachting

D66VVDPROPVVCDAJA21FVDMarkuszBBBCUDENKPvdDSGPSP50PLUSKeijzerVolt

Verkiezingsprogramma DENK

Stemverwachting: voor (vrij zeker, 85%)

Argumenten voor: De partij streeft naar digitale veiligheid [2] en de bescherming van digitale mensenrechten tegen de macht van technologie [3]. Daarnaast wil de partij dat algoritmen worden gecontroleerd via strenge eisen [1] en dat de menselijke maat verplicht wordt ingebouwd in wetgeving om fouten door technologie te voorkomen [4].

Argumenten tegen: Er zijn geen fragmenten in het programma die de noodzaak van menselijke controle of technische veiligheidsmechanismen bij AI-systemen tegenspreken.

Bronnen:

  1. "Er komt een algoritmewet. In deze wet worden waarborgen voor mensenrechten bij algoritmen verplicht. Het gebruik van afkomstgerelateerde kenmerken in algoritmen en risicoprofielen wordt verboden. Ook worden strenge eisen ingevoerd die verplicht stellen dat algoritmes op non-discriminatoire wijze worden ontworpen, getest én gecontroleerd."
  2. "Veilige infrastructuur. Er moet meer geïnvesteerd worden in digitale veiligheid. We moeten ook inzetten op onafhankelijkheid van onze systemen van andere landen en grote bedrijven."
  3. "De toenemende toepassing van algoritmen en risicomodellen raakt aan fundamentele rechten. Daarom maken wij ons hard voor de bescherming van digitale mensenrechten: het recht op eerlijke behandeling, op privacy en op bescherming tegen machtsmisbruik door technologie:"
  4. "De overheid moet opnieuw uitgaan van vertrouwen in mensen. Er moet een grondige toetsing komen op de gevolgen die nieuwe wetsvoorstellen op mensen hebben. De menselijke maat wordt verplicht ingebouwd in wetgeving en harde regels die mensen benadelen worden afgeschaft."