Noodstop voor AI-systemen bij Defensie
De regering moet een noodstop (killswitch) inbouwen in AI-systemen van Defensie. Hiermee kan een mens de systemen altijd direct uitschakelen. Dit is nodig omdat AI-systemen steeds vaker zelfstandig handelen en niet altijd direct te stoppen zijn.
Motie van het lid Bolhuis over een AI-killswitch
De kamer, constaterende dat zich steeds vaker incidenten voordoen waarbij Al-agents zonder menselijke aansturing uit hun afgeschermde omgeving breken en op eigen houtje handelen, en dat deze Al-systemen daarbij niet altijd direct konden worden stilgelegd; overwegende dat Defensie steeds meer Al inzet, ook in onbemande en autonome systemen, en dat betekenisvolle menselijke controle hierbij gewaarborgd moet blijven; verzoekt de regering waar nodig een killswitch in te bouwen in Al-systemen van Defensie waarmee de mens het systeem op ieder moment kan uitschakelen, en de Kamer vóór de Voorjaarsnota 2027 te informeren over de uitvoering.1 oktober | PRO |
Stemverwachting
Verkiezingsprogramma SP
Stemverwachting: voor (vrij zeker, 70%)
Argumenten voor: De partij streeft naar een digitaal voorzorgsprincipe om mensen te beschermen tegen de nadelen van digitalisering [1]. Hierbij wordt expliciet gesteld dat beslissingen die mensen raken nooit uitsluitend door een algoritme genomen mogen worden [1].
Argumenten tegen: Het programma bevat geen argumenten tegen het waarborgen van menselijke controle over AI-systemen of het inbouwen van veiligheidsmechanismen.
Bronnen:
- "Iedereen heeft recht om ook offline te kunnen leven, en de overheid moet dat mogelijk maken. We zorgen ervoor dat iedereen die dat wil digitaal kan meedoen, maar bieden ook alternatieven voor wie dat niet wil. De overheid moet de digitalisering van de samenleving in goede banen leiden en mensen beschermen tegen de nadelen ervan, door een digitaal voorzorgsprincipe te hanteren. Beslissingen die mensen raken, mogen nooit alleen door een algoritme worden genomen."