Noodstop voor AI-systemen bij Defensie
De regering moet een noodstop (killswitch) inbouwen in AI-systemen van Defensie. Hiermee kan een mens de systemen altijd direct uitschakelen. Dit is nodig omdat AI-systemen steeds vaker zelfstandig handelen en niet altijd direct te stoppen zijn.
Motie van het lid Bolhuis over een AI-killswitch
De kamer, constaterende dat zich steeds vaker incidenten voordoen waarbij Al-agents zonder menselijke aansturing uit hun afgeschermde omgeving breken en op eigen houtje handelen, en dat deze Al-systemen daarbij niet altijd direct konden worden stilgelegd; overwegende dat Defensie steeds meer Al inzet, ook in onbemande en autonome systemen, en dat betekenisvolle menselijke controle hierbij gewaarborgd moet blijven; verzoekt de regering waar nodig een killswitch in te bouwen in Al-systemen van Defensie waarmee de mens het systeem op ieder moment kan uitschakelen, en de Kamer vóór de Voorjaarsnota 2027 te informeren over de uitvoering.1 oktober | PRO |
Stemverwachting
Verkiezingsprogramma BBB
Stemverwachting: voor (vrij zeker, 80%)
Argumenten voor: De partij streeft naar een verantwoorde inzet van AI met een nadruk op menselijk toezicht [1]. Daarnaast vindt de partij dat technologie altijd in dienst van mensen moet staan en niet andersom [3], waarbij zij vindt dat de overheid de regie niet mag verliezen [3].
Argumenten tegen: De partij wil procesmatige barrières en bureaucratie wegnemen om snelle en effectieve innovatie binnen Defensie te kunnen garanderen [2].
Bronnen:
- "Verantwoorde inzet van AI. De overheid zet AI op een verantwoorde en doelmatige manier in, met nadruk op transparantie, menselijk toezicht en het beperken van risico's."
- "Behalve in Defensie gaan we stap voor stap verantwoord toegroeien naar investeringen die in breed verband bijdragen aan onze veiligheid en weerbaarheid. Deze bredere uitgaven versterken de nationale veerkracht, wat zich uitbetaalt in voordelen voor zowel de krijgsmacht en de economie als de samenleving als geheel. We kiezen ervoor om technologie in te zetten om de efficiëntie van de krijgsmacht te vergroten en onze manschappen zo min mogelijk in gevaar te brengen. We zullen procesmatige barrières en bureaucratie wegnemen om snelle en effectieve innovatie binnen Defensie en de bijbehorende industrie te garanderen. Minder beleid en meer uitvoering."
- "Nederland staat aan de vooravond van een digitale toekomst vol kansen en risico's. Voor BBB staat technologie altijd in dienst van mensen, niet andersom. Echte digitalisering moet ons leven rechtvaardiger, veiliger en meer verbonden maken. Wij geloven in eenvoud, betrouwbare bescherming en autonomie voor Nederland. Helaas raken privacy, zeggenschap en publieke controle te vaak op de achtergrond door buitenlandse afhankelijkheid en een overheid die haar fundamentele regie verliest. BBB erkent ook de noodzaak om de monopoliepositie van big tech te bekritiseren en een strategisch leveranciersbeleid te voeren om afhankelijkheid te verminderen."