De regering moet een noodstop (killswitch) inbouwen in AI-systemen van Defensie. Hiermee kan een mens de systemen altijd direct uitschakelen. Dit is nodig omdat AI-systemen steeds vaker zelfstandig handelen en niet altijd direct te stoppen zijn.
Motie van het lid Bolhuis over een AI-killswitch
De kamer,
constaterende dat zich steeds vaker incidenten voordoen waarbij
Al-agents zonder menselijke aansturing uit hun afgeschermde omgeving
breken en op eigen houtje handelen, en dat deze Al-systemen daarbij niet
altijd direct konden worden stilgelegd;
overwegende dat Defensie steeds meer Al inzet, ook in onbemande en
autonome systemen, en dat betekenisvolle menselijke controle hierbij
gewaarborgd moet blijven;
verzoekt de regering waar nodig een killswitch in te bouwen in
Al-systemen van Defensie waarmee de mens het systeem op ieder
moment kan uitschakelen, en de Kamer vóór de Voorjaarsnota 2027 te
informeren over de uitvoering.
Argumenten voor: De partij ziet de opkomst van kunstmatige intelligentie (AI) als een grote uitdaging met potentieel ontwrichtende gevolgen voor de rechtsstaat, waarvoor duidelijke ethische kaders en regie van de overheid nodig zijn [2]. Ook wordt benadrukt dat de overheid grenzen moet stellen bij de inzet van technieken zoals AI en algoritmes [3]. Daarnaast roept de inzet van autonome wapensystemen morele vragen op [1] en is het voor de partij essentieel dat de inzet van defensie onderdeel is van een beleid met voldoende politieke controle [4].
Argumenten tegen: Het programma bevat geen argumenten tegen het waarborgen van menselijke controle of de regulering van AI-systemen.
Bronnen:
"Veiligheid wordt niet slechts bereikt met militaire middelen. Internationale inzet van de krijgsmacht is onderdeel van een doordachte integrale benadering, in nauwe samenwerking met de inzet van diplomatie, ontwikkelingssamenwerking en de inlichtingen- en veiligheidsdiensten, gericht op een lange termijn commitment, (weder) opbouw, conflictpreventie en civiel-militaire samenwerking. Dit is een extra reden voor ontwikkelingssamenwerking en daarom keren we terug naar de internationale norm om hier 0,7% van het bruto nationaal inkomen aan uit te geven. We zien in gewapende conflicten steeds vaker inzet van (deels) autonome wapensystemen. Dat stelt ons voor grote morele vragen. We willen internationale regulering met betrekking tot de vraag of en onder welke voorwaarden autonome wapensystemen kunnen worden ontwikkeld en ingezet."
"De opkomst van kunstmatige intelligentie (AI) is een van de grootste maatschappelijke uitdagingen van onze tijd, met potentieel ontwrichtende gevolgen voor onder andere de rechtsstaat. Daarom vindt de ChristenUnie dat dit duidelijke ethische kaders en regie van de overheid"
"Digitalisering biedt veel kansen maar kent ook risico's. De overheid moet grenzen stellen waar het gaat om de inzet van technieken en de regulering van ons digitale maatschappelijke verkeer, bijvoorbeeld bij het gebruik van kunstmatige intelligentie en algoritmes. De overheid zelf maakt een gedegen afweging of voor machine learning algoritmes of alternatieven gekozen wordt. Het algoritmeregister wordt uitgebreid en verplicht gesteld, zodat transparant is hoe algoritmes worden ingezet. Ons recht op privacy en onze vrije en ongefilterde toegang tot gegevens kunnen in het gedrang komen als we niet meer grip krijgen op grote techbedrijven die grote hoeveelheden data over ons verzamelen en steeds meer bepalen welke informatie wij zien. Social media bedrijven worden verplicht om minder 'polariserende algoritmes' in te zetten, bijvoorbeeld door gebruikers keuze vrijheid te geven over hoe aanbevelingen tot stand komen."
"De Russische inval in de Oekraïne heeft pijnlijk duidelijk gemaakt dat vrede en vrijheid niet vanzelfsprekend is. Vrijheid kan niet zonder bescherming. De krijgsmacht heeft een duidelijke taak bij het bewaken van die vrijheid, door het grondgebied van Nederland en onze bondgenoten te beschermen en door het bevorderen van de internationale rechtsorde. De nieuwe NAVO-norm vraagt veel van de Nederlandse schatkist, defensieorganisatie en defensie-industrie, maar is noodzakelijk om onze vrijheden te kunnen verdedigen. Onze inzet van de krijgsmacht is onderdeel van een doordachte integrale benadering, in afstemming met de inzet van diplomatie, internationale- en ontwikkelingssamenwerking. Juist omdat het bij defensie om een ultiem machtsmiddel gaat, namelijk de inzet van wapens en militairen, is het belangrijk dat defensie onderdeel is van een integraal veiligheidsbeleid met voldoende politieke controle."