Oprichting van een AI-veiligheidsinstituut

De regering moet een AI-veiligheidsinstituut oprichten. De snelle ontwikkeling van kunstmatige intelligentie (AI) zorgt voor onbekende risico's voor de digitale veiligheid van bedrijven en de overheid. Dit nieuwe instituut moet nauw samenwerken met vergelijkbare organisaties in Duitsland, Frankrijk en Engeland om deze risico's en kansen te beheersen.

Motie van het lid Dassen over het oprichten van een AI-Veiligheidsinstituut, in nauwe samenwerking met soortgelijke instituten in Duitsland en Frankrijk

De kamer, constaterende dat de gevolgen van de snelle ontwikkeling van AI op de digitale veiligheid momenteel onbekend zijn voor zowel private partijen als overheidsinstellingen zelf; overwegende dat een instituut bedrijven en overheid kan helpen bij de kansen en risico’s omtrent AI; verzoekt de regering tot het oprichten van een AI-veiligheidsinstituut, in nauwe samenwerking met soortgelijke instituten in Duitsland, Frankrijk en Engeland.
17 september | Volt | Aangenomen: 123–27 |

Stemuitslag

D66VVDPROPVVCDACUDENKPvdDSGPSPVolt50PLUS
JA21FVDMarkuszBBBKeijzer

Verkiezingsprogramma PvdD

Stemverwachting: voor (erg zeker, 95%)

Argumenten voor: De partij erkent de risico's die AI met zich meebrengt voor de mensheid [1] en wil daarom structureel investeren in onderzoek naar AI-veiligheid [1]. Daarnaast streeft de partij naar een internationale AI-toezichtsautoriteit [1] en wil zij dat AI onder publieke en democratische controle komt [4], waarbij onderzoek naar de maatschappelijke impact als basis voor beleid dient [2]. Tevens wil de partij structurele financiering voor toezicht en handhaving op de ethiek en beheersbaarheid van AI-systemen [3].

Argumenten tegen: Het programma bevat geen argumenten tegen de motie.

Bronnen:

  1. "AI wordt steeds geavanceerder en overtuigender. Het voert steeds meer taken sneller en vollediger uit dan mensen. Dit brengt grote risico's met zich mee voor de mensheid. Nederland erkent publiekelijk de systemische en existentiële risico's van AI en investeert structureel in AI-veiligheidsonderzoek. Daarnaast worden we aanjager van een daadkrachtige uitvoering van de Europese AI act, en pleiten we voor een internationaal AIveiligheidsverdrag en AI-toezichtsautoriteit."
  2. "Er komt structurele financiering voor onafhankelijk onderzoek naar de ecologische en maatschappelijke impact van AI. Bij die laatste categorie is expliciet aandacht voor effecten op autonomie, taal, denken en (sociaal) gedrag, en de risico's voor rechtstaat en democratie. Onderzoeksresultaten worden publiek beschikbaar gemaakt en gebruikt voor educatie om de weerbaarheid van burgers te vergroten. Ze vormen daarnaast een basis voor beleid."
  3. "Alle AI-systemen die invloed hebben op mensenlevens, inclusief systemen die worden ingezet ten behoeve van de veiligheid, worden aan de voorkant ontworpen en later getoetst op beheersbaarheid, ethiek, lichamelijke integriteit en privacy. Deze systemen moeten aantoonbaar anti-discriminatoir zijn. Er wordt structureel geld uitgetrokken voor toezicht en handhaving hierop, waarbij er ook verboden kunnen worden ingesteld."
  4. "Kunstmatige intelligentie (AI) ontwikkelt zich razendsnel en dringt steeds dieper door in ons dagelijks leven. Deze technologie wordt nu grotendeels gestuurd door de belangen van grote techbedrijven, waarbij risico's voor samenleving, mens en natuur worden genegeerd ten gunste van winstmaximalisatie. De Partij voor de Dieren wil dat AI snel onder publieke en democratische controle komt, met nadrukkelijke aandacht voor ecologische grenzen, mensenrechten, dierenwelzijn, mededogen en sociale rechtvaardigheid."