Toets nieuwe fraudeaanpak DUO

De regering moet de nieuwe fraudeaanpak van DUO laten controleren door een externe partij. Zo wordt voorkomen dat het systeem onterecht onderscheid maakt (bias) of discrimineert. Een zorgvuldige aanpak is essentieel na eerdere problemen met fraudecontroles bij de overheid.

Motie van het lid Ergin over de nieuwe fraudeaanpak van DUO extern laten toetsen op proportionaliteit, bias en discriminerende werking

De kamer, constaterende dat DUO op dit moment een nieuwe fraudeaanpak aan het voorbereiden is; overwegende dat, gezien de eerdere aanpak, zorgvuldigheid en het creëren van extra waarborgen tegen directe en indirecte discriminatie noodzakelijk zijn; verzoekt de regering de nieuwe fraudeaanpak extern te laten toetsen op proportionaliteit, bias en (in)directe discriminerende werking alvorens deze wordt uitgerold.
16 april | DENK | Aangenomen: 113–37 |

Stemuitslag

D66VVDGL-PvdACDAJA21CUDENKPvdDSGPSPVolt50PLUS
PVVFVDMarkuszBBBKeijzer

Verkiezingsprogramma CU

Stemverwachting: voor (vrij zeker, 80%)

Argumenten voor: De partij benadrukt dat de overheid grenzen moet stellen aan de inzet van algoritmes en technieken, en pleit voor transparantie en ethische kaders [3][2]. Gezien de focus op het voorkomen van discriminatie [1] en de verantwoordelijkheid van de overheid bij digitale systemen, past een externe toetsing op proportionaliteit en bias bij hun standpunten over digitalisering en ethiek.

Argumenten tegen: Er zijn geen specifieke argumenten in de tekst gevonden die tegen het extern laten toetsen van een overheidsfraudeaanpak pleiten.

Bronnen:

  1. "scherpen we wet- en regelgeving om racisme en discriminatie tegen te gaan verder aan."
  2. "De opkomst van kunstmatige intelligentie (AI) is een van de grootste maatschappelijke uitdagingen van onze tijd, met potentieel ontwrichtende gevolgen voor onder andere de rechtsstaat. Daarom vindt de ChristenUnie dat dit duidelijke ethische kaders en regie van de overheid"
  3. "Digitalisering biedt veel kansen maar kent ook risico's. De overheid moet grenzen stellen waar het gaat om de inzet van technieken en de regulering van ons digitale maatschappelijke verkeer, bijvoorbeeld bij het gebruik van kunstmatige intelligentie en algoritmes. De overheid zelf maakt een gedegen afweging of voor machine learning algoritmes of alternatieven gekozen wordt. Het algoritmeregister wordt uitgebreid en verplicht gesteld, zodat transparant is hoe algoritmes worden ingezet. Ons recht op privacy en onze vrije en ongefilterde toegang tot gegevens kunnen in het gedrang komen als we niet meer grip krijgen op grote techbedrijven die grote hoeveelheden data over ons verzamelen en steeds meer bepalen welke informatie wij zien. Social media bedrijven worden verplicht om minder 'polariserende algoritmes' in te zetten, bijvoorbeeld door gebruikers keuze vrijheid te geven over hoe aanbevelingen tot stand komen."