Toets nieuwe fraudeaanpak DUO

De regering moet de nieuwe fraudeaanpak van DUO laten controleren door een externe partij. Zo wordt voorkomen dat het systeem onterecht onderscheid maakt (bias) of discrimineert. Een zorgvuldige aanpak is essentieel na eerdere problemen met fraudecontroles bij de overheid.

Motie van het lid Ergin over de nieuwe fraudeaanpak van DUO extern laten toetsen op proportionaliteit, bias en discriminerende werking

De kamer, constaterende dat DUO op dit moment een nieuwe fraudeaanpak aan het voorbereiden is; overwegende dat, gezien de eerdere aanpak, zorgvuldigheid en het creëren van extra waarborgen tegen directe en indirecte discriminatie noodzakelijk zijn; verzoekt de regering de nieuwe fraudeaanpak extern te laten toetsen op proportionaliteit, bias en (in)directe discriminerende werking alvorens deze wordt uitgerold.
16 april | DENK | Aangenomen: 113–37 |

Stemuitslag

D66VVDGL-PvdACDAJA21CUDENKPvdDSGPSPVolt50PLUS
PVVFVDMarkuszBBBKeijzer

Verkiezingsprogramma Volt

Stemverwachting: voor (erg zeker, 95%)

Argumenten voor: De partij stelt dat algoritmen en AI door de overheid 'verplicht getoetst worden aan grondrechten en ethische kaders' [1]. Daarnaast benadrukken zij dat algoritmen 'niet mogen discrimineren' en 'vooraf getoetst [worden] op mensenrechten en non-discriminatie, zeker bij gebruik in handhaving en toezicht' [2]. Ook pleiten zij voor 'onafhankelijke toetsing' [3]. De motie sluit hier naadloos bij aan door te verzoeken om externe toetsing op proportionaliteit en discriminatie voor een nieuwe fraudeaanpak.

Argumenten tegen: Er is geen directe aanleiding in het verkiezingsprogramma gevonden om tegen het toetsen van fraudeaanpakken op discriminatie en proportionaliteit te stemmen. De enige mogelijke nuancering is dat de partij ook voor een 'stevige, integrale aanpak' bij handhaving pleit [4], maar dit staat niet haaks op het laten uitvoeren van een toetsing vooraf.

Bronnen:

  1. "AI en algoritmen die door de overheid en in de uitvoering gebruikt worden om beslissingen te nemen die invloed hebben op mensen, moeten verplicht getoetst worden aan grondrechten en ethische kaders."
  2. "Algoritmen, inclusief daarop gebaseerde kunstmatige intelligentie (AI), mogen niet discrimineren en moeten transparant en herleidbaar zijn. Daarom worden alle algoritmes openbaar gemaakt in het algoritmeregister en vooraf getoetst op mensenrechten en non-discriminatie, zeker bij gebruik in handhaving en toezicht. Bij het ontwikkelen van risicoprofielen binnen algoritmes worden die mensen betrokken die erdoor geraakt kunnen worden. Zo zorgen we voor transparantie, controleerbaarheid en een eerlijke digitale overheid."
  3. "heldere regie vanuit het Rijk, met structurele monitoring, onafhankelijke toetsing en actieve ondersteuning van lokale capaciteit."
  4. "We pakken discriminatie op de woningmarkt aan met duidelijke wetgeving, gerichte voorlichting en actieve handhaving. We kiezen voor een stevige, integrale aanpak met transparante selectieprocedures, verplichte controle door gemeenten, structurele mystery-onderzoeken en streng optreden tegen overtredingen. Alleen zo garanderen we gelijke toegang tot de woningmarkt voor iedereen."