Toets nieuwe fraudeaanpak DUO

De regering moet de nieuwe fraudeaanpak van DUO laten controleren door een externe partij. Zo wordt voorkomen dat het systeem onterecht onderscheid maakt (bias) of discrimineert. Een zorgvuldige aanpak is essentieel na eerdere problemen met fraudecontroles bij de overheid.

Motie van het lid Ergin over de nieuwe fraudeaanpak van DUO extern laten toetsen op proportionaliteit, bias en discriminerende werking

De kamer, constaterende dat DUO op dit moment een nieuwe fraudeaanpak aan het voorbereiden is; overwegende dat, gezien de eerdere aanpak, zorgvuldigheid en het creëren van extra waarborgen tegen directe en indirecte discriminatie noodzakelijk zijn; verzoekt de regering de nieuwe fraudeaanpak extern te laten toetsen op proportionaliteit, bias en (in)directe discriminerende werking alvorens deze wordt uitgerold.
16 april | DENK | Aangenomen: 113–37 |

Stemuitslag

D66VVDGL-PvdACDAJA21CUDENKPvdDSGPSPVolt50PLUS
PVVFVDMarkuszBBBKeijzer

Verkiezingsprogramma DENK

Stemverwachting: voor (erg zeker, 95%)

Argumenten voor: De partij pleit expliciet voor een 'volledige doorlichting van de overheid' op discriminerende algoritmes [2] en wil dat veiligheidsbeleid en fraudebestrijding worden doorgelicht op structurele discriminatie [3]. Daarnaast stelt het programma een algoritmewet voor waarin wordt verplicht dat algoritmes op non-discriminatoire wijze worden ontworpen, getest en gecontroleerd [4]. Het extern laten toetsen van de nieuwe fraudeaanpak van DUO sluit direct aan bij de wens om 'risicomodellen met afkomstgerelateerde gegevens' te verbieden en de overheid periodiek door te lichten op discriminatie [1].

Argumenten tegen: Er zijn in de verstrekte fragmenten geen argumenten te vinden die pleiten tegen het extern toetsen van overheidsbeleid op discriminatie of proportionaliteit. Integendeel, de partij dringt aan op maximale controle en waarborgen tegen discriminatie door de overheid [2][4].

Bronnen:

  1. "Beroepsmatige discriminatie door ambtenaren moet zwaarder worden bestraft en risicomodellen met afkomstgerelateerde gegevens worden verboden. De overheid licht zichzelf periodiek door op mogelijke discriminatie."
  2. "Volledige doorlichting van de overheid. Alle overheidsinstanties worden grondig doorgelicht op discriminerend beleid en discriminerende algoritmes."
  3. "De overheid wordt doorgelicht op moslimhaat. Het veiligheidsbeleid en de fraudebestrijding worden doorgelicht op moslimdiscriminatie. Het plaatsen van moslims op lijsten en het wantrouwen in het beleid gaan tot het verleden behoren. De discriminatie van moslims door banken als gevolg van de WWFT wordt gestopt. Bevooroordeelde inperkingen van vrijheden bij islamitische evenementen of islamitische sprekers vinden niet meer plaats."
  4. "Er komt een algoritmewet. In deze wet worden waarborgen voor mensenrechten bij algoritmen verplicht. Het gebruik van afkomstgerelateerde kenmerken in algoritmen en risicoprofielen wordt verboden. Ook worden strenge eisen ingevoerd die verplicht stellen dat algoritmes op non-discriminatoire wijze worden ontworpen, getest én gecontroleerd."