Bescherming tegen schadelijke profilering

De regering moet de aanbevelingen van de Staatscommissie tegen Discriminatie en Racisme uitvoeren uit het rapport Principes voor profilering. Datagedreven profilering kan namelijk schade toebrengen aan de gelijkwaardigheid van burgers. De huidige regels bieden hiertegen in de praktijk vaak te weinig bescherming.

Motie van het lid Beckerman over uitvoering geven aan de aanbevelingen van de Staatscommissie tegen Discriminatie en Racisme

De kamer, constaterende dat datagedreven profilering schade kan veroorzaken, met name waar het gaat om de gelijkheid en gelijkwaardigheid van (groepen) burgers; overwegende dat profilering weliswaar aan kaders en beperkingen is gebonden, maar dat deze in de praktijk vaak onvoldoende tegenwicht bieden; verzoekt de regering uitvoering te geven aan de aanbevelingen van de Staatscommissie tegen Discriminatie en Racisme in het rapport Principes voor profilering.
10 juni | SP |

Stemverwachting

D66VVDPVVCDAJA21FVDMarkuszBBBCUDENKPvdDSGPSP50PLUSKeijzerVolt

Verkiezingsprogramma DENK

Stemverwachting: voor (erg zeker, 95%)

Argumenten voor: De partij wil dat risicomodellen met afkomstgerelateerde gegevens worden verboden [1] en dat 'ras' of herkomst nooit onderdeel mag zijn van risicoprofielen bij de politie [3]. Er wordt gepleit voor een algoritmewet waarin waarborgen voor mensenrechten verplicht zijn en waarin het gebruik van afkomstgerelateerde kenmerken in risicoprofielen wordt verboden [2]. Ook wil de partij dat algoritmes op een niet-discriminerende wijze worden ontworpen en gecontroleerd [2], dat er meer transparantie komt via een algoritmeregister [6] en dat de Autoriteit Persoonsgegevens sterker toezicht krijgt op kunstmatige intelligentie [5]. Daarnaast moeten overheidsinstanties grondig worden doorgelicht op discriminerende algoritmes [4].

Argumenten tegen: Er is in de verstrekte fragmenten geen informatie gevonden die tegen de motie gebruikt kan worden.

Bronnen:

  1. "Beroepsmatige discriminatie door ambtenaren moet zwaarder worden bestraft en risicomodellen met afkomstgerelateerde gegevens worden verboden. De overheid licht zichzelf periodiek door op mogelijke discriminatie."
  2. "Er komt een algoritmewet. In deze wet worden waarborgen voor mensenrechten bij algoritmen verplicht. Het gebruik van afkomstgerelateerde kenmerken in algoritmen en risicoprofielen wordt verboden. Ook worden strenge eisen ingevoerd die verplicht stellen dat algoritmes op non-discriminatoire wijze worden ontworpen, getest én gecontroleerd."
  3. "Wij willen een einde aan etnisch profileren. 'Ras' of herkomst mag nooit onderdeel zijn van risicoprofielen bij politie. Agenten die zich onverbeterlijk schuldig maken aan discriminatie worden ontslagen. We voeren hulpmiddelen in om etnisch profileren te voorkomen en politiewerk te kunnen controleren op gelijke behandeling."
  4. "Volledige doorlichting van de overheid. Alle overheidsinstanties worden grondig doorgelicht op discriminerend beleid en discriminerende algoritmes."
  5. "Sterker toezicht door de Autoriteit Persoonsgegevens. De AP krijgt extra middelen, bredere bevoegdheden en diepgaande expertise op het gebied van kunstmatige intelligentie."
  6. "Algoritmes worden transparant. Er komt een verplicht algoritmeregister, dat geldt voor zowel overheden als bedrijven die algoritmen inzetten."