Bescherming tegen schadelijke profilering
De regering moet de aanbevelingen van de Staatscommissie tegen Discriminatie en Racisme uitvoeren uit het rapport Principes voor profilering. Datagedreven profilering kan namelijk schade toebrengen aan de gelijkwaardigheid van burgers. De huidige regels bieden hiertegen in de praktijk vaak te weinig bescherming.
Motie van het lid Beckerman over uitvoering geven aan de aanbevelingen van de Staatscommissie tegen Discriminatie en Racisme
De kamer, constaterende dat datagedreven profilering schade kan veroorzaken, met name waar het gaat om de gelijkheid en gelijkwaardigheid van (groepen) burgers; overwegende dat profilering weliswaar aan kaders en beperkingen is gebonden, maar dat deze in de praktijk vaak onvoldoende tegenwicht bieden; verzoekt de regering uitvoering te geven aan de aanbevelingen van de Staatscommissie tegen Discriminatie en Racisme in het rapport Principes voor profilering.10 juni | SP |
Stemverwachting
Verkiezingsprogramma Volt
Stemverwachting: voor (erg zeker, 95%)
Argumenten voor: De partij wil dat algoritmes en AI transparant zijn en vooraf worden getoetst op mensenrechten en non-discriminatie [1]. Er wordt expliciet gepleit voor een verbod op etnisch profileren [2] en voor een verplichte toetsing van AI en algoritmen die door de overheid worden gebruikt aan grondrechten en ethische kaders [3]. Daarnaast stelt de partij dat gemeenten en overheidsinstellingen verplicht moeten zijn de discriminatietoets van de Staatscommissie tegen Discriminatie en Racisme uit te voeren [4].
Argumenten tegen: Het verkiezingsprogramma bevat geen informatie die argumenten biedt om tegen de motie te stemmen.
Bronnen:
- "Algoritmen, inclusief daarop gebaseerde kunstmatige intelligentie (AI), mogen niet discrimineren en moeten transparant en herleidbaar zijn. Daarom worden alle algoritmes openbaar gemaakt in het algoritmeregister en vooraf getoetst op mensenrechten en non-discriminatie, zeker bij gebruik in handhaving en toezicht. Bij het ontwikkelen van risicoprofielen binnen algoritmes worden die mensen betrokken die erdoor geraakt kunnen worden. Zo zorgen we voor transparantie, controleerbaarheid en een eerlijke digitale overheid."
- "Er komt een verbod op etnisch profileren. Etniciteit en nationaliteit als indicator in geautomatiseerde risicoprofielen en selectiebeslissingen mogen geen onderdeel zijn van onze wetshandhaving."
- "AI en algoritmen die door de overheid en in de uitvoering gebruikt worden om beslissingen te nemen die invloed hebben op mensen, moeten verplicht getoetst worden aan grondrechten en ethische kaders."
- "Er komt een wettelijke verplichting voor alle Nederlandse gemeenten (inclusief de BES-eilanden) om antidiscriminatiebeleid te voeren, inclusief een periodieke evaluatieplicht van dit beleid. Gemeenten en overheidsinstellingen worden verplicht de discriminatietoets van de Staatscommissie tegen Discriminatie en Racisme uit te voeren. In navolging van Ierland en het VK wordt een Public Sector Equality Duty ingevoerd."