AI gebruiken tegen online radicalisering
De regering moet regels maken voor het gebruik van AI om online berichten te analyseren. Dit is nodig om extremistische netwerken, zoals het Com-netwerk, sneller op te sporen. Zo wordt de radicalisering van jongeren voorkomen.
Motie van de leden Martens-America en Straatman over het opstellen van een handelingskader voor welke vormen van geautomatiseerde contentanalyse zijn toegestaan
De kamer, constaterende dat vroege signalering van extremistische onlinenetwerken, zoals het Com-netwerk, essentieel is om radicalisering van jongeren tegen te gaan; constaterende dat politie-eenheden terughoudendheid ervaren bij geautomatiseerde contentanalyse, vanwege juridische onduidelijkheid over toelaatbaarheid en reikwijdte; overwegende dat AI-ondersteunde analyse en geautomatiseerde filtering noodzakelijke instrumenten zijn voor een effectieve aanpak van snel evoluerende netwerken, zoals het Com-netwerk; verzoekt de regering in afstemming met politie en OM een handelingskader op te stellen dat verduidelijkt welke vormen van geautomatiseerde contentanalyse zijn toegestaan, en de Kamer hierover voor het einde van 2026 te informeren.8 september | VVD, CDA | Aangenomen: 124–26 |
Stemuitslag
Verkiezingsprogramma DENK
Stemverwachting: voor (vrij zeker, 85%)
Argumenten voor: De partij wil een Nationaal Programma Aanpak Rechts-extremisme gericht op preventie en handhaving [1]. Daarnaast wordt het inzetten van algoritmen voor monitoring genoemd, zoals een hatespeech detector die online discriminatie opspoort [2]. Tot slot pleit de partij voor een algoritmewet waarin waarborgen voor mensenrechten zijn opgenomen en waarin strenge eisen worden gesteld aan de controle en het ontwerp van algoritmen [3].
Argumenten tegen: Het programma bevat geen fragmenten die een juridisch handelingskader voor geautomatiseerde contentanalyse tegenspreken.
Bronnen:
- "Er moet een Nationaal Programma Aanpak Rechts-extremisme komen, gericht op preventie, handhaving en deradicalisering."
- "Permanente monitoring. Er komt een permanente Discriminatiemonitor waarin de ervaren discriminatie onderzocht wordt. Online komt er een hatespeech detector die door middel van een algoritme online discriminatie opspoort."
- "Er komt een algoritmewet. In deze wet worden waarborgen voor mensenrechten bij algoritmen verplicht. Het gebruik van afkomstgerelateerde kenmerken in algoritmen en risicoprofielen wordt verboden. Ook worden strenge eisen ingevoerd die verplicht stellen dat algoritmes op non-discriminatoire wijze worden ontworpen, getest én gecontroleerd."