AI gebruiken tegen online radicalisering

De regering moet regels maken voor het gebruik van AI om online berichten te analyseren. Dit is nodig om extremistische netwerken, zoals het Com-netwerk, sneller op te sporen. Zo wordt de radicalisering van jongeren voorkomen.

Motie van de leden Martens-America en Straatman over het opstellen van een handelingskader voor welke vormen van geautomatiseerde contentanalyse zijn toegestaan

De kamer, constaterende dat vroege signalering van extremistische onlinenetwerken, zoals het Com-netwerk, essentieel is om radicalisering van jongeren tegen te gaan; constaterende dat politie-eenheden terughoudendheid ervaren bij geautomatiseerde contentanalyse, vanwege juridische onduidelijkheid over toelaatbaarheid en reikwijdte; overwegende dat AI-ondersteunde analyse en geautomatiseerde filtering noodzakelijke instrumenten zijn voor een effectieve aanpak van snel evoluerende netwerken, zoals het Com-netwerk; verzoekt de regering in afstemming met politie en OM een handelingskader op te stellen dat verduidelijkt welke vormen van geautomatiseerde contentanalyse zijn toegestaan, en de Kamer hierover voor het einde van 2026 te informeren.
8 september | VVD, CDA | Aangenomen: 124–26 |

Stemuitslag

D66VVDPROCDAJA21MarkuszBBBCUDENKPvdDSGPSPKeijzerVolt50PLUS
PVVFVD

Verkiezingsprogramma PvdD

Stemverwachting: voor (vrij zeker, 80%)

Argumenten voor: De partij wil groepsbelediging, discriminatie en oproepen tot racistisch geweld op sociale media hard bestrijden [2]. Daarnaast vindt de partij dat de overheid zeggenschap moet hebben over de regulering van AI-technologie om maatschappelijke schade door desinformatie en echokamers te voorkomen [3]. Tevens pleit de partij voor een daadkrachtige uitvoering van de Europese AI-verordening en investeert zij in AI-veiligheidsonderzoek [1].

Argumenten tegen: Het programma bevat geen argumenten die de inzet van geautomatiseerde contentanalyse door de politie of de noodzaak van een juridisch kader tegenwerken.

Bronnen:

  1. "AI wordt steeds geavanceerder en overtuigender. Het voert steeds meer taken sneller en vollediger uit dan mensen. Dit brengt grote risico's met zich mee voor de mensheid. Nederland erkent publiekelijk de systemische en existentiële risico's van AI en investeert structureel in AI-veiligheidsonderzoek. Daarnaast worden we aanjager van een daadkrachtige uitvoering van de Europese AI act, en pleiten we voor een internationaal AIveiligheidsverdrag en AI-toezichtsautoriteit."
  2. "Groepsbelediging, digitaal pesten, discriminatie en oproepen tot racistisch geweld op sociale media worden hard bestreden."
  3. "AI-systemen kunnen verschillende antwoorden geven, afhankelijk van wie de vraag stelt en hoe deze geformuleerd wordt. Dit brengt het risico van desinformatie en echokamers met zich mee. Daarom moet het voor gebruikers altijd duidelijk zijn dat AI-antwoorden onjuist kunnen zijn. Transparantie over onzekerheid is essentieel om misleiding en maatschappelijke schade te voorkomen. De overheid, nationaal én Europees, moet zeggenschap krijgen over zowel de AI-infrastructuur (zoals datacenters) als over het ontwerp en de regulering van de technologie zelf. Tegelijk willen we de kansen benutten die AI biedt voor het algemeen belang, zoals bij natuurherstel, dierenbescherming, duurzame zorg en wetenschappelijk onderzoek."