De regering moet regels maken voor het gebruik van AI om online berichten te analyseren. Dit is nodig om extremistische netwerken, zoals het Com-netwerk, sneller op te sporen. Zo wordt de radicalisering van jongeren voorkomen.
Motie van de leden Martens-America en Straatman over het opstellen van een handelingskader voor welke vormen van geautomatiseerde contentanalyse zijn toegestaan
De kamer,
constaterende dat vroege signalering van extremistische onlinenetwerken, zoals het Com-netwerk, essentieel is om radicalisering van
jongeren tegen te gaan;
constaterende dat politie-eenheden terughoudendheid ervaren bij
geautomatiseerde contentanalyse, vanwege juridische onduidelijkheid
over toelaatbaarheid en reikwijdte;
overwegende dat AI-ondersteunde analyse en geautomatiseerde filtering
noodzakelijke instrumenten zijn voor een effectieve aanpak van snel
evoluerende netwerken, zoals het Com-netwerk;
verzoekt de regering in afstemming met politie en OM een handelingskader op te stellen dat verduidelijkt welke vormen van geautomatiseerde
contentanalyse zijn toegestaan, en de Kamer hierover voor het einde van
2026 te informeren.
Argumenten voor: De partij streeft naar het voorkomen van radicalisering en extremisme, in het bijzonder onder jongeren [1]. Ook het bestrijden van desinformatie en maatschappelijke ondermijning is een prioriteit, waarbij zij vinden dat veiligheidsdiensten beter uitgerust moeten zijn om dit te herkennen [4]. Daarnaast wil de partij online criminaliteit effectief aanpakken [5] en contentplatforms verantwoordelijk houden voor actie bij signalen van strafbare content [3].
Argumenten tegen: De partij waarschuwt voor de risico's van AI en wil risicovolle systemen, zoals realtime-gezichts- of emotieherkenning, verbieden [2]. Er is een voorkeur voor gerichte digitale surveillance in plaats van massasurveillance [6] en voor het beschermen van mensenrechten bij het gebruik van AI-software [7].
Bronnen:
"Extremisme, fascisme en radicalisering. We investeren in het voorkomen van radicalisering en extremisme, in het bijzonder onder jongeren. Nederland voert een actieve strategie om de opkomst van radicaal-rechts en fascistische stromingen tegen te gaan. We investeren in antifascistische samenwerking met democratische maatschappelijke bewegingen en partners die opkomen voor mensenrechten en rechtsstaat. Daarbij pakken we antisemitisme, moslimhaat, racisme en lhbti+ en vrouwenhaat aan, zie hoofdstuk 'Democratie, rechtsstaat en gelijke rechten'. We versterken signalering in het onderwijs, op sociale media en in de wijk. Jongeren die dreigen af te glijden, worden tijdig bereikt met hulp, perspectief en stevig tegenwicht. Veiligheid, weerbaarheid en preventie gaan hand in hand."
"Waak voor de risico's van AI. Naast de kansen van AI, zijn we ons bewust van de risico's. Op dit moment is AI te vervuilend, vervaagt het de grens tussen wat echt en nep is en laten we belangrijke taken over aan taalmodellen waardoor we zelf vaardigheden verliezen. We nemen maatregelen om dit te voorkomen. We verbieden riskante AI-systemen, zoals systemen voor realtime-gezichts- of emotieherkenning. AI-gegenereerde content moet altijd als zodanig herkenbaar zijn, met duidelijke bronvermelding. Data voor het trainen van AI-modellen mag alleen zonder dwang of drang en met expliciete toegang verkregen zijn."
"Bestrijden cybercrime. Dagelijks zijn er slachtoffers van online oplichting, fraude, online shaming en het verspreiden van naaktfoto's. We realiseren in Europees verband een hulpknop op platforms die slachtoffers in één klik verwijzen naar hulp. Contentplatforms en internetproviders worden verplicht actie te ondernemen bij afdoende signalen van strafbare content. Nationale autoriteiten moeten daarnaast meer middelen krijgen voor de aanpak van online misbruik zoals cyberpesten, deepfakes, doxing en online shaming. We verankeren dat mensen de rechten behouden op hun eigen gezicht en stem, met uitzondering van satire."
"Bestrijding desinformatie en maatschappelijke ondermijning. We richten een nationaal expertisecentrum op tegen desinformatie en beïnvloeding, dat media, scholen, overheid en burgers ondersteunt. Veiligheidsdiensten moeten beter toegerust zijn om desinformatie en ondermijning te herkennen en te bestrijden."
"Aanpak online misdaad en criminaliteit. Online criminaliteit moet als 'high impact crime' kunnen worden geclassificeerd en behandeld. Zo blijven online misdrijven niet ongestraft. De daders van online haat en bedreigingen, de verspreiders van wraakporno, van kindermisbruikmateriaal en cyberoplichting eerder opgespoord en effectief aangepakt."
"Terrorismebestrijding via gerichte aanpak. Bij de bestrijding van terrorisme ligt de nadruk op het verzamelen van inlichtingen uit menselijke bronnen en gerichte digitale surveillance in plaats van op massasurveillance. De inlichtingenen veiligheidsdiensten zetten hun bevoegdheden gericht in. Toezichthouders houden hun bevoegdheden goed in de gaten en werken samen met andere toezichthouders in betrouwbare Europese landen."
"Beschermen mensenrechten, ook over de grens. Met nieuwe Europese regelgeving voorkomen we het gebruik, de import en de export van (AI-) software in de surveillance- en defensie-industrie die bijdraagt aan mensenrechtenschendingen."