Verbod op AI-nepbeelden van de Holocaust

De regering moet een verbod leggen op het verspreiden van AI-gemaakte nepbeelden van de Holocaust. Deze nepfoto's en video's zorgen ervoor dat de geschiedenis van de Holocaust wordt verdraaid of kleiner gemaakt. Dit is een groot risico voor de strijd tegen antisemitisme.

Motie van het lid Bamenga c.s. over een verbod op de verspreiding van AI-gegenereerde beelden van de Holocaust

De kamer, constaterende dat Holocaustherdenkingscentra in een brandbrief waarschuwen voor de toenemende verspreiding van door AI gegenereerde nepbeelden van de Holocaust op socialemediaplatforms; overwegende dat de verspreiding van dergelijke nepbeelden kan resulteren in bagatellisering en verdraaiing van de geschiedenis; van mening dat het actief bevorderen van kennis over de Holocaust een onmisbaar onderdeel van antisemitismebestrijding is; verzoekt de regering om een verbod te leggen op de verspreiding van AI-gegenereerde beelden van de Holocaust.
21 april | D66, 50PLUS, CDA, CU, GL-PvdA, PvdD, SGP | Aangenomen: 127–23 |

Stemuitslag

D66VVDGL-PvdAPVVCDABBBCUDENKPvdDSGPSPKeijzerVolt50PLUS
JA21FVDMarkusz

Verkiezingsprogramma GL-PvdA

Stemverwachting: voor (erg zeker, 90%)

Argumenten voor: De partij stelt dat antisemitisme toeneemt en wil dit bestrijden door zowel online haat tegen te gaan als kennis over de Joodse geschiedenis te vergroten [1]. Gezien de partij expliciet aandacht vraagt voor de Holocaust in het onderwijs [4] en stelt dat sociale media de voedingsbodem zijn waar antisemitisme kan uitgroeien tot gewelddadige acties [7], past het verbieden van nepbeelden die de geschiedenis verdraaien binnen hun doel om online haat en desinformatie te bestrijden [5].

Argumenten tegen: De partij benadrukt dat digitale beïnvloeding en desinformatie moet worden aangepakt met respect voor de vrijheid van meningsuiting van privépersonen [6]. Een algemeen verbod op specifieke beelden zou in theorie door een tegenstander als een inbreuk op deze vrijheid kunnen worden gezien, al zijn er andere passages die strengere regulering van AI en contentplatforms voorstaan [2][3].

Bronnen:

  1. "Antisemitisme tegengaan. Antisemitisme neemt de afgelopen jaren schrikbarend toe. We bestrijden antisemitisme door online haat tegen te gaan en kennis over de Joodse geschiedenis en cultuur te vergroten. Antisemitische incidenten pakken we hard aan met passende straffen, en we zorgen dat slachtoffers laagdrempelig aangifte kunnen doen bij getrainde discriminatierechercheurs. We zorgen voor voldoende beveiliging bij Joodse instellingen."
  2. "Waak voor de risico's van AI. Naast de kansen van AI, zijn we ons bewust van de risico's. Op dit moment is AI te vervuilend, vervaagt het de grens tussen wat echt en nep is en laten we belangrijke taken over aan taalmodellen waardoor we zelf vaardigheden verliezen. We nemen maatregelen om dit te voorkomen. We verbieden riskante AI-systemen, zoals systemen voor realtime-gezichts- of emotieherkenning. AI-gegenereerde content moet altijd als zodanig herkenbaar zijn, met duidelijke bronvermelding. Data voor het trainen van AI-modellen mag alleen zonder dwang of drang en met expliciete toegang verkregen zijn."
  3. "Bestrijden cybercrime. Dagelijks zijn er slachtoffers van online oplichting, fraude, online shaming en het verspreiden van naaktfoto's. We realiseren in Europees verband een hulpknop op platforms die slachtoffers in één klik verwijzen naar hulp. Contentplatforms en internetproviders worden verplicht actie te ondernemen bij afdoende signalen van strafbare content. Nationale autoriteiten moeten daarnaast meer middelen krijgen voor de aanpak van online misbruik zoals cyberpesten, deepfakes, doxing en online shaming. We verankeren dat mensen de rechten behouden op hun eigen gezicht en stem, met uitzondering van satire."
  4. "Discriminatie bestrijden. I n het onderwijs besteden we meer aandacht aan de gevolgen van discriminatie, LHBTIQA+haat, antisemitisme, moslimdiscriminatie, discriminatie van nieuwkomers en uitsluiting. We waarborgen aandacht voor onder andere het koloniale verleden, slavernij, de Holocaust, de Joodse cultuur, de diverse LHBTIQA+gemeenschap en de verrijking van onze cultuur door nieuwkomers. We maken middelen vrij voor initiatieven die zich inzetten voor meer bewustwording, zoals het Nationaal Plan Versterking Holocausteducatie, projecten tegen moslimhaat, het programma Internationaal decennium voor mensen van Afrikaanse afkomst en programma's gericht op het versterken van de regenbooggemeenschap. De Nationaal Coördinator Antisemitismebestrijding (NCAB) en de Nationaal Coördinator Discriminatie en Racisme (NCDR) zetten hun belangrijke werk voort, waarbij de NCDR expliciet de opdracht krijgt om ook te focussen op de lhbti+ gemeenschap. Lesmateriaal moet inclusiever en qua representatie meer recht doen aan de huidige diverse samenleving."
  5. "Nepnieuws aan banden leggen. Met Europese wetgeving als de Digital Services Act bestrijden we nepnieuws en desinformatie die via sociale media worden verspreid. Ook moeten er moderatieverplichtingen gelden."
  6. "Bestrijd digitale beïnvloeding. Sociale media worden misbruikt om mensen tegen elkaar op te hitsen en verkiezingen te beïnvloeden. Digitale beïnvloeding gebeurt door bots, AI-afbeeldingen en desinformatie en wordt gecoördineerd door kwaadwillende landen. We leren van andere EU-landen en eisen transparantie van techgiganten over hun algoritmen en verdachte campagnes. Altijd met respect voor de vrijheid van meningsuiting van privépersonen."
  7. "Online haat. Haat begint niet met het bekladden van een synagoge of moskee, of met het verbranden van een regenboogvlag of het mishandelen van een vrouw. Het begint met woorden. Sociale media bieden de voedingsbodem bij uitstek waar ontkiemend antisemitisme, moslimhaat, vrouwenhaat, discriminatie en racisme kunnen uitgroeien tot gewelddadige acties. In Europa geven we snel een vervolg op de Digital Services Act, zodat we online haat beter kunnen bestrijden."