Veilige publieke AI voor het onderwijs

De regering moet met Kennisnet, SURF en SIVON een plan maken voor een veilige, publieke Nederlandse AI-voorziening. De huidige AI-systemen, zoals ChatGPT, zijn commercieel en niet gemaakt voor het onderwijs. Een eigen voorziening beschermt de privacy van kinderen en zorgt dat scholen minder afhankelijk worden van grote technologiebedrijven.

Motie van de leden Rooderkerk en Moorman over een voorstel uitwerken voor een veilige publieke Nederlandse AI-voorziening

De kamer, constaterende dat onderwijsinstellingen moeite hebben om grip te houden op de snelle ontwikkelingen van generatieve AI; constaterende dat kinderen in het funderend onderwijs zich nog moeten ontwikkelen op het gebied van digitale vaardigheden, waardoor zij extra bescherming behoeven; constaterende dat bestaande AI-systemen, zoals ChatGPT, veelal commercieel zijn en niet specifiek zijn ingericht op de pedagogische en didactische behoeften van het onderwijs; overwegende dat een publieke AI-voorziening kan bijdragen aan het reguleren van AI-gebruik op basis van wet- en regelgeving en het borgen van publieke waarden zoals privacy, veiligheid en gelijke kansen; overwegende dat slechts 5% van de scholen in het funderend onderwijs nu AI-beleid heeft en dat het hebben van zo’n voorziening ook hieraan kan bijdragen; overwegende dat een dergelijke voorziening scholen in staat stelt om AI op een gecontroleerde en pedagogisch verantwoorde manier in te zetten en hen minder afhankelijk maakt van big tech; verzoekt de regering samen met Kennisnet, SURF en SIVON een voorstel uit te werken voor een veilige publieke Nederlandse AI-voorziening, en de Kamer dit voor de begrotingsbehandeling te sturen, inclusief financiering, implementatiestrategie en professionalisering van leraren.

10 juni | D66 |

Stemverwachting

D66 VVD PVV CDA JA21 FVD Markusz BBB CU DENK PvdD SGP SP 50PLUS Keijzer Volt

Verkiezingsprogramma CU

Stemverwachting: voor (erg zeker, 90%)

Argumenten voor: De partij ziet de opkomst van AI als een grote maatschappelijke uitdaging die duidelijke ethische kaders en regie van de overheid vereist ^[1]. Er wordt benadrukt dat de overheid grenzen moet stellen aan de inzet van technologie en algoritmes om de privacy te beschermen en de invloed van grote techbedrijven te beperken ^[2]. Daarnaast wil de partij voorkomen dat de overheid afhankelijk wordt van niet-Europese techbedrijven en streeft naar het gebruik van Europese alternatieven of open source oplossingen ^[4]. Ook het beschermen van kinderen in de digitale wereld is een prioriteit, omdat zij momenteel aan grote techbedrijven worden overgeleverd ^[5].

Argumenten tegen: De partij stelt dat de overheid de uitvoering van onderwijs in handen van scholen moet laten en alleen randvoorwaarden moet stellen ^[3]. Een grootschalige publieke voorziening zou theoretisch de autonomie van scholen kunnen beïnvloeden.

Bronnen:

"De opkomst van kunstmatige intelligentie (AI) is een van de grootste maatschappelijke uitdagingen van onze tijd, met potentieel ontwrichtende gevolgen voor onder andere de rechtsstaat. Daarom vindt de ChristenUnie dat dit duidelijke ethische kaders en regie van de overheid"
"Digitalisering biedt veel kansen maar kent ook risico's. De overheid moet grenzen stellen waar het gaat om de inzet van technieken en de regulering van ons digitale maatschappelijke verkeer, bijvoorbeeld bij het gebruik van kunstmatige intelligentie en algoritmes. De overheid zelf maakt een gedegen afweging of voor machine learning algoritmes of alternatieven gekozen wordt. Het algoritmeregister wordt uitgebreid en verplicht gesteld, zodat transparant is hoe algoritmes worden ingezet. Ons recht op privacy en onze vrije en ongefilterde toegang tot gegevens kunnen in het gedrang komen als we niet meer grip krijgen op grote techbedrijven die grote hoeveelheden data over ons verzamelen en steeds meer bepalen welke informatie wij zien. Social media bedrijven worden verplicht om minder 'polariserende algoritmes' in te zetten, bijvoorbeeld door gebruikers keuze vrijheid te geven over hoe aanbevelingen tot stand komen."
"Nederlandse kinderen kunnen steeds slechter rekenen en schrijven. Deze trend is zorgelijk en moet gekeerd. Basisvaardigheden dienen gedurende de hele schoolcarrière onderhouden te worden. De overheid respecteert dat de uitvoering in handen is van scholen en stelt alleen randvoorwaarden. Scholen waarvan kinderen goed presteren delen hun lessen met andere scholen. We blijven investeren in voor- en vroegschoolse educatie en nieuwkomersonderwijs."
"Digitale platforms die door overheden worden ingezet om heimelijk de publieke opinie te beïnvloeden of desinformatie te verspreiden, worden verboden. De overheid zorgt ervoor dat ze zelf niet afhankelijk wordt van niet-Europese techbedrijven, door zo veel mogelijk gebruik te maken van Europese alternatieven of open source oplossingen. Er komt een stevige Europese zorgplicht voor digitale platforms en hostingbedrijven om op te treden tegen strafbare uitingen en gedragingen wanneer die op of door middel van deze platforms plaatsvinden. Uitgangspunt is hierbij dat wat in de fysieke wereld niet is toegestaan, ook digitaal niet is toegestaan. Via het auteursrecht krijgen Nederlanders, naar Deens voorbeeld, copyright op hun eigen lichaam, gezichtskenmerken en stem, als vorm van bescherming van de lichamelijke integriteit. Er komt een beter wettelijk geborgd recht op een schone lei, zodat consumenten op een duidelijke plek een verzoek kunnen indienen om al hun data te laten vernietigen."
"Voor het eerst groeit een generatie grotendeels digitaal op. Naast de positieve kanten van de digitale wereld is dit een experiment met potentieel ontwrichtende gevolgen, voor kinderen én de samenleving als geheel. Kinderen hebben het recht veilig op te groeien, ook online. De overheid doet er veel aan om kinderen in de fysieke wereld tegen gevaar en ongezonde invloeden te beschermen. Dit terwijl kinderen in de digitale wereld aan grote techbedrijven worden overgeleverd. Het terugdringen van de negatieve invloed van smartphones en social media is een zaak van de hele samenleving. De verantwoordelijkheid hoe om te gaan met smartphones en sociale media ligt in eerste instantie bij ouders, maar met duidelijke wettelijke omkadering. Dat betekent dat sociale media niet toegankelijk mogen zijn voor kinderen jonger dan 14 jaar. Adequate leeftijdsverificatie is noodzakelijk voor sociale media, platformen met expliciete content (porno, geweld), goksites, kopen van alcohol, BNPL-diensten. Ook moet het mogelijk zijn voor 18-jarigen om op een toegankelijke manier hun gegevens permanent te kunnen wissen. Sociale mediabedrijven worden verplicht hun producten minder verslavend te maken. Smartphones worden geweerd uit scholen en ouder-initiatieven zoals 'Smartphonevrij opgroeien' gestimuleerd."