"Mag mijn kind eigenlijk wel met AI werken? Er staat een leeftijdsgrens op die apps." Grote kans dat je deze vraag een keer krijgt, op het schoolplein, tijdens een oudergesprek of op een ouderavond. Veel ouders denken dat het wettelijk verboden is om onder een bepaalde leeftijd AI te gebruiken. In deze blog lees je hoe het echt zit, met de wetsartikelen erbij, zodat jij ouders een helder antwoord kunt geven.
Vanaf welke leeftijd mag je AI gebruiken?
De Europese AI-wet, de AI Act, zegt niet vanaf welke leeftijd een kind een AI-tool mag gebruiken.
Veel ouders, en ook veel collega's, denken van wel. Logisch, want Gemini blokkeert bijvoorbeeld zodra je een leeftijd onder de 18 invult of werkt alleen met een schoolaccount, en ChatGPT vraagt of je jonger of ouder dan 13 jaar bent als je een account aanmaakt. Dat voelt als een wettelijke grens, en toch komt die grens ergens anders vandaan.
Wat de wet wél regelt
De wet zegt wél dat kinderen een kwetsbare groep zijn, en verbiedt aanbieders om op die kwetsbaarheid in te spelen. Dat verbod staat in artikel 5 lid 1 onder b van de AI Act, dat het uitbuiten van kwetsbaarheden vanwege leeftijd expliciet noemt. Daarom is onder andere ook de transparantieplicht voor bedrijven onlangs ingegaan, die vind je in artikel 50. Want kinderen, en overigens alle andere gebruikers ook, moeten het direct weten als ze met AI in aanraking komen.
Ook mag AI in het onderwijs niet ingezet worden om emoties te herkennen, dat verbiedt artikel 5 lid 1 onder f, en mogen belangrijke beslissingen over mensen niet zonder menselijk toezicht aan AI worden overgelaten, daarover gaat artikel 14.
En er mogen niet zomaar zelf ontwikkelde AI-tools beschikbaar gesteld worden aan kinderen. Eerst moet beoordeeld zijn welk risicoprofiel de tool heeft, én zo nodig moet er aan extra veiligheidseisen voldaan worden. AI-systemen in het onderwijs staan namelijk in bijlage III van de wet en gelden daarmee al snel als hoog risico, met alle eisen van dien. Artikel 9 lid 9 vraagt ontwikkelaars daarbij expliciet om te kijken naar de gevolgen voor kinderen onder de 18.
Waar komen die leeftijdsgrenzen dan wel vandaan?
De leeftijdsgrenzen die ouders en jij in de praktijk tegenkomen, komen ergens anders vandaan. Techbedrijven zetten ze zelf in hun voorwaarden om aan de privacywet te voldoen, de AVG. Voor de gegevens van jonge kinderen hebben ze volgens artikel 8 van de AVG toestemming van een ouder nodig. In Nederland geldt dat tot 16 jaar, in veel andere EU-landen tot 13 jaar. Een vaste grens van 13 of 18 is voor techbedrijven de makkelijkste oplossing om dat in de praktijk te regelen.
Voor school betekent dit trouwens iets anders dan voor thuis. Op school werk je binnen de afspraken uit jullie AI-beleid en met tools die passen bij de privacyregels voor het onderwijs. Thuis ligt die keuze bij de ouders.
Dit kun je ouders meegeven
De regie qua leeftijd ligt thuis dus bij de ouders zelf. Zij bepalen in de basis hoe hun kind met AI omgaat, met de normen en waarden van het gezin.
Dat is een mooie boodschap voor een ouderavond of de nieuwsbrief, want het opent meteen het goede gesprek. Ouders die weten dat zij aan zet zijn, gaan eerder thuis met hun kind in gesprek over waar je op moet letten, wat het verschil is tussen een gesprek met een mens en een gesprek met AI, en hoe AI gebruikt kan worden op een manier die hun kind versterkt. En als school en thuis daarin dezelfde taal spreken, leert een kind AI op een veilige en bewuste manier kennen. Precies de integrale aanpak waar ik voor pleit.
Deel dit blog gerust met je collega's en met de ouders van je school. Zo help je het gesprek over AI op gang, in de klas én aan de keukentafel.
Zelf nalezen?
De volledige Nederlandse wettekst van de AI Act vind je op EUR-Lex: Verordening (EU) 2024/1689 (AI-verordening). De genoemde onderdelen zijn artikel 5 lid 1 onder b (verbod op het uitbuiten van kwetsbaarheden, waaronder leeftijd), artikel 5 lid 1 onder f (verbod op emotieherkenning in het onderwijs), artikel 9 lid 9 (aandacht voor minderjarigen bij risicobeheer), artikel 14 (menselijk toezicht), artikel 50 (transparantieplicht) en bijlage III (AI in het onderwijs als hoog risico). De toestemmingsgrens voor het verwerken van kindergegevens staat in artikel 8 van de AVG (Verordening (EU) 2016/679), in Nederland ingevuld op 16 jaar.