In deze driedelige serie belicht KED de Europese component van de ontwikkeling van digitale vaardigheden. In deel II staat AI-geletterdheid centraal en de verplichtingen voor decentrale overheden met betrekking hiertoe.
Belang van AI-geletterdheid
Bewustzijn en kennis over de werking, toepassing en risico’s van AI en de gerelateerde rechten, plichten en ethische dilemma’s zijn essentieel voor de verantwoorde inzet van AI. AI-geletterdheid stelt overheidsmedewerkers in staat om veilig en verantwoord om te gaan met deze technologie. Beleidsmedewerkers moeten bijvoorbeeld voorzichtig te werk gaan met de inzet van AI bij het analyseren of verwerken van (gevoelige) gegevens, omdat dit de privacy en veiligheid van burgers en particulieren kan schaden.
De Autoriteit Persoonsgegevens waarschuwt bovendien dat AI zich discriminerend kan gedragen en dat inzet hiervan kan leiden tot oneerlijke en discriminerende besluiten. Denk bijvoorbeeld aan de manier waarop studenten met een migratieachtergrond vaker onderzocht werden voor mogelijke fraude met beurzen door de Dienst Uitvoering Onderwijs (DUO), omdat DUO gebruik maakte van een algoritme dat deze studenten naar voren schoof. AI is in staat om onderliggende vooroordelen in datasets te reproduceren. Het is cruciaal dat gebruikers bewustzijn van dit risico’s.
Generatieve AI is ook een punt van zorg. Generatieve AI verzamelt, analyseert en verwerkt gegevens en genereert vervolgens eigen inhoud. Volgens AI-deskundigen van de Universiteit Utrecht is het echter moeilijk te traceren waarop deze gegenereerde output is gebaseerd, de zogenaamde ‘black box van AI’. De kans bestaat dat deze output feitelijk onjuist, discriminerend en/of misleidend is. Overheidsmedewerkers moeten zich bewust zijn van de gevolgen van AI-gebruik en zorgen voor menselijk toezicht om verantwoord beleid en organisatie-inzet te waarborgen. Dat laatste kan alleen effectief zijn wanneer overheidsmedewerkers over voldoende kennis en ervaring beschikken bij het uitvoeren van hun taken.
De Artificiële Intelligentie Verordening is, onder andere, een reactie op deze zorgen. De Verordening verplicht onder andere decentrale overheden om maatregelen te nemen. Toen de wet op 1 augustus 2024 in werking is getreden, introduceerde het een Europees kader van verplichtingen om de mogelijke schade en risico’s van AI te voorkomen en te beperken. Eerder hebben wij hier een uitgebreid artikel aan gewijd: Risico onder de loep: hoe werkt het concept ‘risico’ in de AI-Verordening?
Wat betekent ‘AI-geletterdheid’?
Het is belangrijk om vast te stellen wat precies onder AI-geletterdheid verstaan wordt. De AI-Verordening definieert het begrip ‘AI-geletterdheid’ als volgt:
’Vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken’’ (artikel 3, lid 56 van de AI-Verordening).
Kortom, AI-geletterdheid omvat alle vaardigheden, kennis en begrip die gezamenlijk mensen in staat stellen om weloverwogen keuzes te maken bij het toepassen van AI. Hierdoor zijn zij zich bewust van de (mogelijke) gevolgen, bedoeld en onbedoeld, van de toepassing. AI-geletterdheid draagt daarmee dus bij aan het inperken van de risico’s op mogelijke schade door de inzet van AI.
Verplichtingen voor AI-geletterdheid
Vanaf 2 februari 2025 zijn alle overheidsinstanties, die onder eigen verantwoordelijkheid gebruikmaken van een AI-systeem, verplicht om volgens artikel 4 van de AI-Verordening maatregelen te nemen die zorgen voor een toereikend niveau van AI-geletterdheid bij hun medewerkers die te maken hebben met de toepassing en/of het gebruik van AI-systemen. Deze maatregelen moeten rekening houden met
- de technische kennis, ervaring, scholing en training van de medewerkers;
- de context waarin de betreffende AI-systemen gebruikt worden; en
- de personen of groepen personen op wie de betreffende AI-systemen gebruikt worden.
Zoals deze maatregelen al suggereren, bestaat er geen ‘one size fits all’-programma, maar moeten aanbieders en gebruiksverantwoordelijken juist een op maat gemaakt AI-geletterdheidsprogramma aanbieden aan hun werknemers.
Voorbeelden van maatregelen voor AI-geletterheid
- Een basistraining voor alle medewerkers over de werking, toepassing en risico’s van AI en de rechten, plichten en ethische dilemma’s met betrekking tot AI.
- Workshops, webinars en online cursussen die medewerkers op de hoogte houden van de actuele ontwikkelingen op het gebied van AI.
- Workshops waarin medewerkers die in aanraking komen met AI praktische ervaring opdoen met het toepassen van AI.
- een bestuurlijk kader dat richtsnoeren vastlegt voor de verantwoorde, ethische en veilige omgang met AI door alle medewerkers.
- Het in dienst nemen van AI-specialisten die medewerkers dagelijks kunnen adviseren en ondersteunen.
Hoewel de AI-Verordening stellig de verantwoordelijkheid legt bij de persoon of instantie die de technologie voor een beroepsactiviteit inzet om AI-geletterdheid te bevorderen, stelt de Verordening geen concrete eisen noch voorschriften vast voor de maatregelen die overheden kunnen nemen. De vraag wanneer een toereikend niveau van AI-geletterdheid is bereikt, blijft dus onbeantwoord en ook specifieke voorbeelden van maatregelen blijven uit.
De Verordening geeft de AI-board enkele concrete taken. Zo ondersteunt de AI-board de Commissie bij het promoten van AI-geletterdheid en adviseert ze over bewustwording van de voordelen, risico’s, rechten en plichten rond AI.
Vrijwillige gedragscodes
Zoals genoemd, biedt de AI-Verordening zelf geen handvaten voor het bevorderen van AI-geletterdheid. Het AI-bureau van de Europese Commissie en de lidstaten faciliteert echter wel het opstellen van gedragscodes. Deze bevatten specifieke voorschriften voor het verbeteren van AI-geletterdheid.
Verder kunnen aanbieders en gebruiksverantwoordelijken deze gedragscodes zelf of in samenwerkingsverband opstellen en de specifieke voorschriften op vrijwillige basis toepassen. Tot slot moet de Commissie vanaf 2 augustus 2028 elke drie jaar de impact en doeltreffendheid van vrijwillige gedragscodes evalueren.
Dit betekent dat decentrale overheden zelf, met andere overheden of vanuit hun koepelorganisaties, aan de slag kunnen met het opstellen van vrijwillige gedragscodes. Decentrale overheden zijn al druk in de weer met het bevorderen van AI-geletterdheid. Zo heeft de UvW op 4 oktober 2024 een bestuurlijk kader, het AI-kompas voor de waterschappen, gepubliceerd. Daarnaast heeft het IPO op 11 november 2024 een nieuwe versie van de Interprovinciale Gids Digitale Ethiek gedeeld waarin kennis en bewustzijn over digitale technologieën en ethiek centraal staan.
Subsidies en sancties
Decentrale overheden moeten maatregelen treffen om ervoor zorgen dat de medewerkers die voor hun werktaken AI inzetten over voldoende vaardigheden, kennis en begrip beschikken om veilig, verantwoord en ethisch om te gaan met AI-toepassingen. Om AI-geletterdheid te verbeteren kunnen decentrale overheden Europese subsidie aanvragen vanuit Digital Europe.
De gevolgen met het oog op sancties bij niet-naleving van dit artikel zijn (nog) niet bekend. Volgens artikel 99 lid 7 worden niettemin alle relevante omstandigheden meegenomen in het sanctioneringsbesluit bij niet-naleving van de verplichtingen onder de AI-Verordening, dus ook het verzuim op het bevorderen AI-geletterdheid door een decentrale overheid als gebruiksverantwoordelijke.
Meer informatie
Kenniscentrum Europa Decentraal, Tijdlijn digitalisering AI-Verordening
Kenniscentrum Europa Decentraal, Tijdlijn digitalisering AI-Verordening
Kenniscentrum Europa Decentraal, Risico onder de loep: hoe werkt het concept ‘risico’ in de AI-verordening?
Kenniscentrum Europa Decentraal, AI-Verordening
Kenniscentrum Europa Decentraal, Praktijkvraag fondsen en subsidies voor digitalisering
