Artificiële intelligentie (AI) biedt kansen om overheidswerk efficiënter en effectiever te maken. Tegelijk brengt het risico’s mee, zoals fouten in informatie en zorgen over privacy. Om verantwoord om te gaan met deze technologie, heeft het ministerie van Binnenlandse Zaken een handreiking ontwikkeld voor de verantwoorde inzet van generatieve AI binnen de Rijksoverheid.
AI: Een brede blik
In essentie benadrukt de handreiking dat het ‘verantwoorde inzet’ benadert vanuit de technologische, organisatorische, ethische en juridische (rand)voorwaarden voor het gebruik van gen AI. Op deze manier wordt niet alleen gekeken naar AI als nieuwe technologische ontwikkeling – oftewel, hoe kun je het gebruiken – maar ook naar hoe gebruik je het effectief en met zo weinig mogelijk risico’s voor de rechten van mensen. Door dit laatste aspect mee te nemen kunnen we spreken over verantwoord gebruik.
Het is goed om te benadrukken dat de handreiking is gericht op generatieve AI, een subcategorie van AI. De term ‘generatieve’ verwijst naar de specifieke inzet van dit type AI om content, zoals tekst, afbeeldingen, geluid, etc., te maken gebaseerd op een verzoek. Het is mogelijk deze technologie autonoom te laten handelen zonder constant menselijk toezicht.
Gebruik het goed
Door middel van een vijfdelig stappenplan geeft de handreiking praktische tips voor bewust gebruik van gen AI.
1. Definieer het doel en de toepassingsgebieden
Gen AI moet gezien worden als onderdeel van de gereedschapskist en bijdragen aan het oplossen van een probleem. Het moet niet ingezet worden puur omdat het momenteel een hot topic is. Als de inzet van gen AI niet (voldoende) bijdraagt, creëert het alleen maar onnodige risico’s.
2. Zorg voor de juist mensen en vaardigheden
Verstandig gebruik van AI verreist expertise. Het gaat daarbij onder andere om leidinggevenden die de mogelijke impact van gen AI begrijpen, juristen, ethici en cybersecurity specialisten om de veiligheid van de inzet te bevorderen, dataspecialisten en softwareontwikkelaars die zorgen voor hoge kwaliteit data en technologische integratie van de AI in de organisaties bedrijfsvoering.
Dit betekent echter niet dat iedereen die met AI in aanraking komt een expert moet zijn. Een bepaald niveau van kennis en kunde is echter wel noodzakelijk om de risico’s te begrijpen en er effectief gebruik van te maken.
3. Creëer een (generatieve) AI-governance structuur
Het beleggen van toezicht, evaluatie en beheer binnen organisaties is essentieel om AI verantwoordelijk op te pakken. Dit vereist strategie, beleidskaders en het intern aanwijzen van verantwoordelijkheden. Dit is nodig om de technologie effectief te benutten én om juridisch correct te handelen. Ook hier is het weer belangrijk om de juiste personen mee te nemen, zodat beoordeeld kan worden of AI verantwoord, veilig en juridisch correct ingezet wordt.
4. Risicoanalyse(s) uitvoeren
Voordat een organisatie generatieve AI-systemen aanschaft of ontwikkelt, is het belangrijk om helder te hebben welke risico’s verbonden zijn aan de beoogde inzet. Welke data komt mogelijk in het geding en wat zouden eventuele privacy inbreuken betekenen voor betrokken personen? Het Impact Assessment Mensen en Algoritmen (IAMA) en AI Impact Assessment (AIIA) kunnen hierbij inzicht bieden. Ditzelfde geldt voor het welbekende Data Protection Impact Assessment (DPIA).
5. Generatieve AI inkopen of bouwen
Pas na het doorlopen van deze stappen kan generatieve AI echt binnen de organisatie worden geïntroduceerd. Dit kan met gratis diensten, zoals Microsoft Copilot, maar ook met zelf-ontwikkelde of betaalde diensten. De handreiking geeft acht specifieke stappen voor de inkoop of het bouwen van generatieve AI-toepassingen. Deze zijn te vinden op pagina 14 van de handreiking.
Decentrale relevantie
Ondanks dat de handreiking gericht is op de rijksoverheid, kunnen ook decentrale overheden veel kennis ophalen. Vraagstukken over de interne governance of juridische en ethische kwesties zijn niet per definitie anders tussen de verschillende onderdelen van het Huis van Thorbecke. Het is, net als bij de rijksoverheid, cruciaal dat decentrale overheden goed kijken naar welke AI-systemen zij in huis houden en dat er personeel betrokken is dat zorgt voor verantwoordelijke inzet. Voor bestuurders is het noodzakelijk dat zij hun organisatie helpen te bewegen richting een cultuur die klaar is voor de inzet van AI. Alleen op deze manier kunnen de kansen daadwerkelijk benut worden.
Voor juridische vraagstukken, kunt u ook contact zoeken met Kenniscentrum Europa Decentraal. Maak gebruik van onze helpdesk voor al uw vragen over Europees digitaliseringsbeleid en meer!
Bronnen
Ministerie van Binnenlandse Zaken en Koninkrijksrelaties, Overheidsbrede handreiking voor de verantwoorde inzet van generatieve AI