Op 5 september 2024 heeft de Europese Commissie het Kaderverdrag van de Raad van Europa over Artificiële Intelligentie (AI) en mensenrechten, democratie en de rechtstaat ondertekend. Het Verdrag is de eerste juridisch bindende internationale overeenkomst over AI die verdragsstaten verplicht om wettelijke en bestuurlijke maatregelen te nemen die mensenrechten, democratie en de rechtsstaat beschermen tegen de huidige en toekomstige risico’s van AI.
De Commissie stelt dat het Verdrag volledig verenigbaar is met de Europese AI-verordening waarin de mens en zijn rechten centraal staan. Het ondertekenen van het Kaderverdrag sluit aan bij het doel van de Europese Unie om mensenrechten wereldwijd te promoten.
Raad van Europa of Raad van de Europese Unie?
De Raad van Europa en de Raad van de Europese Unie worden nog weleens door elkaar gehaald, maar ze zijn niet hetzelfde. Hoe zit dat ook alweer?
De Raad van Europa is een zelfstandige internationale organisatie die opkomt voor de bescherming van mensenrechten, democratie en de rechtstaat in Europa. De Raad van Europa is dus géén orgaan van de EU in tegenstelling tot de Raad van Ministers (ook wel Raad van de Europese Unie) en de Europese Raad.
De Raad van Europa telt 46 lidstaten, waaronder alle EU-lidstaten, maar ook een aantal niet-EU-lidstaten waaronder het Verenigd Koninkrijk, Turkije en Oekraïne. De EU is zelf geen lid van de Raad van Europa, maar de organisaties werken wel nauw samen om mensenrechten, democratie en de rechtstaat te waarborgen. In het geval van het AI-kaderverdrag kunnen ook niet-lidstaten van de Raad van Europa zoals de EU en de Verenigde Staten zich aansluiten.
Reikwijdte AI-kaderverdrag
Het Verdrag geldt voor alle activiteiten met AI-systemen die worden uitgevoerd door overheden en bedrijven. Er zijn uitzonderingen voor nationale veiligheid, AI-onderzoek en ontwikkeling en defensie.
Inhoud AI-kaderverdrag
Het Verdrag verplicht het aannemen of handhaven van wettelijke en bestuurlijke maatregelen met als doel:
- Het beschermen van mensenrechten tegen de gevaren van AI-systemen;
- Het voorkomen van ondermijning van de integriteit, onafhankelijkheid en doeltreffendheid van democratische instellingen en processen waaronder de machtenscheiding, eerbiediging van de onafhankelijke rechterlijke macht en toegang tot de rechtspraak;
- Het beschermen van democratische processen met betrekking tot AI-systemen waarbij ieder individu eerlijke toegang heeft tot en deel kan nemen aan het publieke debat en het vrijelijk een mening kan vormen.
Het Verdrag somt principes op voor AI-systemen, zoals menselijke waardigheid, autonomie, transparantie en toezicht, aansprakelijkheid en verantwoordelijkheid, gelijkheid en non-discriminatie, privacy en persoonsgegevensbescherming, betrouwbaarheid en veilige innovatie. Daarnaast biedt het een kader voor risico- en impactbeheer om AI-gerelateerde risico’s te identificeren, beoordelen en beperken.
Het Verdrag geldt voor alle activiteiten met AI-systemen die worden uitgevoerd door overheden en bedrijven.
Implementatie AI-kaderverdrag in de AI-verordening
Na het in werking treden wordt het AI-kaderverdrag in alle EU-lidstaten uitgevoerd via de AI-verordening, die geharmoniseerde regels voor het gebruik van AI-systemen vastlegt. Volgens EU-recht moet deze Verordening voldoen aan het Handvest van de Grondrechten van de EU. De AI-verordening streeft naar een mensgerichte en betrouwbare inzet van AI, waarbij gezondheid, veiligheid en grondrechten, waaronder democratie en rechtsstaat, worden gerespecteerd.
AI-systemen voor wetshandhaving, rechtspraak en democratische processen worden beschouwd als hoog-risico. Ze vereisen een doorlopend risicobeheersysteem en een toetsing van mogelijke schendingen van grondrechten door overheden of bedrijven die deze systemen gebruiken.
Impact voor decentrale overheden
Met de ondertekening van de Commissie is de EU nog geen partij (lid) van het Verdrag. Om officieel lid te worden, moeten alle EU-lidstaten het Verdrag ook goedkeuren en ratificeren. Het Verdrag is dus pas gesloten na goedkeuring door de Raad van Ministers en het Europees Parlement. Omdat de AI-verordening al geldt, zal het AI-Kaderverdrag weinig veranderen voor de verplichtingen van nationale en decentrale overheden in de EU.
Niettemin onderstreept het ondertekenen van het Kaderverdrag dat de EU de mens en mensenrechten op de eerste plek zet in haar AI-beleid en bevordert het brede internationale samenwerking op het gebied van mensenrechtenbescherming tegen de risico’s van AI.
Decentrale overheden maken dagelijks gebruik van AI-systemen. Denk aan het monitoren van verkeersstromen via camera’s of het analyseren van datasets. In lijn met het Kaderverdrag en de AI-verordening moeten decentrale overheden zorgen voor voldoende transparantie en toezicht bij gebruik van AI. Verder moeten decentrale overheden de privacy en persoonsgegevens van burgers beschermen tegen de risico’s van AI-systemen. Tot slot moeten decentrale overheden de risico’s van AI monitoren om mensenrechten, democratie en de rechtstaat te beschermen.
Bronnen
Buitenlandse Zaken, Wat is de Raad van Europa?
Raad van Europa, Relatie tussen de Raad van Europa en de Europese Unie
