Europese Commissie publiceert voorstel en actieplan voor de regulering van Artificial Intelligence

10 mei 2021

De Europese Commissie heeft een nieuw regelgevingskader voorgesteld om Artificial Intelligence (AI) technologie te reguleren. Daarnaast heeft de Commissie een nieuw gecoördineerd plan en een communicatie ter bevordering van een Europese benadering van AI gepubliceerd. De Commissie wil hiermee bereiken dat het gebruik van AI-technologie niet alleen economische en maatschappelijke groei brengt, maar ook in overeenstemming is met fundamentele rechten en Europese waarden.

Wat zijn AI-systemen?

In het regelgevingskader staat het begrip AI-systemen centraal. Een AI-systeem gebruikt software die is ontwikkeld door middel van verschillende technieken (denk aan machine learning of deep learning) en benaderingen, zoals vermeld in Bijlage 1 van de voorgestelde verordening. AI-systemen zijn erop gericht om een bepaald resultaat aan te bieden. De resultaten worden gebaseerd op doelstellingen die door mensen zijn gedefinieerd. Het resultaat kan bestaan uit aanbevelingen, voorspellingen of beslissingen die een invloed kunnen uitoefenen in een bepaalde context.

Communicatie ter bevordering van een Europese benadering van AI

De Commissie heeft onlangs een communicatie ter bevordering van een Europese benadering van AI gedeeld. Hierin zet de Commissie uiteen dat de EU niet alleen de kansen maar ook de risico’s van AI moet adresseren. Daarom publiceert de Commissie voorstellen voor:

Het versterken van de Europese AI-capaciteit past binnen de doelstellingen van de Commissie voor het digitale decennium, Dit is de visie van de Commissie om tegen 2030 een succesvolle digitale transformatie van Europa te bereiken. Deze doelstellingen komen neer op het volgende:

  1. Digitaal vaardige burgers en hooggekwalificeerde digitale professionals;
  2. Beveiligde, goed presterende en duurzame digitale infrastructuurvoorzieningen;
  3. Digitale transformatie van bedrijven;
  4. Digitalisering van overheidsdiensten.

De bevordering van AI-technologie hangt ook nauw samen met de uitvoering van de Europese data strategie, omdat er voor AI toegang tot gegevens nodig is.

Gecoördineerd plan

De afgelopen drie jaar zijn AI-technologieën sterk geavanceerd en hebben lidstaten meer geïnvesteerd in AI. Daarom introduceert de Commissie een geactualiseerd plan, dat acties voor de Commissie en de lidstaten bevat om de EU wereldwijde koploper in betrouwbare AI te maken.

In het gecoördineerde plan zijn vier voorstellen gedaan om de kansen die AI biedt te benutten en tegelijk een Europese aanpak van AI te vergemakkelijken:

  • Schep voorwaarden voor de ontwikkeling en toepassing van AI in de EU;
  • Maak van de EU de plek waar uitmuntendheid bloeit, van het lab tot de markt;
  • Zorg ervoor dat AI werkt voor mensen en een kracht ten goede is in de samenleving;
  • Bouw strategisch leiderschap op in sectoren met een grote impact (gezondheid, milieu).

De Commissie wil alle acties ook financieel ondersteunen. Hiervoor staan de fondsen uit de Digitaal Europa en Horizon Europa programma’s ter beschikking. Ook wordt minstens 20% van de middelen uit de onlangs goedgekeurde faciliteit voor herstel en veerkracht ingezet voor digitale investeringen.

Voorstel AI verordening: Classificatie van AI-systemen

De Commissie heeft een nieuwe verordening voor AI voorgesteld, omdat zij meent dat de huidige Europese regelgeving de (toekomstige) risico’s van AI onvoldoende adresseren. Deze verordening heeft een op risico gebaseerde aanpak: hoe meer risico de technologie met zich meebrengt, hoe strikter de regels die ervoor gelden. Er wordt daarom een verschil gemaakt tussen vier AI-systemen:

  1. Onaanvaardbaar risico

    Het voorstel verbiedt een beperkt aantal AI-systemen die in strijd zijn met de EU-waarden omdat het gebruik ervan fundamentele rechten schendt. Hierbij gaat het onder meer om AI-systemen die gebruikmaken van de kwetsbaarheden van kinderen, denk daarbij aan pratend speelgoed. Hoewel biometrische identificatie (gezichtsherkenning) in openbare ruimten in beginsel verboden is, valt het soms onder categorie 2. Ook het gebruik van ‘social scoring’ door overheden wordt verboden in het wetsvoorstel. Social scoring houdt in dat burgers een bepaalde score krijgen op basis van hun gedrag. Je krijgt minpunten als je je niet aan de regels houdt, bijvoorbeeld wanneer je door rood rijdt, en bonuspunten als je iets goeds doet, zoals vrijwilligerswerk. Naar aanleiding van deze score kunnen mensen op een zwarte lijst worden geplaatst en allerlei (voor)rechten verliezen.
  2. Hoog risico

    Het voorstel identificeert ook systemen met een hoog risico. Deze AI-systemen kunnen aanzienlijke risico’s opleveren voor de gezondheid, veiligheid of grondrechten van personen. Denk hierbij aan systemen die mensen selecteren bij sollicitatieprocedures en de toegang van burgers tot sociale zekerheid bepalen. Deze AI-systemen moeten aan strikte eisen voldoen. Voordat deze AI-systemen in de Unie in de handel kunnen worden gebracht, worden deze onderwerpen aan een beoordeling. Hierbij wordt onder andere gekeken naar de kwaliteit van de datasets, of er passend menselijk toezicht is en naar de veiligheid van het AI-systeem. Biometrische identificatie mag alleen in bepaalde vooraf gedefinieerde en streng gereguleerde situaties gebruikt worden, bijvoorbeeld om een vermist kind op te sporen.
  3. Beperkt risico

    AI-systemen kunnen ook als niet risicovol worden geclassificeerd. In die gevallen moet wel rekening worden gehouden met specifieke risico’s die kunnen ontstaan Dit is bijvoorbeeld het geval wanneer er een duidelijk risico op manipulatie bestaat, zoals bij het gebruik van chatbots. Voor deze systemen geldt een transparantieverplichting. Zo moeten mensen geïnformeerd worden als ze interactie hebben met een AI-systeem of een AI-systeem hun emoties op automatische wijze herkent.
  4. Minimaal risico

    Een groot deel van AI-systemen die momenteel in de EU kunnen worden geclassificeerd als AI-systemen met een minimaal risico, bijvoorbeeld spamfilters. Deze AI-systemen kunnen conform bestaande wetgeving worden ontwikkeld en gebruikt; er worden geen aanvullende eisen aan gesteld in het voorstel van de Commissie. Wel moedigt de Commissie de ontwikkeling van vrijwillige gedragscodes aan voor zulke AI-systemen.

Voorstel AI verordening: Bestuur

In de verordening wordt ook voorgesteld om een European Artificial Intelligence Board (de ‘raad’) in het leven te roepen, die zal bestaan uit vertegenwoordigers van de lidstaten en de Commissie. De raad moet verantwoordelijk worden voor een aantal adviestaken en het bijstaan van de Commissie bij specifieke vragen in verband met AI.

Op nationaal niveau moeten de lidstaten één of meer nationale bevoegde autoriteiten aanwijzen om toezicht te houden op de toepassing en uitvoering van de verordening. De European Data Protection Supervisor zal optreden als de bevoegde autoriteit voor toezicht op de instellingen, agentschappen en organen van de EU zelf.

Achtergrond

In 2018 heeft de Commissie al een AI strategie gepubliceerd, waarin het tweeledige beleid werd gepresenteerd om van de EU een ‘hub van wereldklasse voor AI’ te maken en tegelijk voor betrouwbare en mensgerichte AI te zorgen. Enkele maanden later werd het eerste gecoördineerde plan inzake AI gepubliceerd, dat een gezamenlijke verbintenis van de Commissie en de lidstaten vormde om samen te werken aan AI. Het plan signaleerde gebieden voor investeringen en moedigde lidstaten aan om nationale AI visies te ontwikkelen. Om haar visie van “ethische, veilige en geavanceerde AI in Europa” te ondersteunen, lanceerde de Commissie in 2019 de ethische richtsnoeren voor betrouwbare AI.

Voortbouwend op de AI strategie en het eerste gecoördineerde plan heeft de Commissie vervolgens in februari 2020 het Witboek over AI gepubliceerd. Hierin presenteerde de Commissie de visie om met AI een ‘ecosysteem van uitmuntendheid’ en een ‘ecosysteem van vertrouwen’ in Europa tot stand te brengen. Het Witboek ging al in op de werkingssfeer van een eventueel toekomstig Europees regelgevingskader voor AI.

Voortgang

De voorstellen worden behandeld op grond van de gewone wetgevingsprocedure. Dit houdt in dat het Europees Parlement en de Raad van Ministers (namens de lidstaten) het voorstel nu gaan bespreken. Zodra de verordeningen zijn vastgesteld, worden deze rechtstreeks toepasselijk in de hele EU.

Bron

Door

Evelien van Buuren en Melanie Klus, Kenniscentrum Europa decentraal

Meer informatie