Nu artificiële intelligentie (AI) zich steeds breder ontwikkelt en verspreidt in Europa, richt de Europese Unie haar meer op regulering en stimulering. Dit artikel belicht twee ontwikkelingen: het richtsnoer die de definitie van AI-systeem ontleedt en het nieuwe InvestAI-initiatief. Volgende week bespreken we het richtsnoer over verboden AI-praktijken.
Richtsnoer Definitie AI-systeem
In het kader van de AI-verordeningen zijn sinds 2 februari 2024 bepaalde toepassingen van AI verboden. Aansluitend hierop heeft de Europese Commissie op 6 februari richtsnoeren over de definitie van AI-systemen gepubliceerd. Hiermee moet het duidelijker worden wanneer iemand AI gebruikt en wat de mogelijke juridische gevolgen hiervan zijn.
De AI-verordening definieert AI-systemen in artikel 3 lid 1 als:
‘Een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen.’
De Commissie breekt deze definitie op in zeven elementen, die zij in het richtsnoer verder uitlegt. Daarbij grijpt zij ook regelmatig terug op overweging 12 uit de preambule van de Verordening. De elementen zijn toepasbaar op twee fasen van de ‘levenscyclus’ van de systemen: de bouwfase (pre-deployment) en de gebruiksfase (deployment). Sommige elementen kunnen veranderen bij overgang van de ene naar de andere fase.
Achtereenvolgens zijn de elementen als volgt:
(1) “Een op een machine gebaseerd systeem…
Alle AI systemen zijn gebouwd op hardware- en softwarecomponenten om te functioneren. In punt 13 van het richtsnoer legt de Commissie uit dat kwantumcomputers hieronder vallen, maar ook biologische of organische systemen eronder kan vallen mits deze een vorm van rekenactiviteiten tonen.
(2) dat is ontworpen om met verschillende niveaus van autonomie te werken…
Overweging 12 uit de preambule definieert dit als een “zekere mate van onafhankelijkheid van menselijke betrokkenheid”. Het richtsnoer geeft aan dat systemen uit te sluiten die volledig draaien op handmatige menselijke actie en interventie. Zolang het systeem zelfstandig uitvoer creëert uit welke mate van handmatig ingevoerde invoer dan ook, is sprake van enige mate van onafhankelijkheid. Dit element hangt sterk samen met element 5 over het inferentievermogen.
(3) dat na het inzetten zich kan aanpassen…
Dit gaat over de mogelijkheid om in later gebruik met dezelfde input andere resultaten te genereren. Een AI-systeem hoeft zich niet per se gedurende de levenscyclus aan te passen en moet onderscheiden worden van de inferentiecapaciteiten.
(4) en dat, voor explicitie of impliciete doeleinden…
Expliciete doelstellingen heeft de originele maker in de code ingebouwd, bijvoorbeeld de optimalisatie van een bepaalde kostenfunctie, een kans, of een cumulatieve beloning. Impliciete doelstellingen kunnen vanuit de gebruiksfase tot stand komen.
(5) uit de ontvangen input afleidt hoe input te genereren…
Een systeem moet de capaciteit bezitten om uit invoer af te leiden hoe het output moet genereren. Dit moet breed geïnterpreteerd worden. Met name moet de focus gelegd worden op de AI-technieken die het systeem gebruikt om de zelfstandige gevolgtrekkingen uit de invoer mogelijk te maken. Dit gaat om technieken zoals machine learning of supervised learning.
(6) zoals voorspellingen, inhoud, aanbevelingen of beslissingen…
Het creëren van output wordt gezien als de kern van waar de inzet van AI om draait. Het richtsnoer duidt vier typen output aan: (i) voorspellingen, waarbij data wordt gebruikt om toekomstige ontwikkelingen te duiden door middel van doorredeneren; (ii) inhoud, waarbij AI-systemen nieuwe materialen produceren, zoals tekst of afbeeldingen; (iii) aanbevelingen, waarbij specifieke acties, producten of diensten worden gesuggereerd gebaseerd op de voorkeuren en data-input van de gebruiker; en (iv) beslissingen, waarbij AI-systemen daadwerkelijk oordelen maakt en conclusies trekt, gebaseerd op de input.
(7) die van invloed kunnen zijn op fysieke of virtuele omgevingen.”
Deze component van de definitie benadrukt dat AI een actieve impact maakt op de omgeving waar het in geplaatst wordt; het zal reageren op wat het gevraagd wordt en de reactie zal ook weer leiden tot reacties wat mensen of andere typen technologie.
Met deze toelichting van de definitie van AI wordt het mogelijk om de technologie beter, veilig en behoorlijk in te zetten.
Het InvestAI-initiatief
Eerder kondigde voorzitter van de Commissie, Ursula von der Leyen, een nieuwe Europese investering van €200 miljard in AI aan. Dit deed zij bij de Artificial Intelligence Action Summit in Parijs. Het zogenaamde InvestAI-initiatief heeft als doel om Europa een relevante en sterkere speler te maken, door middel van samenwerking op de ontwikkeling van vooruitstrevende AI-modellen en hoogstaande innovatie. Von der Leyen benadrukte dat dit een publiek-private samenwerking moet zijn, waarbij wetenschappers en bedrijven de meest geavanceerde AI-modellen ter wereld kunnen creëren.
€20 miljard van het totaalbedrag gaat naar vier ‘AI gigafabrieken’. AI fabrieken zijn samenwerkingen tussen universiteiten, supercomputercentra, industriële partners en financiers om innovatieve AI-modellen te maken. Het InvestAI-initiatief zet in op schaalvergroting: De gigafabrieken moeten ongeveer 100.000 van de nieuwste AI-chips krijgen, wat grofweg een factor vier meer is dan wat de bestaande of huidig gebouwde AI-fabrieken gemiddeld hebben.
Het eerst beschikbare geld van de investering zal voornamelijk verlopen via fondsen met een (mogelijke) digitale invalshoek. Dit zijn bijvoorbeeld Digital Europe en Horizon (waarschijnlijk pijler 1). Hiernaast mogen lidstaten ook extra investeringen doen vanuit Cohesiegelden. De aankondiging van het InvestAI-initiatief valt samen met de komst van het nieuwe Werkplan van de Europese Commissie. Hierin presenteerde de Commissie nieuwe plannen om de EU competitiever te maken op het gebied van AI, bijvoorbeeld door het opstellen van een ‘AI Continent Action Plan’. Hiernaast reflecteert InvestAI-initiatief ook de eerder uitgezette ambities uit het Competitiveness Compass.
Decentrale relevantie
Dat decentrale overheden interesse hebben in AI is inmiddels bekend. Nieuwe toepassingen van de technologie worden verkend om de taken en dienstverlening van gemeenten, provincies en waterschappen te ondersteunen. Met de nieuwe investeringen vanuit Europa in het InvestAI-initiatief in bovengenoemde fondsen komen er mogelijk ook nieuwe kansen voor decentrale overheden om AI op innovatieve manier toe te passen in hun bedrijfsvoering.
Bronnen
Commissie publiceert Richtsnoeren over definitie AI-systemen om de toepassing van de AI-verordening te faciliteren, Europese Commissie
EU lanceert InvestAI-initiatief om 200 miljard euro aan investeringen in artificiële intelligentie te mobiliseren, Europese Commissie.
