Hoe kan het waterschap Artificial Intelligence inzetten?

november 2020

Ons waterschap wil Artificial Intelligence graag inzetten voor effectiever waterbeheer. Hoe kunnen we dit doen, welke kaders zijn van toepassing en hoe gaan we om met eventuele risico’s?

Antwoord in het kort

Met het gebruik van Artificial Intelligence (AI) kan het waterschap ervoor zorgen dat er effectieve systemen voor het waterbeheer worden gecreëerd. Data en slimme technologie zijn van belang voor het verkrijgen van meer inzicht en functionaliteiten. AI brengt wel als risico met zich mee dat het algoritme een eigen leven kan gaan leiden. Dit kan leiden tot discriminatie of ernstige fouten. Om dit in de hand te houden is het aan te raden dat het waterschap gebruik maakt van impact assessments en richtsnoeren.

Wat is Artificial Intelligence?

AI is een verzameling technologieën die data, algoritmen en rekenkracht combineren. Het verwijst naar de simulatie van menselijke intelligentie in machines die zijn geprogrammeerd om te denken als mensen, en hun acties na te bootsen. Met behulp van technologieën kunnen computers worden getraind om specifieke taken uit te voeren door grote hoeveelheden gegevens te verwerken en patronen in de gegevens te herkennen. Dit leidt tot verbeterde prestaties en productiviteit. AI is een lastig te definiëren en interpreteren begrip.

Inzet door decentrale overheden

Decentrale overheden kunnen AI inzetten bij het vinden van oplossingen voor veel maatschappelijke problemen: van gezondheid tot landbouw en van beveiliging tot productie. Het waterschap zou met AI bijvoorbeeld een zelfregulerend watersysteem kunnen opzetten. Hierdoor hoeven medewerkers niet langer zelf de watergang te controleren op vervuiling of vegetatie. Daarnaast zijn er kansen bij de rioolwaterzuiveringsinstallaties en in het belastingdomein. Met AI kunnen zulke dagelijkse processen efficiënter worden gemaakt. Bovendien krijgt het waterschap na verloop van tijd met AI steeds meer inzicht in het functioneren van het watersysteem. Zo kan het systeem ook klimaatbestendiger worden gemaakt.

Risico’s van Artificial Intelligence

AI is een zelflerend en zelf-programmerend programma. Daardoor bestaat het risico dat het algoritme een eigen leven gaat leiden. Voor het waterschap zou dit kunnen betekenen dat het de controle verliest over verschillende systemen in het waterbeheer.

Om te voorkomen dat het algoritme ernstige fouten maakt die bijvoorbeeld leiden tot (milieu)schade of overtreding van de wet en om te voorkomen dat de uitkomsten van AI tot de schending van grondrechten leiden, is het belangrijk om naast de juridische regels ook rekening te houden met ethische kaders. Daarom heeft de Europese Commissie ethische richtsnoeren voor betrouwbare AI gelanceerd. Deze richtsnoeren zijn bedoeld om het bewustzijn van het gebruik en de risico’s van AI te versterken.

Om decentrale overheden te ondersteunen bij de bouw van betrouwbare zelflerende algoritmes zijn er ook meerdere AI Impact Assessments (AIIA) beschikbaar. Op basis van een AIIA kan een organisatie zelf het ethische kader bepalen en verantwoording afleggen over betrouwbaarheid, veiligheid en transparantie. Zo kan het waterschap grip krijgen en behouden op de systemen die voortkomen uit AI.

Ook is er een Toolbox Ethisch Verantwoorde Innovatie van het ministerie van BZK beschikbaar. Deze helpt ontwikkelaars en bestuurders bij een ethisch verantwoorde innovatie met respect voor publieke waarden en grondrechten. De waterschappen participeren bovendien in het maken van een praktische toolbox voor grip op algoritmes, zo is te lezen in de Handreiking Digitale transformatie van de Unie van Waterschappen.

Het lijkt er in de praktijk wel op dat de meeste risico’s binnen AI zich voordoen bij de Rijksoverheid en gemeenten, en dat dit momenteel in mindere mate een probleem lijkt te zijn voor waterschappen. De Rijksoverheid en gemeenten zullen dus manieren moeten vinden om grip te houden op de algoritmes. De gemeente Amsterdam doet dit bijvoorbeeld door modelbepalingen voor verantwoord gebruik van algoritmische toepassingen te ontwikkelen.

Europese regels

Binnen de Europese Unie wordt het belang van AI ook steeds meer benadrukt. Momenteel zijn er nog weinig juridische regels, maar hier wordt momenteel aan gewerkt. Het onderwerp kwam naar voren in de werkprogramma’s van zowel 2020 als 2021. Hieruit werd duidelijk dat de Europese Commissie zich heeft voorgenomen om AI-wetgeving te ontwikkelen die aansluit bij de Europese bepalingen voor privacy en gegevensbescherming. Ook heeft de Europese Commissie een White Paper gepubliceerd. Hierin is ingezet op een balans tussen het stimuleren van innovatie en het beschermen van burgers tegen invasieve technologie.

Daarnaast is de eerste reeks wetsvoorstellen voor AI goedgekeurd door het Europees Parlement. Hiermee wil het Europees Parlement innovatie, ethische normen en vertrouwen in de technologie bevorderen. Deze voorstellen sporen de Europese Commissie aan tot het opstellen van wettelijke kaders voor ethische aspecten, burgerlijke aansprakelijkheid en intellectuele eigendomsrechten.

Door:

Evelien van Buuren, Kenniscentrum Europa Decentraal

Meer informatie:

Artificial Intelligence, Kenniscentrum Europa decentraal
Europese Commissie publiceert strategie voor de omgang met data en AI, Kenniscentrum Europa decentraal
Handreiking Digitale transformatie, Unie van Waterschappen
A Europe fit for the digital age, Europese Commissie
European Data Strategy, Europese Commissie
AI White Paper, Europese Commissie
Commissie werkprogramma 2021, Europese Commissie