Om waterschappen te ondersteunen bij de naleving van de Europese verordening artificiële intelligentie heeft de Unie van Waterschappen (UvW) samen met de waterschappen en het Waterschapshuis een \'Implementatiedocument AI-verordening\' opgesteld. Doel van het document is een rechtmatige, veilige en transparante toepassing van kunstmatige intelligentie (AI) in het waterbeheer.
De waterschappen verkennen het gebruik van AI momenteel voor uiteenlopende toepassingen, zoals het reduceren van lachgasemissies op rioolwaterzuiveringen (Amstel, Gooi & Vecht), scheurdetectie in dijken (Hollands Noorderkwartier), monitoring van plasticafval in oppervlaktewater (Wetterskip Fryslân), het aanpassen van de stroomsnelheid in visliften aan de zwemsnelheid van de liftende vis, en de inkoop van energie op het goedkoopste moment (Rivierenland). Voor het waterbeheer biedt het gebruik van AI kansen, maar het brengt ook risico’s met zich mee.
Ethische beginselen
Om een veilig en rechtvaardig gebruik van AI te waarborgen en het recht op privacy te beschermen, hebben de EU-lidstaten vorig jaar besloten tot het instellen van de ‘Artificial Intelligence Act’. Deze verordening is gestoeld op zeven beginselen voor een ethisch verantwoord gebruik van AI: invloed en toezicht door mensen, technische robuustheid en veiligheid, privacy en datagovernance, transparantie, diversiteit, non-discriminatie en rechtvaardigheid, sociaal en ecologisch welzijn, en een verantwoordingsplicht.
De verordening trad in 2024 in werking, maar grote delen ervan werden afgelopen 2 augustus pas van kracht. Doel van het gisteren door de UvW gepubliceerde document is de waterschappen te helpen bij de implementatie hiervan. Ook laat het document zien hoe de verordening zich verhoudt tot andere wet- en regelgeving, zoals de Cyberbeveiligingswet, de Wet weerbaarheid kritieke entiteiten en het Algoritmeregister. “Er komt een groot volume aan (veelal Europese) wet- en regelgeving op de waterschappen af die impact heeft op de inrichting van de organisatie op bedrijfsvoering en IT-vlak”, schrijft de Unie. “Een aantal impactvolle wetten zijn nog nauwelijks geïmplementeerd bij de waterschappen of een volgende tranche komt er alweer aan.”
AI-geletterdheid
Centraal staat het ‘toereikend niveau van AI-geletterdheid’ waar de verordening aanbieders en gebruiksverantwoordelijken van AI-systemen toe verplicht. Hieronder wordt verstaan de kennis en vaardigheden die nodig zijn voor een veilig en ethisch verantwoord gebruik van AI-systemen, met bewustzijn van de voordelen maar ook de mogelijke schade die zij kunnen aanrichten.
Om te zorgen dat waterschappen (alsook partijen die namens hen AI-systemen gebruiken) ‘AI-geletterd’ zijn, raadt de Unie aan om het kennis- en bewustzijnsniveau op peil te brengen met bijvoorbeeld cursussen en trainingen. De Unie benadrukt dat het hierbij niet alleen moet gaan om technische maar ook juridische, ethische en sociale expertise. Wat een waterschapper precies nodig heeft om ‘geletterd’ te worden, moet bepaald worden aan de hand van ‘de functie van een medewerker, de kennis die een medewerker al heeft van AI, hoe vaak AI door diegene wordt ingezet en kennis over de gevolgen en impact van AI voor andere mensen’.
De UvW raadt aan om hierbij gebruik te maken van richtlijnen die de Autoriteit Persoonsgegevens heeft opgesteld, en onderstreept dat het op peil houden van het kennisniveau een dynamisch proces moet zijn dat continu aan de ontwikkelingen wordt getoetst. De ontwikkeling van AI verloopt namelijk ‘in een veel sneller tempo dan dat deze ingebed kan worden in de organisatie’, schrijft de Unie.
Verboden AI-praktijken
Omdat AI-systemen ‘diep kunnen ingrijpen in mensenrechten, veiligheid of democratische processen’ onderscheidt de Europese verordening vier risicocategorieën: ‘verboden AI-praktijken’ en AI-systemen met een hoog, beperkt of minimaal risico. Verboden zijn onder andere systemen die gebruikmaken van manipulatieve technieken (subliminale of misleidende technieken om gedrag zodanig te veranderen dat iemands vermogen om geïnformeerde beslissingen te nemen wordt aangetast), social scoring (beoordeling van bijvoorbeeld medewerkers op basis van sociaal gedrag of persoonlijke kenmerken) en categorisering of rechtshandhaving op basis van biometrische gegevens (zoals politieke of religieuze opvattingen of het lid zijn van een vakbond).
Uit een inventarisatie van de UvW is het gebruik van verboden AI-systemen door waterschappen niet naar voren gekomen, maar dit ‘neemt (..) niet weg dat er alsnog wel met een AI-systeem gewerkt [kan worden, red.] waarbij sprake zou kunnen zijn van een verboden systeem’.
Toezichthouders
Bij een verbod hoort een toezichthouder, maar welke instantie gaat toezien op het gebruik van verboden AI-systemen is nog niet bekend. Zolang deze nog niet is aangewezen, vervult de Autoriteit Persoonsgegevens hier een coördinerende rol in. Wel is bekend dat de Rijksinspectie Digitale Infrastructuur de toezichthouder voor AI-toepassingen bij kritieke infrastructuur wordt, samen met de Inspectie Leefomgeving en Transport.
Hoogrisicosystemen
Onder AI-systemen met een hoog risico worden systemen verstaan die een aanzienlijke kans hebben om schade te veroorzaken aan de gezondheid, veiligheid of grondrechten van mensen. Als voorbeelden in de context van het waterschapswerk signaleert de Unie systemen die voorspellen waar en wanneer overstromingen kunnen optreden, algoritmen die de staat van dijken, sluizen en dammen evalueren en systemen die het gebruik van pompen en sluizen optimaliseren. Foutieve analyses of interpretaties van deze systemen kunnen ernstige gevolgen hebben voor de waterveiligheid, volksgezondheid of het milieu.
Ook AI-systemen die gebruikt worden voor automatische detectie van overtredingen (bijvoorbeeld via dronebeelden) en AI-hulpmiddelen voor personeelszaken (zoals het opstellen van contracten) worden genoemd als potentiële hoogrisicosystemen. Als voorbeeld van een AI-systeem met beperkter risico noemt de UvW geautomatiseerde rapportagesystemen voor gegevens over waterkwaliteit.
Bij het in gebruik nemen van nieuwe AI-technologie moeten waterschappen altijd een risicobeoordeling maken en vastleggen voor welke handelingen de technologie mag worden gebruikt, schrijft de Unie. Ook benadrukt ze het belang van menselijke verificatie en supervisie bij het gebruik van AI voor de taken van het waterbeheer.
LEES OOK
H2O Actueel: Artificial Intelligence in de watersector: zo verkennen KWR en STOWA de mogelijkheden
H2O Wateragenda: 25 sept – STOWA-webinar | Beeldherkenningstechnologie voor macrofauna
