Grip op algo­ritmen

Grip op algoritmen

 De gemeenteraad van Enschede, in vergadering bijeen op 31 maart 2025, gehoord de beraadslaging over:

Rekenkameronderzoek Algoritmen
Samen met: D66, PvdD, SP, Volt, FvD, GroenLinks

Constaterende dat:

· De ontwikkelingen rondom het gebruik van algoritmen en AI zich in razendsnel tempo opvolgen;

· De gemeenteraad in de afgelopen jaren zich meermaals unaniem of met ruime meerderheid met zorg heeft uitgesproken rondom het gebruik van digitale, mogelijk privacy schendende of potentieel discriminerende, middelen waaronder het gebruik van algoritmen en AI bij de bepaling van WOZ-waarde, digitale deursloten, de toeslagenaffaire en digitale parkeerkaartjes en scanauto’s;

· Er in de laatste jaren steeds meer duidelijk is geworden over de risico's en gevaren die het gebruik van algoritmen en AI met zich mee kunnen brengen, met als meest extreme voorbeeld de toeslagenaffaire;

· De Enschedese rekenkamer en PBLQ als een van de conclusies in hun eindrapport (zie pagina 11) het volgende stellen: “De gemeenteraad heeft daarentegen wel een duidelijke rol in het bespreken van de keuzes en afwegingen die rond de inzet van algoritmen en digitalisering worden gemaakt. Het gaat dan om een inhoudelijk en politiek gesprek over de keuzes in de uitvoering en de prioriteiten die daarin worden gelegd. De deelnemers aan de bijeenkomst voor dit onderzoek benadrukten het belang om de raad goed in die positie te brengen, iets dat tot op heden naar hun mening weinig tot niet is gebeurd.”
 

Overwegende dat:

· Het gebruik van algoritmen en AI ook voordelen met zich mee kan brengen. Zo kan het de dienstverlening sneller, goedkoper, nauwkeuriger en completer maken. Het is in staat om verbanden te zien die een mens soms niet kan zien; · Vanaf augustus 2024 de AI-verordening van kracht is: een Europese wet die regels stelt voor de ontwikkeling en het gebruik van AI-systemen;

· Het doel van de AI-verordening is dat AI-systemen die organisaties (binnen de EU) gebruiken, veilig zijn en fundamentele rechten van mensen respecteren. Afhankelijk van de categorie waarin een AI-systeem valt, gelden zwaardere, minder zware of geen regels;

· Sommige AI-systemen waarmee onze inwoners of interne dienstverlening mee te maken hebben of toekomstig zouden kunnen hebben mogelijk onder hoog-risico zouden kunnen vallen volgens de AI-verordening en dit wordt beschouwd als risicovol voor fundamentele rechten, veiligheid en gezondheid;

· Het bepalen of iemand in aanmerking komt voor essentiële publieke diensten en subsidies zoals toeslagen valt hier bijvoorbeeld onder (zie bijlage 3, AI-verordening);
· De Enschedese raad het belangrijk vindt haar kaderstellende en controlerende taak goed uit te kunnen voeren, en het daarin van belang is grip en inzicht te hebben op het gebruik van algoritmen.
 

Draagt het college op:

· In het integraal beleid voor digitalisering, welke eind dit kalenderjaar aan de raad wordt voorgelegd, een hoofdstuk op te nemen over het gebruik van algoritmes en AI;

· In dit hoofdstuk tenminste te beschrijven welke verschillende risico kwalificaties de gemeente hanteert bij aanschaf en gebruik van (middelen die gebruik maken van) algoritmen en AI, en hoe de gemeente de risico kwalificatie van algoritmen afweegt aan de hand van de AI-Verordening;

· In dit hoofdstuk een afwegingskader en goedkeuringsstroom voor ingebruikname van algoritmen op te nemen, met daarin expliciet omschreven de rol voor de ethische commissie in dit geheel;

· Vanaf nu jaarlijks de raad te informeren, door middel van een jaarrapportage, over de stand van zaken rondom het gebruik van algoritmen en AI, binnen welke risicokwalificaties ontwikkelingen zijn geweest in dat jaar, met uitgebreide aandacht voor de zwaarste risicokwalificaties, met als doel raadsleden jaarlijks in positie te brengen om kaders mee te geven aan het college.

En gaat over tot de orde van de dag.