Algoritmen gebruik door overheid

Wat is de functie van dit algoritme?

Overheidsorganisaties maken ruimhartig gebruik van algoritmen. Dat doen zij om een probleem te signaleren of een advies te geven. Maar in hoeverre is het algoritme valide, betrouwbaar en leidt het tot de juiste, verwachte resultaten? Dat is onduidelijk. De meeste organisaties wensen dan ook concrete afspraken over de manier waarop algoritmes worden ingezet. Dat blijkt uit een inventariserend onderzoek van het CBS onder 67 overheidsorganisaties in opdracht van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK).

Algoritmen worden ingezet door ministeries, uitvoeringsorganisaties, gemeenten en waterschappen. Van de deelnemende overheidsorganisaties gaf 63% (5 van de 8) van de ministeries, 48% (12 van de 25) van de uitvoeringsorganisaties, 50% (11 van de 22) van de gemeenten en 40% (4 van de 10) van de waterschappen aan gebruik te maken van algoritmen in hun primaire processen.

Rule-based en case-based

De zogenoemde intelligente algoritmen waar het in dit onderzoek over gaat, zijn onder te verdelen in rule-based algoritmen en case-based algoritmen. De rule-based algoritmen zijn algoritmen die op basis van een aantal vaststaande regels tot een bepaalde conclusie komen.
De case-based algoritmen werken andersom, leren op basis van een aantal casussen en doen voorspellingen over nog niet bekende gevallen. Zij leiden dus eigenlijk regels af uit bestaande casussen en voorspellen daarmee nieuwe casussen. De responderende overheidsorganisaties maken vaker gebruik van case-based dan van rule-based algoritmen.

Risico signaleren

Sommige organisaties zetten algoritmen in om inzicht te krijgen in specifiek aan te wijzen risicogevallen. Andere organisaties gebruiken de algoritmen alleen om inzicht te krijgen in groepen met een verhoogd risico. Spelen bijvoorbeeld afkomst of iemands sociaal-economische positie een rol? Dat is voor burgers niet transparant.
Het algoritme is in beide gevallen een hulpmiddel om een verhoogd risico te signaleren en vervolgens gericht capaciteit in te zetten om de gesignaleerde gevallen of groepen aan extra controle of onderzoek te onderwerpen.

Adequate interpretatie

Veel van de organisaties die op een dergelijke manier werken benadrukken hierbij dat het model een mogelijk probleem signaleert of advies geeft, maar dat de uitkomsten van het model altijd nog door een medewerker getoetst of verder onderzocht worden.
Zo blijkt bijvoorbeeld uit de volgende reacties van een van de gemeenten: “Het model geeft een advies, waar medewerkers vervolgens op acteren. Het algoritme zelf maakt geen beslissingen.” Ook noemt een van de ministeries dat “alles staat of valt met een goed algoritme en een adequate interpretatie van de resultaten.”

Andere genoemde doelen zijn het identificeren van belangrijke of voorspellende factoren en het in kaart brengen van correlaties tussen factoren en het clusteren van groepen. Ook worden rule-based algoritmen ingezet om de toezegging van subsidie, vergunning en uitkeringen te toetsen of voor de ondersteuning van processen. Daarnaast worden algoritmen ingezet om op korte termijn een situatie te voorspellen waarop gehandeld kan worden.

Afspraken gewenst

De meeste instanties willen dat er afspraken worden gemaakt over de manier waarop algoritmes worden ingezet. Het gaat dan vooral om de inzichtelijkheid, transparantie en betrouwbaarheid van de systemen. Ook willen sommige organisaties dat wordt vastgelegd tot op welke hoogte algoritmes zonder tussenkomst van personen beslissingen mogen nemen.

De aanleiding voor de opdracht waren de vragen van Bruins Slot (CDA) en Jetten (D66). D66 pleitte in september voor een speciale toezichthouder om discriminatie en privacy-schending tegen te gaan. Onderzoeker Marlies Van Eck (universitair docent en onderzoeker bij het Centrum voor Recht en Digitale Technologie van de Universiteit Leiden) stelt dat algoritmes helpen bij het maken van slimmere keuzes, maar de uitkomsten moeten wel altijd worden gekoppeld aan menselijke deskundigheid. “Een groot nadeel van algoritmes is dat ze altijd vanuit het verleden redeneren”, aldus Van Eck.

Lees ook GEMEENTE HUIZEN WINT SERVICETIJD MET RPA