De overheid gebruikt steeds meer algoritmes. Bijvoorbeeld om burgers snel te helpen bij de aanvraag van voorzieningen van de overheid, of bij de aanpak van maatschappelijke opgaven als de energietransitie. Belangrijk bij de inzet van algoritmes is dat de mensen, hun grondrechten en publieke waarden centraal staan. Dat bevorderen we door meer openheid over algoritmes die de overheid gebruikt, duidelijke eisen aan het gebruik van algoritmes, en tot slot het toezicht erop.
Waarom gaan we aan de slag met algoritmes?
Mensen regie geven op hun digitale leven, betekent dat mensen in Nederland erop kunnen vertrouwen dat algoritmes aan publieke waarden voldoen en dat ze begrijpen hoe algoritmes werken.
De inzet van algoritmes bij de overheid ging niet altijd goed. Zo zijn bijvoorbeeld bij het zoeken naar mogelijke fraudeurs bij de aanvraag van kinderopvangtoeslag de grondrechten van burgers geschaad. Dat mag nooit meer gebeuren.
De Tweede Kamer nam meerdere moties aan over transparantie, eisen en toezicht op algoritmes bij de overheid. Ook in de verzamelbrief Digitalisering van maart 2024 veel aandacht voor algoritmes en AI.
Wat gaat er gebeuren?
In de werkagenda staan verschillende acties op het gebied van algoritmes bij de overheid. Ze vallen samen onder een aantal acties:
Inrichten algoritmeregister en start wetgevingstraject om register te verplichten.
21 december 2022 werd de eerste versie van het Algoritmeregister van de overheid gelanceerd. Dit register maakt informatie over de toepassing en uitkomst van algoritmes vindbaar en geeft daar uitleg over. Daarmee kunnen burgers de overheid kritisch volgen en bevragen en controleren of zij zich aan de regels houdt.
Het kabinet werkt sinds januari aan een traject dat duidelijkheid moet verschaffen over verplicht deelnemen aan het algoritmeregister.
Ontwikkelen algoritmekader voor toepassing van algoritmes door de overheid.
Overheidsorganisaties moeten weten wat de eisen zijn voor verantwoorde inzet van algoritmes. Er zijn al verschillende instrumenten ontwikkeld die helpen wet- en regelgeving beter toe te passen. Het Algoritmekader prioriteert deze instrumenten en stroomlijnt ze, zodat overheden in alle fasen van de levenscyclus van algoritmische toepassingen praktische handvatten hebben. Best practices, use cases en input van eindgebruikers en de toezichthouder helpen tot een goed en gedragen kader voor alle overheden te komen. De ontwikkeling van het kader gebeurt open, iedereen kan deelnemen. Bekijk de ontwikkelomgeving op Github. Via de agenda op Pleio kun je deelnemen aan demo’s van het Algoritmekader.
Opschalen algoritmetoezichthouder
Het doel van de algoritmetoezichthouder is om publieke waarden en grondrechten bij de inzet van algoritmes beter te beschermen en transparantie te bevorderen. En daarbij (overheids)organisaties te helpen om de kansen van algoritmes verantwoord te benutten. Het stelt bestaande toezichthouders in staat om helder en effectief toezicht te houden op algoritme-gebruik. De Autoriteit Persoonsgegevens (AP) startte in januari 2023 met haar activiteiten als algoritmetoezichthouder. Lees ook de kamerbrief over de inrichtingsnota van de algoritmetoezichthouder. Eind 2023 leverde de AP de rapportage AI- & Algoritmerisico’s Nederland op.
Daarnaast werken ook organisaties als de Audit Dienst Rijk (ADR) en de Algemene Rekenkamer (ARK), aan de controle op de inzet van algoritmes bij de (rijks)overheid.
Opstellen inkoopvoorwaarden voor algoritmes die de overheid inkoopt bij derden.
Er is een werkgroep publieke inkoop van algoritmen en AI gestart. Ook op Github wordt gewerkt aan het onderwerp inkoop.