De nieuwe directie Coördinatie Algoritmes van de Autoriteit Persoonsgegevens (AP) heeft een eerste Rapportage Algoritmerisico’s Nederland gepubliceerd. De overheid moet nog grote stappen zetten om meer grip te krijgen op algoritmes en artificiële intelligentie (AI). De AP is positief over het Algoritmeregister voor de overheid, maar heeft daarbij ook aanbevelingen.
De noodzaak om grip te krijgen op algoritmes wordt steeds groter. De snelheid waarmee AI-innovaties de samenleving binnendringen bieden naast nieuwe kansen ook nieuwe risico’s. Daarnaast staat Nederland voor de opgave om inzicht te krijgen in het gebruik van algoritmes die grote impact hebben op het leven van mensen. In afwachting van Europese wetgeving zijn nu al concrete acties wenselijk, stelt de AP.
Aanbevelingen
De AP is positief over het Algoritmeregister van de overheid. Er zijn ook aanbevelingen. “Baken het af en prioriteer hierbij de algoritmes met een hoog risico om het behapbaar te houden.” De AP adviseert daarom om alvast aan te sluiten bij de (verwachte) classificatie van hoogrisico-systemen onder aankomende Europese wetgeving. De AP roept het kabinet op om overheidsorganisaties één jaar te geven om het algoritmeregister verplicht te vullen met alle hoogrisico-algoritmes.
Risico’s in kaart
Ook waarschuwt de AP in zijn rapportage voor de inzet van recente AI-innovaties, zoals ChatGPT. Ze staan vol in de aandacht, het is verleidelijk om ermee te experimenteren. Bijvoorbeeld bij de beoordeling van sollicitanten of bij het opsporen van fraude. Dat kan alleen op een veilige manier als de risico’s adequaat worden beheerst. Zolang dat niet het geval is, doen organisaties er verstandig aan terughoudend te zijn. Het advies: breng vóór de inzet ook goed de risico’s in kaart.
Rapportage onderdeel toezicht
De AP coördineert sinds begin 2023 de risicosignalering, advisering en samenwerking in het toezicht op algoritmes. Periodieke rapportages over algoritmerisico’s zijn onderdeel van de toezichtaanpak. De Rapportage Algoritmerisico’s Nederland biedt een eerste overzicht van ontwikkelingen, risico’s en uitdagingen. De AP publiceert vanaf nu elk half jaar een rapportage Algoritmerisico’s Nederland.
Aan de slag met algoritmes
Wil jouw organisatie ook aan de slag met de publicatie van algoritmes, de al gepubliceerde algoritmes verder verbeteren, of beter voorbereid zijn op toekomstige ontwikkelingen of wetgeving?
- Meld je aan voor de Expeditie Algoritmes op 9 oktober.
- Kijk op de pleio-communitysite voor alle actuele informatie.
- Ontdek de ontwikkelde hulpmiddelen.
