Regie op je digitale leven betekent onder meer dat je erop kan vertrouwen dat digitale systemen, waaronder algoritmes, aan publieke waarden voldoen en dat je begrijpt hoe deze werken. Bij bedrijven en de overheid is dit op het moment geen gegeven.
Waarom is deze prioriteit belangrijk?
Het is voor burgers en ondernemers niet altijd duidelijk aan welke normen algoritmes moeten voldoen. Zo heeft de Belastingdienst bij het toekennen van toeslagen een zelflerend algoritme gebruikt. Dat algoritme selecteerde op inkomen, met een hogere risicoscore voor lage inkomens.
Algoritmes die de overheid gebruikt zijn niet altijd transparant. Daardoor ervaren burgers de digitale wereld soms als ‘black box’. De overheid moet kunnen uitleggen waarom er een algoritme komt en hoe dit werkt.
Wat willen we bereiken?
Dit zijn de doelen:
- De overheid voert mensenrechtentoetsen uit op algoritmes. We stellen duidelijke eisen aan overheidsorganisaties die gebruik maken van algoritmen. Dit doen we aan de hand van een implementatiekader.
- Bedrijven die in Nederland hoog-risico AI-systemen aanbieden hebben op hun producten een CE-markering en tonen aan dat ze voldoen aan publieke waarden, waaronder mensenrechten.
- Hoog-risico algoritmes die de overheid gebruikt, hebben een CE-markering en zijn inzichtelijk. Tenzij er een wettelijke grondslag is om dit niet te doen.
- De doelen rondom algoritmes worden wettelijk vastgelegd door actieve bijdragen aan de EU, Raad van Europa en de VN. Het doel is om publieke waarden rondom AI en algoritmes te beschermen.
Wat gaan we doen?
Welke acties gaan we ondernemen om algoritmen te reguleren? Bekijk ze in de activiteitenplanning.
Wat gebeurt er al?
- Er zijn instrumenten rondom digitaal bewustzijn. Er is een AI-Parade langs 8 bibliotheken door het hele land geweest.
- De Nederlandse inzet in de EU AI Act leidde tot meer aandacht voor mensenrechten in de risicobeoordeling bij hoge risico AI-systemen.
- Er vinden verschillende ELSA labs (ethical, legal, societal aspects) plaats voor mensgerichte AI. Hierin werken verschillende partijen samen aan algoritmes die voldoen aan mensenrechten en publieke waarden.
