Het is voor de maatschappij nu onvoldoende duidelijk welke normen, gebaseerd op publieke waarden, er voor algoritmes en AI gewaarborgd moeten zijn en hoe dat gebeurt. Het is onduidelijk wanneer algoritmes gebruikt worden, ook als deze direct impact hebben op (eind-) gebruikers.
Specifiek voor de overheid geldt dat het voor de burger duidelijk moet zijn wanneer een algoritme is gebruikt in besluitvorming, vooral wanneer dat potentieel impact heeft op diens situatie. Bovendien is het belangrijk dat deze algoritmes niet worden ervaren als ‘black box’. De overheid dient het goede voorbeeld te geven door te experimenteren met waardengedreven AI-toepassingen die maatschappelijke opgaven ondersteunen.
Doelen
- We stellen duidelijke eisen aan overheidsorganisaties bij de inzet van algoritmes.
- De overheid is transparant over het gebruik van algoritmes.
- We zorgen voor verdere versterking van het AI en algoritmetoezicht, zowel gericht op bedrijven als overheden.
- We stellen op Europees niveau eisen aan technologie zoals (generatieve) AI-systemen, om ervoor te zorgen dat ze veilig zijn en overeenkomstig met onze publieke waarden.
Reeds behaalde resultaten
- Inzet in de EU AI Act heeft geleid tot sterkere opname van mensenrechten in de risicobeoordeling bij hoge risico AI systemen en aanvullende maatregelen die transparantie en rechten van natuurlijke personen versterken.
- Er is een algoritmeregister gelanceerd.
- Er is een visie op generatieve AI in de maak die in 2024 wordt gepubliceerd.
- Een eerste versie van het algoritmekader ‘inzet van algoritmes’ biedt inzicht in de belangrijkste normen.
- ELSA labs (ethical, legal, societal aspects) voor mensgerichte AI zijn gestart waarin samengewerkt wordt aan in de praktijk realiseren van algoritmes die voldoen aan mensenrechten en publieke waarden.
Wat gaan we doen?
Aan welke resultaten gaan we het komende jaar werken om algoritmes te reguleren? Bekijk de activiteiten.
Indicatoren
- Uniform en door overheidsorganisaties gedragen algoritmekader voor de inzet van algoritmes.
- Binnen de overheidsorganisaties is duidelijkheid over de rollen en verantwoordelijkheden m.b.t. de toetsing van algoritmes en AI (governance).
- Meerdere malen toepassen van een eenduidig ontwikkelde methode om bias/discriminatie te detecteren.
- Uitvoering van mensenrechtentoetsen (waaronder IAMA’s)
- Algemeen geldende inkoopvoorwaarden voor algoritmes die de overheid inkoopt bij derden.
- Duidelijk overzicht van instrumenten en hulpmiddelen om overheden te helpen aan de wettelijke normen te voldoen.
- Het komen tot verantwoorde en innovatieve toepassingen van generatieve AI bij de overheid.
- Een Algoritmeregister voor de overheid dat goed gevuld is en inzicht biedt in hoog risico en impactvolle gebruikte algoritmes.
- Nieuwe hoog risico algoritmes die binnen de rijksoverheid gebruikt worden, worden opgenomen in het Algoritmeregister en bij voorkeur voorzien van een mensenrechtentoets.
- Departementen zorgen voor jaarlijkse rapportage aan de Tweede Kamer over voortgang van het opnemen van algoritmen in het register.
- Beschikbaarheid van normuitleg en guidance van regelgeving die van toepassing is op AI en algoritmes.
- Versterken signaleringsfunctie algoritmerisico’s; rapportages, onderzoek naar loketfunctie voor burgers en bedrijven
- Versterking samenwerking digitale toezichthouders (waaronder colleges, inspecties en markttoezichthouders).
- Bepalen van toezichtstaken in het kader van de AI-verordening.
- In de onderhandelingen over de Europese AI-verordening onderhandelen we actief mee over de eisen die aan hoog-risico AI-systemen worden gesteld waarmee we fundamentele rechten beschermen en AI-innovatiemogelijkheden behouden.
- We stimuleren dat overheidsorganisaties die in Nederland hoog-risico AI-systemen aanbieden voldoen aan de eisen uit de AI-verordening.
- We doen praktijkgericht onderzoek naar de implementatie van de AI-verordening binnen de overheid met de focus op open normen en hun samenhang met bestaande wet- en regelgeving.
- Raad van Europa verdrag moet ervoor zorgen dat de toepassing van AI in lijn is met mensenrechten, democratie en rechtsstaat. Samen met Europese Commissie en lidstaten trekken we op om ervoor te zorgen dat mondiale spelers zich verbinden aan dit verdrag.
