Verantwoord omgaan met algoritmes vraagt om inzicht in de impact op mensenrechten. De Universiteit Utrecht ontwikkelde daarvoor in opdracht van het ministerie van BZK het Impact Assessment Mensenrechten en Algoritmes (IAMA). Samen met het Rijks ICT Gilde voerden ze een pilot uit bij 15 overheidsorganisaties. In het rapport IAMA in actie delen ze de geleerde lessen.
Algemeen beeld
Uit de pilots blijkt dat het IAMA vaak een positieve indruk achterlaat, ondanks voorafgaande scepsis. Deelnemers waarderen de verschillende perspectieven (juridisch, ethisch, technisch) en discussies die het opleverde. Het instrument IAMA wordt gezien als een nuttig hulpmiddel voor gespreksvoering over grondrechten, data en ethiek. Maar deelnemers vonden het traject soms ook tijdrovend, sommige vragen minder relevant en hadden moeite om alle benodigde rollen te betrekken.
Belangrijkste aanbevelingen
Het rapport doet ook verschillende aanbevelingen om het IAMA te verbeteren:
- Ontwikkel een pre-IAMA of een quickscan. Veel organisaties vinden het lastig vinden om te bepalen wanneer ze een IAMA moeten uitvoeren. Dat is namelijk niet voor ieder algoritme noodzakelijk. Het IAMA is vooral bedoeld voor zogenaamde hoog-risico algoritmes.
- Actualiseer het instrument, want de ontwikkelingen gaan snel. Breng het IAMA meer in lijn met de Europese AI-verordening.
- Zorg voor goede procesbegeleiding. Om er zoveel mogelijk uit te halen binnen een beperkte tijd is het belangrijk dat je de goede punten aankaart en daarop doorvraagt. De procesbegeleider hoeft niet extern te zijn, maar wel objectief.
- De lengte van het IAMA-document kan soms afschrikken. Maar ongeveer driekwart is toelichting. Splits daarom in een volgende versie de handleiding en de vragen in 2 documenten.
Wil je alle aanbevelingen lezen? Een volledig overzicht staat in hoofdstuk 6 van het rapport.
Meer over het IAMA
- Lees het interview met de onderzoekers.
- Meld je aan voor het webinar: Aan de slag met het IAMA op 24 september.
- Bekijk de vragen en handleiding bij het IAMA.
- Download de Engelse vertaling: de FRAIA.
- Download de Engelse vertaling van het rapport: FRAIA in Action.
- Lees dit artikel: Aan de slag met het IAMA (iBestuur, 12 december 2022).
