De handreiking AI-systeemprincipes voor non-discriminatie helpt ontwikkelaars van AI-systemen om discriminerende patronen in gegevens te identificeren, te voorkomen en te bestrijden. Het Tilburg Institute for Law, Technology and Society heeft de handreiking ontwikkeld. Het ministerie van BZK was opdrachtgever.
Voorkomen
Toepassing van kunstmatige intelligentie (AI) heeft veel voordelen en kan bijvoorbeeld bijdragen aan betere dienstverlening, economische groei en veiligheid. Maar AI kan ook mensenrechten en andere belangrijke waarden onbedoeld bedreigen, zoals het recht op non-discriminatie. Dat kan onder meer gebeuren als een AI-systeem leert van menselijke beslissingen die discrimineren. De handreiking maakt ontwikkelaars bewust va discriminatie door algoritmen en biedt handvatten om dat te voorkomen.
Vertaalslag
De handreiking maakt daarvoor een vertaalslag van belangrijke juridische kaders rond het discriminatieverbod naar operationele ontwerpprincipes. Denk aan artikel 1 van de Grondwet, de Algemene wet gelijke behandeling, en artikel 14 Europees Verdrag voor de Rechten van de Mens. De handreiking is bruikbaar voor de publieke sector en het bedrijfsleven en is ook in het Engels beschikbaar.
Onderzoek
Bij de handreiking kunt u ook het achterliggende onderzoeksrapport Non-discriminatie by design downloaden. Dat bevat onder andere een overzicht en analyse van bestaande standaarden over non-discriminatie. Ook dit rapport is in het Engels beschikbaar.
Download handreiking en rapport
• De handreiking AI-systeemprincipes voor non-discriminatie, de one-pager en de korte versie van de handreiking.
• Het onderzoeksrapport Non-discriminatie by design en de samenvatting daarvan.
• De Engelse vertalingen: Handbook non-discrimination by design, Short version Handbook non-discrimination by design, One pager handbook non-discrimination by design, Summary research report.
