Gemeenten en overheden krijgen steeds vaker te maken met software-updates waarin AI is verwerkt. Een nieuwe gezamenlijke handreiking van rijk, provincies, gemeenten, waterschappen en publieke dienstverleners helpt inkopers en functioneel beheerders om risico’s te beoordelen en passende afspraken te maken.
Praktisch houvast bij AI-toevoegingen
Bestaande software krijgt steeds vaker nieuwe functionaliteiten op basis van AI. Voor overheidsorganisaties is daarbij niet altijd duidelijk hoe zij verantwoord moeten omgaan met zulke wijzigingen, vooral als de software al eerder is ingekocht. De nieuwe handreiking ‘Help! Mijn huidige dienst krijgt een update met AI erin, wat te doen?’ biedt praktisch houvast. De handreiking helpt bij het beoordelen van risico’s, het controleren of de wijziging binnen bestaande contractafspraken past en het vastleggen van aanvullende voorwaarden.
Aanbevolen stappen
De handreiking adviseert organisaties onder meer om:
- te bepalen of de AI-component past binnen het doel en de voorwaarden van het bestaande contract;
- het risico en de toepassing van de AI-functionaliteit te beoordelen;
- aanvullende afspraken vast te leggen in een addendum met specifieke AI-voorwaarden.
Onderdeel van breder AI-inkoopkader
Gemeenten en overheden werken samen aan grote digitaliseringsopgaven onder de vlag van de Nederlandse Digitaliseringsstrategie (NDS). De handreiking wordt opgenomen in een breder kader voor de inkoop van AI. Het doel van dit kader is om aanvullende inkoopvoorwaarden en richtlijnen op te stellen voor AI-systemen. Die moeten voldoen aan de AI-verordening en aansluiten op bestaande inkoopvoorwaarden, zoals de Gemeentelijke Inkoop bij IT (GIBIT). Overheidsorganisaties kunnen hierdoor sneller, zorgvuldiger en met meer vertrouwen verantwoorde AI-systemen inkopen. Zo worden de kansen van AI benut om de dienstverlening aan burgers te verbeteren.
