Interview met Valerie Frissen, bijzonder hoogleraar Digital Technologies en Social Change
Valerie Frissen is bijzonder hoogleraar Digital Technologies & Social Change aan de Universiteit van Leiden, bij het e-Law Center for Law and Digital Technologies. Ze legt zich vanuit haar leerstoel voornamelijk toe op Responsible Innovation en kijkt ook met die bril naar vraagstukken rond het reguleren van de digitale samenleving. Daarnaast is ze directeur van het SIDN Fonds, een fonds dat in het leven is geroepen door SIDN, de organisatie achter het .nl domein. Door het SIDN Fonds wordt nieuwe technologie met maatschappelijke impact in de praktijk beproefd.
Valerie vertelt over de kansen en mogelijkheden van data voor de overheid en over hoe we dit kunnen inrichten. Regulering is overigens meer dan alleen maar wetgeving en beleid. Hier komt ook ethiek bij kijken en de regulerende werking van technologie zelf, denk aan privacy by design.
Wat is datagedreven werken volgens jou?
Datagedreven werken is eigenlijk geen term die ik snel gebruik. Er is vrijwel niets in deze samenleving, waar geen datacomponent aan vastzit. Je kunt dus ook geen aspect bedenken van werk dat volledig zonder data wordt uitgevoerd. De term ‘datagedreven’ zal in de toekomst dus ouderwets zijn. We hebben het dan gewoon over werken. Het is dan vanzelfsprekend dat daar data aan te pas komt. Ik moet hierbij altijd denken aan de uitspraak van Marshall McLuhan, die stelde dat de auto in zijn beginjaren werd gezien als een ‘horseless carriage’. Zo kijken we nu vaak ook nog aan tegen digitalisering.
In de huidige tijd is de term ‘datagedreven’ wel relevant omdat het nog niet volledig standaard is. Werken met data betekent naar mijns inziens trouwens niet hetzelfde als ‘datagedreven werken’.
Wat is het verschil volgens jou?
Het is subtiel, maar bij datagedreven werken begin je bij de mogelijkheden die data bieden en vertaal je dat naar wat je belangrijk vindt om te doen. Dataficering is het uitgangspunt en je bent je daar in het begin al van bewust. Het is dus geen onvermijdelijk gevolg van wat je doet. Ik weet niet of je nog een lange tijd zinvol onderscheid kan maken, maar voor nu is het nog relevant.
Hoe kijk jij aan tegen de ontwikkelingen rondom datagedreven werken bij de overheid?
Het handelen van de overheid is al heel lang gebaseerd op grote informatiestromen. Dat noemden we destijds geen data, maar in essentie was het hetzelfde. Je hebt als overheid nou eenmaal veel gegevens nodig over wat burgers doen en wat de samenleving doet.
Wat wel nieuw is, en wat je de laatste tijd bij bijvoorbeeld de smart city ontwikkelingen ziet, is dat de technologie soms bepaalt welke kant ontwikkelingen bij de overheid opgaan. Het feit dat je beschikking hebt over sensoren, leidt er dan toe dat je overal sensoren gaat plaatsen. Beleid hobbelt er in dat geval achteraan, terwijl het juist zaak is om een uitgebalanceerde samenwerking na te streven en de vraag te stellen: als wij hiermee aan de slag gaan, wáárom doen we dat dan? Deze vraag wordt niet altijd gesteld.
Waarom worden deze vragen vergeten denk je?
Die technologieontwikkeling geeft zoveel ruimte en mogelijkheden dat het bijna jammer is om geen data te verzamelen als dat in wezen heel makkelijk is. Toch zou dat nooit de drijfveer van datagedreven werken moeten zijn. Er zijn nog te weinig uitgebalanceerde en heldere kaders om vanuit de publieke taak het verzamelen van data te bekijken. En vanuit daar gerichte keuzes te maken en te zorgen dat het netjes gebeurt. Daardoor lopen de mogelijkheden nog te vaak vooruit op het beleid. Dat is de valkuil van datagedreven werken.
Deze manier van werken wordt ook aangewakkerd door de Big Data profeten. Zij benadrukken dat grote hoeveelheden data allerlei nieuwe inzichten en mogelijkheden bieden die je van tevoren niet kunt voorzien. Het is natuurlijk heel verleidelijk om zoveel mogelijk data te verzamelen die het mogelijk maken om nieuwe patronen te ontdekken en op basis daarvan interessante voorspellingen te doen. Dit kan alleen wel leiden tot een verschuiving van de oorspronkelijke taak en bedoeling. Het is belangrijk om je daarvan bewust te zijn. Ongemerkt kun je een grens overgaan.
Wat moet er gebeuren om data verantwoord in te zetten?
In eerste instantie hebben private partijen door het ontbreken van regulering te veel ruimte gekregen. Er ontstond een soort Wilde Westen. De overheid maakte gebruik van de oplossingen uit de private sector, al dan niet met verstand van zaken. Er werd ook vaak gesteld dat de ontwikkelingen niet te reguleren waren. Of dat je de ontwikkelingen niet moet willen reguleren, dat moet je maar aan de markt overlaten. Hierbij maken we ons als Nederland vaak te klein. Een beetje een fatalistische houding: wat kunnen wij nou doen in een globaliserende digitale markt die deze ontwikkelingen dicteert?
De Algemene verordening gegevensbescherming (AVG) heeft daarin – vanuit een Europees perspectief – weer enige balans gebracht door op zijn minst de omgang met persoonsgegevens beter te reguleren. Daarnaast zijn we merkbaar in een andere tijd terechtgekomen, waarin ook de negatieve implicaties van de datasamenleving maatschappelijk veel meer aandacht krijgen. Dit wordt nu vooral gekleurd door discussies over artificiële intelligentie (AI).
Als je vijf jaar geleden met een concept als datagedreven werken was gekomen, dan lag de focus voornamelijk op de mogelijkheden. Op dit moment ligt de focus steeds meer op goed nadenken over de keuzes die worden gemaakt. Niet alleen omdat het moet door de privacywetgeving, maar ook door toename van bewustzijn van de mogelijk schadelijke gevolgen. Dat slaat bij sommige partijen, zoals de overheid, bijna om in handelingsverlegenheid. Soms gaat de rem erop door de angst voor controleverlies. Daar moet je voorzichtig mee zijn. Je moet wel blijven experimenteren: er moeten mogelijkheden zijn om fouten te maken.
Heb je een ultieme tip voor organisaties die met data werken?
Allereerst is het van belang dat je, voordat je een discussie over AI voert, je een discussie over data voert. We moeten geen stappen overslaan. Er is geen goede AI zonder goede data. De datahuishouding regelen moet op een staan: garbage in = garbage out.
Idealiter zou de datahuishouding vergelijkbaar moeten zijn met de financiële huishouding. Het moet normaal gedrag worden om verantwoordelijk en zorgvuldig om te gaan met data. Het is voor alle bedrijven en organisaties volstrekt normaal om je financiën op orde te hebben, slecht gedrag tegen te gaan en risico’s te beheersen en dat ook stelselmatig te controleren. Dat zou ook voor data moeten gelden. Ik denk dat dat steeds meer de norm wordt. Een interessant voorteken daarvan is dat er inmiddels al accountants zijn die zich expliciet richten op auditing van data en algoritmes. Het is een teken van volwassenheid van de samenleving, als het om data gaat.
Kun je een voorbeeld geven van een goed data-initiatief?
Je kunt bijvoorbeeld kijken naar hoe het Centraal Bureau voor de Statistiek (CBS) werkt. Het CBS stelt vanuit zijn specifieke taak en bevoegdheid allerlei eisen aan de verzameling en kwaliteit van data voor en door overheden voor ze kunnen worden gebruikt. Ook in de wetenschappelijke wereld vind je steeds meer initiatieven, waarbij bijvoorbeeld onderzoeksdata als open data beschikbaar worden gesteld. Hierbij denkt men goed na over de voorwaarden voor een verantwoordelijke manier van verzamelen, opslaan en gebruik van onderzoeksdata. Daarbij worden bijvoorbeeld de FAIR-principes, Findable (vindbaar), Accessible (toegankelijk), Interoperable (uitwisselbaar) en Reusable (herbruikbaar), gehanteerd. Het is heel verstandig om best practices zoveel mogelijk te delen.
In hoeverre kunnen we volledig vertrouwen op wetgeving in de toekomst?
Je kunt en moet nooit volledig op wetgeving vertrouwen. Idealiter zou je dat vooral in laatste instantie moeten doen en gaat daar genormaliseerd goed gedrag aan vooraf. Dat neemt niet weg dat we de regels goed vast moeten leggen. Dat gebeurt voor een deel in wetgeving, maar wetgeving is in de basis eigenlijk gestolde ethiek. Het is juist belangrijk dat normen rondom data ook in cultuur en in gedrag verankerd zijn. De digitale wereld krijgt gestalte in zowel de goede als slechte kanten van gebruikers. Wat je reguleert en wat je laat gaan, is afhankelijk van wat maatschappelijk als acceptabel wordt afgestemd. Dit is moeilijk vast te leggen, want dat is eigenlijk permanent in ontwikkeling.
Deze maatschappelijke normen voeden als het ware de wetgeving, maar ook gedragscodes zoals good governance principes. En last but not least, zie je ze ook terug in de techniek zelf, denk aan standaarden of ‘by design’ principes.
Kun je een voorbeeld geven van regulering en technische wijzigingen?
Sommige technologieën zal je opnieuw moeten inrichten. We moeten ons bijvoorbeeld afvragen of de architectuur en protocollen van het huidige internet nog voldoen: zitten daar de democratische kernwaarden van onze maatschappij nog voldoende in verankerd? Maar het kunnen ook simpele veranderingen zijn, denk bijvoorbeeld aan de default opties van een app. Die geven vaak maximaal toegang tot data. Waarom zou je dat niet omkeren? Deze manier van denken kun je meenemen in de opleiding van ontwikkelaars.
Toch blijft het een dynamische werkelijkheid: je moet constant aanpassingen doen en iedereen doet dat vanuit zijn eigen verantwoordelijkheid. Als overheid ben je bijvoorbeeld een grote opdrachtgever. Je zou de eisen die je stelt aan data en algoritmes mee kunnen nemen bij de inkoop van IT-oplossingen. Daarmee maak je door innovatief aanbesteden verantwoord datagebruik een prioriteit en voedt je mensen op met wat normaal zou moeten zijn.
Wat betekent dit voor burgers?
Waar burgers echt baat bij zouden hebben is een veel betere invulling van de kernwaarde van transparantie bij datagedreven initiatieven. In de uitvoering is die transparantie vaak behoorlijk eenzijdig. Er wordt veel gevraagd van burgers, maar weinig teruggegeven. We hebben nog steeds uiterst weinig inzicht op de manier waarop onze data worden verzameld, opgeslagen, gedeeld en gebruikt en al helemaal niet in wat ons dat nu eigenlijk als burger oplevert. Dat druist fundamenteel in tegen democratische principes. Burgers worden behandeld als een passieve leverancier van data, in plaats van als een volwaardige speler in een dataketen.
Hoe kijk je aan tegen data eigenaarschap?
Hier zien we vooral de gevolgen van de Wilde Westen aanpak die te lang de overhand had. Omdat er zo weinig in dit opzicht geregeld is, heeft dat onder meer geleid tot grote datamonopolies van slechts enkele grote spelers op de markt. Consumenten c.q. burgers zijn – vrij naar Marx – gereduceerd tot een dataproletariaat: zij produceren een groot deel van de data maar de echte waarde van data komt niet bij hen terecht. We moeten daarom anders kijken naar het eigenaarschap van data. Je data zomaar weggeven zou tot het verleden moeten behoren.
Wat zou het eerste zijn wat je zou doen als je de baas van Nederland was?
Ik zou vooral veel meer publieke verantwoordelijkheid nemen voor de digitale infrastructuur. We hebben het hier over misschien wel de meest vitale maatschappelijke infrastructuur, die door dringt in de meest intieme delen van ons dagelijks leven. Maar het belang daarvan hebben we teveel verwaarloosd. Hoe zit die infrastructuur in elkaar: waarborgt die nog voldoende de maatschappelijke kernwaarden waarop de samenleving drijft? Hebben we daar nog voldoende grip op? Er is van alles ontstaan en gegroeid, maar dit kraakt in zijn voegen. De digitale infrastructuur is van ons allemaal en moet veilig, sterk en open worden gehouden.
Lees ook de andere interviews in deze serie:
- Interview met Rob van Gijzel, voorzitter van de Dutch Blockchain Coalition;
- Interview met Tanaquil Arduin, Chief Data Officer bij de gemeente Den Haag;
- Interview met Martin Jansen, kwartiermaker datagedreven sturing bij de gemeente Utrecht;
- Interview met Emine Özyenici, Chief Information Officer bij de Sociale Verzekeringsbank;
- Interview met Maarten Schurink en Magchiel van Meeteren, secretaris-generaal en CIO bij BZK;
- Interview met Johan Groenen en Maarten Geraets, oprichters van Tiltshift.
