Het gladde ijs tussen nudging en überveillance
Hoe en in hoeverre, mag de overheid sturen op gewenst gedrag van haar burgers, gebruik makend van publieke datastromen, kunstmatige intelligentie en psychologische beïnvloedingstechnieken? Over deze vraag buigt prof. dr. Wijnand IJsselsteijn (Technische Universiteit Eindhoven) zich in zijn essay ‘Digitalisering, gedragsbeïnvloeding en overheid’.
In oktober 2019 publiceerde het ministerie van Binnenlandse Zaken en Koninkrijksrelaties de essaybundel ‘Behoorlijk datagebruik in de openbare ruimte’. Het Leer- en Expertisepunt Datagedreven werken (LED) denkt dat de essays uit deze bundel juist in deze tijd – waarin apps mogelijk worden ingezet als hulpmiddel in de strijd tegen het coronavirus – het lezen waard zijn. Daarom brengen we de essays nog eens onder de aandacht.
We trappen af met het eerdergenoemde essay ‘Digitalisering, gedragsbeïnvloeding en overheid’. Hieronder leest u het voorwoord, de samenvatting en de aanbevelingen van het essay. De volledige versie van het essay treft u in de essaybundel ‘Behoorlijk datagebruik in de openbare ruimte’.
Ga direct naar:
Belangrijkste consequenties van datagebruik
Voorwoord door prof. dr. Maurits Clemens Kaptein (hoogleraar Data Science & Health, Jheronimus Academy of Data Science (JADS))
Het essay ‘Digitalisering, gedragsbeïnvloeding en de overheid’ behandelt een van de – in mijn ogen – belangrijkste consequenties van datagebruik in de openbare ruimte: het gebruik van data om actief het gedrag van burgers te sturen. Zelf ben ik, als hoogleraar Data Science & Health aan de Universiteit van Tilburg en als principal investigator van het Computational Personalization lab aan de Jheronimus Academy of Data Science (JADS) te ‘s-Hertogenbosch, al jaren bezig met onderzoek naar het gebruik van data om menselijk gedrag te begrijpen en, uiteindelijk, te beïnvloeden.
We kunnen de ontwikkelde kennis gebruiken voor positieve maatschappelijke doeleinden; we hebben bijvoorbeeld laten zien dat middels data gepersonaliseerde feedback ertoe leidt dat we effectievere eHealth-applicaties kunnen ontwikkelen. Met data kunnen we mensen dus beter ondersteunen bij het leiden van een gezonder leven. Echter, dezelfde kennis wordt ook gebruikt voor dubieuzere doelen; het gebruik van persuasion profiling in de online marketing – een manier van gedragsbeïnvloeding waar ik ook zelf veel over heb geschreven – wordt terecht kritisch bediscussieerd.
In zijn essay bespreekt prof. dr. Wijnand IJsselsteijn van de Technische Universiteit Eindhoven hoe de verzameling van data in de openbare ruimte ertoe leidt dat we, potentieel, steeds effectiever menselijk gedrag in de openbare ruimte kunnen sturen. Simpele voorbeelden van gedragsbeïnvloeding in de openbare ruimte zijn bij iedereen bekend: tijdens grote evenementen zoals de Nijmeegse Vierdaagse wordt het publiek gemonitord en door middel van grote schermen aangemoedigd bepaalde locaties te vermijden. Echter, er zijn ook veel subtielere vormen van beïnvloeding, bijvoorbeeld door middel van de straatverlichting, die niet bekend zijn bij het grote publiek.
Daarbij is het niet altijd duidelijk wie er aan de spreekwoordelijke knoppen draait bij pogingen tot gedragsbeïnvloeding in de openbare ruimte, noch is het altijd duidelijk welke data, van wie, en door wie, wordt verzameld om de technologie mogelijk te maken. Juist als het gaat over de openbare ruimte zijn dit punten waar we gezamenlijk het debat over aan moeten gaan.
Op basis van zijn ruime ervaring als onderzoeker naar de manieren waarop technologie mensen beïnvloedt, en naar manieren om gebruikers van technologie deze technologie te kunnen laten begrijpen, geeft prof. dr. IJsselsteijn nieuwe inzichten in het gebruik van data in de openbare ruimte. Er is wat mij betreft niemand die meer ervaring en kennis heeft op dit gebied dan Wijnand.
Mogelijkheden en beperkingen van digitale technologie bij gedragsbeïnvloeding
Samenvatting essay door prof. dr. Wijnand IJsselsteijn
Digitalisering gaat snel en heeft een grote impact op onze leefwereld. Ook de overheid wordt geconfronteerd met de digitale transformatie, die zowel ongekende mogelijkheden als nieuwe uitdagingen met zich mee brengt. Een aantal pionierende steden experimenteert met digitale technologie in de publieke ruimte, in smartcity-projecten en living labs, om zodoende de efficiency van overheidsdiensten te vergroten, maar ook om de leefbaarheid en duurzaamheid van de stad te verbeteren. Op gebieden waar de overheid een actief preventiebeleid voert – veiligheid, volksgezondheid, milieu – wordt ook nagedacht over de inzet van digitale middelen in de publieke ruimte – sensoren, big data en kunstmatige intelligentie – om gedrag van burgers te meten, te voorspellen en te beïnvloeden.
We kunnen hierbij denken aan slimme straatverlichting om agressie te voorkomen of een interactief wandelpark waar gezond bewegen wordt gestimuleerd. Deze beïnvloeding vindt veelal plaats op basis van kennis uit de psychologie en staat bekend als persuasive technology of nudging.
De mogelijkheden van gedragsbeïnvloeding door gebruik van digitale technologie in de publieke ruimte gaan gepaard met soms lastige technische, sociale, juridische en ethische vraagstukken. Hoe, en in hoeverre, mag de overheid sturen op gewenst gedrag van haar burgers, gebruik makend van publieke datastromen, kunstmatige intelligentie en psychologische beïnvloedingstechnieken? En hoe dient de overheid zichzelf te reguleren wanneer ze geconfronteerd wordt met de verleidingen van macht en controle die digitalisering met zich meebrengt?
In dit essay ga ik nader in op de mogelijkheden en beperkingen van digitale technologie die wordt gebruikt voor gedragsbeïnvloeding, en sta ik stil bij de ethische vragen die worden opgeworpen wanneer een overheid zich begeeft op het gladde ijs tussen nudging en überveillance. Naast een kritische analyse komen er ook oplossingsrichtingen aan de orde, waarbij participatoir ontwerp en digitale geletterdheid centraal staan.
Veelvormigheid maatschappij mobiliseren, omarmen en betrekken
Conclusies en aanbevelingen door prof. dr. Wijnand IJsselsteijn
Digitalisering heeft een ongekende impact op onze wereld. De snelle technologische vooruitgang in onze digitale maatschappij gaat ook aan de overheid niet voorbij. Big data wordt op diverse plaatsen ingezet om efficiëntie te vergroten, bijvoorbeeld bij het onderhoud van de stad, of het doelmatig inzetten van politie. Ook kan men door technologie de stad duurzamer en leefbaarder maken – denk aan energiebesparende lantaarnpalen die alleen aangaan als er iemand langskomt, of aan sensoren die geluidsoverlast in een omgeving automatisch detecteren.
Tegelijk worstelt de overheid ook met de snelheid en de schaal waarmee de digitale transformatie zich voltrekt. Een groot deel van de huidige infrastructuur – gebouwen, wegen, energiesystemen en openbaar vervoer – moet de digitale transformatie nog doorlopen. Een aantal pionierende steden experimenteren met smartcity-proefprojecten en living labs, om een gevoel te krijgen voor de potentiële meerwaarde van digitale technologie in de publieke ruimte, maar ook om in te kunnen schatten waar knelpunten zitten, en waar wet- en regelgeving en ethische kaders nodig zijn om alle innovaties in goede banen te leiden.
Met de transitie naar een intelligente digitale publieke infrastructuur dienen zich ook nieuwe mogelijkheden aan om het gedrag van burgers te beïnvloeden teneinde positieve maatschappelijke doeleinden te bewerkstelligen.
Om bijvoorbeeld agressieve incidenten te voorkomen, asociaal rijgedrag tegen te gaan, of gezond bewegen te bevorderen. Juist op die gebieden waar de overheid actief preventiebeleid voert – veiligheid, gezondheid, sociaal gedrag, milieu – kan de combinatie van digitale technologie met kennis van de menselijke psychologie een positief resultaat opleveren. Maar deze combinatie roept ook direct lastige vragen op. Hoe kan de overheid de privélevenssfeer van burgers beschermen, maar tevens toezicht houden op veiligheid en recht, op sociaal en gezond gedrag, op het beschermen van de leefomgeving? Hoe, en in hoeverre, mag de overheid sturen op gewenst gedrag van haar burgers, gebruik makend van publieke datastromen, kunstmatige intelligentie en digitale beïnvloedingstechnieken? En hoe dient de overheid zichzelf te reguleren wanneer het geconfronteerd wordt met de verleidingen van macht en controle die digitalisering met zich mee brengt?
Er zijn op dit punt geen eenvoudige oplossingen aan te dragen. De complexiteit van de maatschappelijke en ethische uitdagingen is daarvoor te groot. Het gladde ijs tussen nudging en überveillance is gelegen in de verleiding om als overheid te veel zaken in één hand te willen nemen, en hierbij de grenzen van het publieke en het privédomein te overschrijden. Er is niet ‘one algorithm to rule them all’, geen singuliere doelfunctie die alle verschillende belangen op een juiste manier kan meewegen. En zelfs als deze er wel zou zijn, dan blijft, ondanks alle digitale middelen die ons ter beschikking staan, onze kennis, en daarmee onze mogelijkheid om gedrag juist te voorspellen en te beïnvloeden, onvolmaakt.
De wijsheid van onze beslissingen kennen we vaak slechts achteraf, en ons track record als maatschappij tot nu toe (denk aan de ecologische crisis, migratieproblematiek, het groeiende verschil tussen rijk en arm, cyberterrorisme, de polarisatie in politiek en maatschappij) noopt ons tot bescheidenheid.
Met al het voorgaande in het achterhoofd, wil ik dit essay besluiten met een aantal aanbevelingen voor beleid.
- Wanneer de overheid gebruik wil maken van technologie ten behoeve van gedragsverandering in het publieke domein, dan dient dit transparant te gebeuren, op basis van democratische besluitvorming, ethische toetsing en wetenschappelijke evidentie, en met expliciete betrokkenheid en instemming van partijen die deze technologie direct of indirect zal gaan raken. De overheid dient hierbij te allen tijde proactief, open, begrijpelijk en eerlijk te communiceren over digitalisering in het publiek domein, of plannen daartoe, op alle niveaus – van landelijk en provinciaal tot gemeentelijk en wijkniveau.
- Betrek vroegtijdig en continu alle partijen die, direct of indirect, in aanraking komen met digitale gedragsbeïnvloeding in de openbare ruimte, door middel van een proces van participatoir ontwerp. Neem extra moeite om ook de meest kwetsbare groepen uit de maatschappij een actieve stem te geven in dit proces. Neem ook ethische waarden mee in het ontwerp. De overheid heeft de primaire verantwoordelijkheid om dit proces te organiseren, samen met haar maatschappelijke partners.
- De overheid moet haar eigen digitale competenties vergroten en dient zich hierbij gedegen op de hoogte te stellen van de mogelijkheden en beperkingen van de meest recente vormen van digitale technologie. Een technologisch naïeve overheid is een makkelijke prooi voor kwaadwillende partijen, een slechte partner voor de industrie en een tekortschietende hoeder van het publiek belang.
- Data-eigendom en privacy van burgers in de publieke ruimte dienen te worden gerespecteerd en beschermd. De overheid dient geen gebruik te maken van onbewezen, onveilige of te weinig robuuste technologie. Onbedoeld, onvoorzien of illegaal gebruik van de technologie en de data moet in kaart worden gebracht en gereguleerd.
- De overheid moet een constructief-kritisch maatschappelijk (tegen)geluid organiseren. Hierbij moet fors geïnvesteerd worden in de digitale geletterdheid van burgers, met daarbij meer aandacht voor de nieuwste technologische ontwikkelingen en hoe deze de fundamentele ethische waarden binnen onze digitale maatschappij raken. De versterking van technologisch burgerschap kan vele vormen aannemen, bijvoorbeeld debatten, cursussen, livinglab-demonstraties, kritische culturele projecten of speculatieve designs.
- De overheid moet voldoende en onafhankelijke kritische controle en toezicht organiseren en verankeren in de wet. Hierbij moeten we denken aan continu aanzwengelen en organiseren van het waarden-debat, bespreking van relevante ethische en juridische casuïstiek, en toetsing van governance, juridische en ethische kaders via volksvertegenwoordiging op alle niveaus (gemeentelijke en provinciale raden, Eerste en Tweede kamer). Daarnaast is het van belang het maatschappelijk middenveld en relevante adviesorganen continu te betrekken en de rol en positie van toezichthouders te versterken. Hierbij moet ook onderlinge afstemming over handhavingsdomeinen heen worden georganiseerd.
Samenvattend is het belangrijkste advies dat we de veelvormigheid in onze maatschappij moeten mobiliseren, omarmen en betrekken. Niet vanuit een noodzakelijke democratische concessie naar de burger, maar omdat dit uiteindelijk tot een bredere en meer gevarieerde culturele en intellectuele basis van collectieve besluitvorming leidt. Zoals de socioloog Dirk Helbing en collega’s overtuigend hebben beargumenteerd ligt er een grote kracht in collectieve intelligentie bij het besturen van onze huidige complexe digitale maatschappij. Dit vereist het organiseren van inspraak en participatie, het waarderen van variatie boven eenvormigheid, en het stimuleren van onafhankelijke informatiegaring en lokale beslissingsbevoegdheden. Socio-diversiteit is net zo belangrijk als biodiversiteit, schrijft Helbing.
Een digitaal verantwoordelijke overheid, ook eentje die worstelt op het gladde ijs tussen nudging en überveillance, is gebaat bij een mondige, digitaal vaardige en kritische burger, een levendig democratisch debat, participatie vanuit een breed scala aan maatschappelijk belanghebbenden, een solide wetenschappelijke basis, onafhankelijke en transparante wettelijke controle, en voortdurende ethische toetsing. De kracht zit in flexibiliteit door veelvormigheid, hetgeen leidt tot robuust en responsief bestuur van onze digitale maatschappij.
Lees het volledige essay in de essaybundel ‘Behoorlijk datagebruik in de openbare ruimte’.
