Kwaliteit van algoritmen en besluitvorming
In oktober 2019 publiceerde het ministerie van Binnenlandse Zaken en Koninkrijksrelaties de essaybundel ‘Behoorlijk datagebruik in de openbare ruimte’. Het Leer- en Expertisepunt Datagedreven werken (LED) denkt dat de essays uit deze bundel juist in deze tijd – waarin apps mogelijk worden ingezet als hulpmiddel in de strijd tegen het coronavirus – het lezen waard zijn. Daarom brengen we de essays nog eens onder de aandacht.
Welke rol speelt Artificial Intelligence (AI) in de samenleving, nu en in de toekomst? Hierover gaat het essay van prof. dr. Eric Postma (hoogleraar Artificial Intelligence Tilburg University). De nadruk ligt op het gebruik van data en AI-algoritmen in de openbare ruimte. Hieronder leest u het voorwoord, de samenvatting en de beleidsvoorstellen van het essay. De volledige versie van het essay treft u in de essaybundel ‘Behoorlijk datagebruik in de openbare ruimte’.
Ga direct naar:
Ethisch, juridisch en maatschappelijk debat noodzakelijk
Voorwoord door Ran Haase, juridisch adviseur gemeente Eindhoven
In 2015 dachten wij in Eindhoven na over wat de rol van de gemeente nu eigenlijk is als het gaat over verzamelen van data in de publieke ruimte. De reden hiervoor was dat we in toenemende mate met diverse partijen werden geconfronteerd die data over bezoekers van de stad wilden verzamelen.
Ons gedachtenexperiment leidde ons langs fundamentele vragen over het publiek belang waar wij als gemeente voor staan; vragen over het eigendom van data, grondrechten, de waarde die met data kan worden gecreëerd en het belang van de inwoner. Uiteindelijk kwamen we tot de Open Data Principes en het IoT Charter. Deze principes zijn daarna doorontwikkeld tot de Spelregels voor de Digitale Stad van Amsterdam en Eindhoven, welke richting geven aan verantwoord datagebruik.
Het denken over verantwoord datagebruik heeft sindsdien gelukkig niet stilgestaan. Het debat over data en – recentelijk – AI wordt binnen gemeenteland in allerlei domeinen steeds breder gevoerd. De kansen en uitdagingen worden steeds duidelijker, maar zijn voor menig politicus, ambtenaar en inwoner nog moeilijk te vatten. Hoe dan ook, het afgelopen jaar zien we in gemeenteland een groeiend pleidooi voor het maken van ethische afwegingen bij dataprojecten.
Het is goed om te zien dat het ministerie van Binnenlandse Zaken en Koninkrijksrelaties het initiatief heeft genomen voor de proeftuin behoorlijk datagebruik. En dat het ministerie prof. dr. Eric Postma bereid heeft gevonden om bijgaand essay te schrijven. Prof. dr. Eric Postma is als hoogleraar AI verbonden aan het departement Cognitive Science & AI van Tilburg University en aan de Jheronimus Academy of Data Science (JADS) te ‘s-Hertogenbosch, een samenwerkingsverband van Eindhoven University of Technology en Tilburg University. Zijn onderzoek richt zit op de ontwikkeling en toepassing van machine learning in de automatische herkenning van beelden en signalen.
De aanbevelingen van prof. dr. Postma onderschrijf ik van harte: AI dient zich niet in een vacuüm te ontwikkelen. Er dient geïnvesteerd te worden in hoogwaardig onderzoek. Tegelijkertijd is het noodzakelijk dat er een ethisch, juridisch en maatschappelijk debat wordt gevoerd over wat voor een samenleving wij willen zijn. Het is daarbij van belang dat de overheid investeert in kennisontwikkeling bij politici en beleidsmakers, zodat zij op verantwoorde en betrouwbare wijze hun bijdrage aan dit debat kunnen leveren.
De aanbevelingen van prof. dr. Postma zijn belangrijke vervolgstappen in een debat dat gevoerd moet blijven worden.
Artificial Intelligence: nu en in de toekomst
Samenvatting door prof. dr. Eric Postma, hoogleraar Artificial Intelligence Tilburg University
Dit essay verschaft een nuchtere blik op AI (Artificial Intelligence) en haar rol in de samenleving van nu en in de toekomst. De nadruk ligt op het gebruik van data en AI-algoritmen in de openbare ruimte. Er wordt een antwoord gegeven op de vraag op welke wijze kan worden voorkomen dat er zaken misgaan in het datagebruik en bij de toepassing van AI-algoritmen in onze samenleving.
Na een inleidende beschouwing over algoritmen, machine learning, en de recente ‘AI-revolutie’, wordt vastgesteld dat:
- Het lastig is voor beleidsmakers om AI en verantwoord datagebruik te doorgronden;
- De AI-revolutie zowel een technische als sociale revolutie is die een interdisciplinaire aanpak vereist;
- Er een nijpend tekort is aan professionals in allerlei domeinen met voldoende kennis van de mogelijkheden en gevaren van AI-algoritmen;
- Certificering van AI-algoritmen door een onafhankelijk orgaan noodzakelijk is.
Op basis van deze vaststellingen worden vijf beleidsvoorstellen geformuleerd, te weten:
- School politici en beleidsmakers regelmatig bij op het gebied van datagebruik en de laatste mogelijkheden van AI in relatie tot de sociale en juridische aspecten;
- Investeer in opleidingen die interdisciplinaire professionals afleveren, om zodoende het tekort aan professionals aan te zuiveren;
- Verbeter de omstandigheden voor AI-onderzoekers om de brain drain van onderzoekers te stoppen;
- Investeer in onderzoek om de transitie naar een goede digitale samenleving te faciliteren;
- De overheid zou toetsing van AI-algoritmen verplicht kunnen stellen om de kans op misstanden te minimaliseren. Aan de hand van deze beleidsvoorstellen, kan worden voorkomen dat er zaken misgaan bij de toepassing van AI-algoritmen in onze samenleving.
Een machine learning gedomineerde digitale samenleving
Beleidsvoorstellen van prof. dr. Eric Postma, hoogleraar Artificial Intelligence Tilburg University
De impact van machine learning en datagebruik in de openbare ruimte op de samenleving zal de komende jaren alsmaar toenemen. Om de overgang naar een door machine learning gedomineerde digitale samenleving goed te laten verlopen, formuleer ik hieronder vijf beleidsvoorstellen die voortvloeien uit de observaties.
1. School politici en beleidsmakers regelmatig bij op het gebied van datagebruik en de laatste mogelijkheden van AI in relatie tot sociale en juridische aspecten.
De snelle technologische ontwikkelingen leiden tot het beschikbaar komen van nieuwe databronnen en nieuwe technologie. Het is bijvoorbeeld pas sinds kort mogelijk om synthetische afbeeldingen en video’s te maken die bijna niet van echt te onderscheiden zijn. Het is voor politici en beleidsmakers onmogelijk om de mogelijkheden en gevaren van de nieuwe databronnen en nieuwe technologie te overzien. De geadviseerde bijscholing betreft een update op een relatief hoog niveau en heeft twee doelen:
- Om als gelijke gesprekspartner met de markt te kunnen communiceren;
- Om regie te kunnen voeren over wat er nodig is aan technologische innovatie bij de overheid.
Met een basale kennis van machine learning is met een korte bijscholing een helder beeld te verkrijgen, zonder dat daarbij de technische details aan bod hoeven te komen. Ook voor de sociale en juridische aspecten van datagebruik en AI-technologie geldt dat de snelle technologische ontwikkelingen zorgen voor voortschrijdend inzicht en veranderende opvattingen. Ook op dit vlak zou een periodieke bijscholing wetgevers, politici en beleidsmakers in staat kunnen stellen de snelle ontwikkelingen het hoofd te bieden en adequaat te handelen. Een gecombineerde bijscholing van technische, sociale, en juridisch aspecten zou bijvoorbeeld eens per jaar kunnen plaatsvinden gedurende een ‘technologische bijscholingsdag’.
2. De digitale samenleving vereist professionals die thuis zijn in zowel de technische als de menselijke en sociale kant van AI. Investeer in opleidingen die dergelijke professionals afleveren, om zodoende het tekort aan professionals aan te zuiveren.
De AI-revolutie is zowel een technologische als een sociale of culturele revolutie. De technische mogelijkheden van AI hebben een impact op menselijk gedrag en beïnvloeden de wijze waarop de maatschappij functioneert. Professionals zijn nodig voor alle domeinen waar technologie en mens samenkomen en betreft dus het volledige scala inclusief het sociale domein, veiligheid, en mobiliteit.
3. Probeer de brain drain van onderzoekers te stoppen door de omstandigheden voor AI-onderzoekers te verbeteren.
Om een belangrijke rol te blijven spelen in de technologische ontwikkelingen is het werven en behouden van goede onderzoekers een vereiste. Het aantrekkelijker maken van Nederland als AI-kennisland voor onderzoekers resulteert in meer innovatie, beter onderwijs en een meer leidende rol in de sturing van de digitale samenleving.
4. Investeer in onderzoek om de transitie naar een goede digitale samenleving te faciliteren.
Investeringen in AI-onderzoek naar toepassingen van datagebruik in de openbare ruimte dragen bij aan een succesvolle transitie. Het ligt voor de hand om aansluiting te zoeken bij bestaande initiatieven, zoals het Stratumseind project in Eindhoven.
5. Een onafhankelijk CBS-achtig orgaan dat AI-technologie screent op genoemde statistische principes voorkomt misstanden. Gezien de voortdurende upgrades van machine learning- algoritmen, is een periodieke toetsing noodzakelijk. De overheid zou toetsing verplicht kunnen stellen om de kans op misstanden te minimaliseren.
Een dergelijk orgaan voor toezicht op en transparantie van datagebruik zou op nationaal of Europees niveau opgezet kunnen worden. Onlangs kondigde de Australische overheid plannen aan voor het opzetten van een overheidsorganisatie voor het screenen van algoritmen zoals gebruikt door de technologiegiganten Facebook en Google. De organisatie wordt ondergebracht bij de Australian Competition and Consumer Commission. Het gebruik van algoritmen en data in de openbare ruimte, al dan niet door technologiegiganten, zou op eenzelfde wijze gescreend kunnen worden.