Tijdens het ECP Jaarcongres op 15 november 2018 leverde de directie Informatiesamenleving en Overheid (I&O) van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) verschillende bijdragen, waaronder een sessie van Anja Lelieveld (programmamanager Digitale Overheid) over ethiek en digitalisering, samen met wetenschap en bedrijfsleven.
Anja Lelieveld over grondrechten en digitalisering
“Het hoeft niet per se mis te gaan”
Anja Lelieveld trad ook op in de sessie met de werkgroep van overheid, bedrijfsleven en wetenschap die zich vanuit ECP met vraagstukken rond digitalisering en ethiek bezighoudt.
Anja vindt het een voorrecht om in zo’n denktank te zitten. Er komen veel denkrichtingen en oplossingen voorbij over dit onderwerp. Een belangrijke eerste vraag voor haar is: ‘Is er überhaupt een probleem? Dus niet alleen in risico’s denken, maar ook de kansen en potentie van technologieën zien. BZK volgt daarvoor de belangrijkste technologische ontwikkelingen en kijkt waar die onze grondrechten raken. Dat hoeft natuurlijk niet per se mis te gaan.” Als dat wel zo is, heeft de overheid instrumentarium om te zeggen: ‘Ho, tot hier en niet verder.’ Ze noemt als voorbeeld de ontwikkelingen rond klonen. Los van de techniek, klonen van mensen vinden we niet ethisch en is bij wet verboden.
Door ‘t midden
Wat digitalisering betreft staan we op een kruispunt, ziet ze. “We kunnen linksaf – ultraliberaal; de wereld van de Googles – of rechtsaf richting Chinees voorbeeld.” Liever ziet ze dat Europa de derde weg ontwikkelt: door het midden. Nu de Nederlandse overheid ook zelf steeds meer AI gaat gebruiken is het belangrijk transparant te zijn, ethisch te handelen en er verantwoording over af te leggen.” Vertrouwen is een sleutelwoord: “Hoe kunnen we dat vasthouden en verder versterken?” Daarvoor heeft BZK een aantal principes ontwikkeld voor ethisch verantwoord innoveren. “Ik hoop dat ook bedrijven die gaan gebruiken.”
Bedrijven doen mee
In de werkgroep zit ook Rob Nijman (IBM), namens Nederland ICT. “Goed dat de Nederlandse overheid met ethiek aan de slag gaat. Maar het is een taak voor ons allemaal. Branchevereniging Nederland ICT heeft de discussie omarmd en wil dat ICT-bedrijven er een actieve rol in spelen.” IBM heeft zelf guidelines voor ethiek voor ontwikkelaars in gebruik, die regelmatig worden herzien. Hij geeft met een kwinkslag een nieuwe insteek aan het debat: “Is het ethisch verantwoord dat we kansen laten liggen?”
Begeleidingsethiek
Professor Peter-Paul Verbeek vertegenwoordigt de wetenschappers in de werkgroep. Hij neemt de deelnemers mee in het concept van de begeleidingsethiek. “Begeleiden kun je op drie manieren. Je kunt het hebben over het gebruik, het ontwerp (moraliseren) of het beleid (condities scheppen).” Ethiek toepassen op techniek is nog even wennen, want de techniek beïnvloedt ook de keuzes die je maakt en zelfs je morele handelen. Denk bijvoorbeeld aan de keuzes rond ongeboren kinderen, sinds ze door techniek in beeld worden gebracht. Nog sterker: “Techniek heeft invloed op de moraal zélf: de kaders waarméé we beoordelen, zijn niet onafhankelijk van wát we beoordelen.”
Een kwestie van opvoeden
Zijn overtuiging is dat we ons ‘kritisch moeten toevertrouwen aan techniek’. “Je kunt er niet alles van weten, dat is niet haalbaar. Het is een systeem dat je moet opvoeden.” Anja Lelieveld trekt het opvoedkundig belang door naar de manier waarop we naar fouten kijken: “Als we een resultaat zien dat niet naar onze wens is – bijvoorbeeld door vooroordelen in de data – moeten we niet het systeem weggooien, maar ervan leren en vervolgens verbeteren. Bijvoorbeeld door betere data te creëren en gebruiken.
Oproep van professor Verbeek: “Technieken roepen weerstanden op. We moeten ons steeds afvragen welke waarden achter weerstand tegen nieuwe technologie zitten. Zodat we onszelf, de wereld en de techniek op een ethische manier opnieuw kunnen uitvinden.”
Digitale grondrechten in het ontwerpproces
Bram de Rijk (DIO) en Leon Dohmen (KNVI) gingen tijdens hun interactieve sessie in gesprek met deelnemers over zorgen over grondrechten en hoe de aandacht in de (ICT-) praktijk daarvoor te organiseren.
