Burger en kinderdialoog tijdens conferentie Nederland Digitaal

Tijdens de conferentie Nederland Digitaal op 21 maart jl werden 64 burgers en 29 kinderen (de Raad van Kinderen BZK) flink aan het werk gezet. Zij gingen een maatschappelijke dialoog aan over wat Artificiële Intelligentie voor impact heeft op grondrechten en publieke waarden. Staatssecretaris Knops kwam langs en ging in op de resultaten die aan hem gepresenteerd werden. Daarna gaf hij een speciale Donald Duck over dit onderwerp aan de Raad van Kinderen.

De dialogen vonden plaats in drie rondes: eerst werden de beelden die mensen hebben bij Artificial Intelligence (AI) besproken, daarna de voor- en nadelen, en tot slot de impact op grondrechten en publieke waarden. Burgers en kinderen waren in vier groepen ingedeeld. Iedere groep richtte zich op één thema, namelijk: arbeidsmarkt, gezondheidszorg, democratie of veiligheid. De burgergroepen werden begeleid door medewerkers van Kantar Public en van BZK. De kinderdialoog werd begeleid door MissingChapter Foundation. De gesprekken tussen burgers waren geanimeerd, creatief en de opkomst was goed. De kinderen keken hun ogen uit op de beursvloer vol nieuwe technologie en kwamen soms met zeer originele oplossingen.

Rijke oogst

Anja Lelieveld (directie Informatiesamenleving en Overheid, ministerie van BZK)  spreekt van een rijke oogst, wanneer ze voor de staatssecretaris de resultaten samenvat. “We kregen veel input over ‘waar raakt het gebruik van AI onze grondrechten’ tot ‘hoe kunnen we onze grondrechten beschermen?’ Want AI kan onze wereld veiliger, gezonder, gemakkelijker en rechtvaardiger maken. De vraag is dus: hoe kunnen we de kansen benutten en de risico’s afdekken? Je kunt bijvoorbeeld denken aan een platform, waar je data beschermd is, zoals de kinderen opperden met hun speciale gezondheidsapp. Bij de data in de app kun je alleen zelf, je familie en je huisarts. Uit de resultaten van de dialoog haalde Lelieveld ook de relativering: “We moeten AI ook niet overschatten, het kan niet alles.”

Eerste Donald Duck duikt in de digitale wereld

De staatssecretaris vindt het mooi dat iedereen veel kansen ziet. “Maar er kleven ook risico’s aan, dat merkt u hier vandaag terecht op. Er kan veel, maar we moeten onszelf ook steeds de vraag stellen: willen we dat allemaal wel? Zo mag en kan juf Manon niet vervangen worden door een robot.” “Wie leest hier de Donald Duck?”, vraagt de staatssecretaris daarna. Zowel bij de volwassenen en kinderen gaan er handen de lucht in. ”Met deze speciale Donald Duck maken we de technische ontwikkelingen herkenbaar. Ik heb hem thuis uitgeprobeerd, mijn zoon van 9 heeft hem in één keer uitgelezen. Bij deze Donald Duck hoort ook een lesprogramma, dat heb ik vorige week zelf op een basisschool in Rotterdam uitgeprobeerd. Kinderen weten vaak al veel van nieuwe technologie, maar mogen zich soms wat bewuster zijn van de risico’s die er ook zijn.” Daarna reikte de staatssecretaris de eerste Donald Duck uit aan de Raad van Kinderen en begeleider Paul Geraeds van de Missing Chapter Foundation.

Resultaten per thema in het kort

Arbeidsmarkt

Burgers in gesprek over het thema arbeidsmarkt zagen de meeste invloed op menselijke waardigheid. Robots kunnen aan de ene kant veel werk uit handen nemen, maar ze kunnen ook beperken. Ze maken het mogelijk dat processen beter verlopen, dat er minder fouten worden gemaakt. Maar leiden ze er op den duur toe dat we niet meer zelf nadenken? En als die technologie gaat toezien op het werk van mensen, wordt de controle dan niet te streng, en leidt het ertoe dat fouten direct worden bestraft? Ook heeft AI impact op het recht op gelijke behandeling wanneer we kijken naar de arbeidsmarkt. AI zou ertoe kunnen leiden dat meer mensen aan het werk kunnen. Nieuwe technologieën maken het sowieso makkelijker om te werken waar je maar wil, wanneer je maar wil. Maar ook: sluit al die nieuwe techniek geen mensen uit op de arbeidsmarkt? Kan iedereen meekomen?

Gezondheidszorg

Voor de gezondheidszorg werden ook veel voor- en nadelen gezien. Wanneer robots en AI (administratieve) taken overnemen, kunnen de mensen meer aan ‘het bed’ werken en komt er juist meer tijd vrij voor menselijke zorg. Als de inzet van AI betere behandelingen oplevert, is dat mooi. Maar dan moet het wel voor iedereen toegankelijk zijn en niet alleen voor wie het kan betalen.

Er zijn nog wel belangrijke vragen te beantwoorden. Hoe kan de patiënt de AI controleren? Hoe komt zijn diagnose tot stand? En wie is er aansprakelijk voor fouten? En hoe kan in de zorg het ‘recht om vergeten te worden’ vorm krijgen, wanneer data tussen verschillende partijen wordt gedeeld?

Veiligheid

Voordelen van AI ten aanzien van menselijke waardigheid: kansen voor preventie, en minder kans op fouten, want machines worden nooit moe. Maar gaan we niet de menselijke maat verliezen? De mens kan een eigen interpretatie van de feiten maken. Een systeem kan dan niet. En leidt het niet tot verstarring wanneer systemen het meeste denkwerk overnemen? Kunnen mensen het werk gewoon weer overnemen, als dat bijvoorbeeld door een stroomstoring nodig is; kunnen we zelf dan nog nadenken? En blijft de mens wel de baas over de veiligheidssystemen? AI kan helpen situaties te beheersen, waardoor het veiliger wordt op straat. Denk aan het bepalen hoeveel mensen ergens zijn. Maar pas op als de technologie (en de data) in handen zijn van commerciële partijen!

Democratie

Bij democratie gaat het erom dat je als burger mee kunt beslissen, dat er sprake is van vrijheid van meningsuiting. Het gaat om recht op informatie, en de bedreigingen daarvan, door de zogenaamde informatiebubbel en door nepnieuws. Digitalisering kan ertoe leiden dat de overheid minder noodzaak ziet om met burgers in gesprek te gaan, omdat ze denken dat ze het toch allemaal wel weten via social media-analyses en dergelijke. AI kan ervoor zorgen dat je meer toegang hebt tot informatie, maar ook dat grote bedrijven (nog) meer macht krijgen.

Kunstmatige intelligentie

Robots begrijpen je niet, vinden de kinderen. Daarom kan bijvoorbeeld juf Manon niet vervangen worden door een robot. Robots kunnen geen ruzies sussen. En ze missen nuance: Nemen robots je niet veel te serieus, vragen zij zich af.

Er zou een gezondheidsapp moeten komen. De dokter kan een recept uitschrijven op basis van wat je daarin deelt. En de gegevens in de app zijn alleen voor jou, je familie en je huisarts.

Wat als een rechter vervangen wordt door een computer? Dat heeft voor- en nadelen, zagen de kinderen. Computers kunnen meer onthouden dan mensen, dat is een voordeel. Maar wat als ze gehackt worden? Een nadeel is dat je aan een computer niet kan zien of hij liegt of niet.

Mogen léuke advertenties wel, wanneer ze op basis van jouw (persoonlijke) data gepersonaliseerd worden aangeboden? Eigenlijk zou je zelf moeten kunnen bepalen welke data van jou worden opgeslagen, vonden de kinderen. Als je op een hele leuke pagina bent, mag het niet zo zijn dat ze je automatisch gaan volgen. Je zou daarvoor eerst op een knopje moeten drukken: ‘hier mag je me volgen’.