Onderzoekers van het Rathenau Instituut vinden dat de overheid de mogelijkheden van digitale technologie overschat. En die vaak ten onrechte als wondermiddel presenteert. De risico’s worden juist onderbelicht. Een nieuw kabinet moet deze valkuil vermijden en regels en randvoorwaarden durven opstellen: “De ondermijnende invloed van de grote platformbedrijven op de democratie en de economie is te lang op zijn beloop gelaten.”
“Ondanks tal van initiatieven slaagt de overheid er niet in om de uitdagingen van de digitale samenleving voldoende het hoofd te bieden”, schrijven directeur Melanie Peters en onderzoekers Jurriën Hamer en Linda Kool in een recent opiniestuk. “Het komende kabinet moet het tij keren. Hoe? Stop met het overschatten van de kansen van digitalisering, en het onderschatten van de risico’s.”
Het Rathenau Instituut erkent dat sommige digitale technologieën onmiskenbaar succes hebben. Maar die successen beperken zich doorgaans tot ‘helder afgebakende omgevingen’.
Inbedding in zorgsector
De ervaringen in de zorgsector spreken in dit opzicht boekdelen. De toepassing van AI bij medische scans noemen de auteurs veelbelovend. De corona-app, die vorig jaar met hoge verwachtingen werd ingevoerd, struikelde daarentegen omdat het contactonderzoek en vervolgacties niet op orde waren. “Een app zonder context is nooit de silver bullet voor het tegengaan van een epidemie”, aldus de auteurs. “Digitale technologie is pas deel van de oplossing als deze verstandig ingebed wordt in complexe praktijken als de zorg en het onderwijs.”
Privacy
Naast onderschatting van de context speelt ook miskenning van de risico’s digitale innovatie parten, vinden de auteurs: “Het is tot dusver niet gelukt om deze dreigingen voldoende het hoofd te bieden. De afgelopen jaren is er gelukkig meer aandacht gekomen voor privacy, veiligheid en non-discriminatie […] Maar onze digitale netwerken zijn er niet veiliger op geworden.”
Mensenrechten
Sterker nog: voor de dieperliggende effecten van digitale innovaties is nog altijd weinig oog. “De ondermijnende invloed van de grote platformbedrijven op de democratie en de economie, is te lang op zijn beloop gelaten. Ook de komende jaren krijgt de samenleving te maken met digitale toepassingen die op gespannen voet staan met mensenrechten. Denk hierbij aan AI-systemen die proberen onze emoties uit te lezen of ons op afstand identificeren.”
Door dit alles ligt er volgens de schrijvers een urgente vraag op de formatietafel. “Hoe zorgen we ervoor dat de digitale samenleving over vier jaar écht veiliger, duurzamer, gezonder en menselijker is?”
Rathenau adviseert een nieuw kabinet om te beginnen “wat Hollandse nuchterheid over de mogelijkheden van digitale technologie”. “Computers zijn goed in het beheersen van de regels van een spel als Go, maar niet in het voorspellen van sociale uitkomsten.”
Verantwoorde innovaties
Een nieuw kabinet moet ook op tijd regels en randvoorwaarden durven op te stellen. “Verantwoorde innovaties vragen om het tijdig innemen van stevige, heldere posities. Door een nieuw kabinet én door volksvertegenwoordigers. Waar nodig zullen ze ook de uitrol van ongewenste toepassingen moeten stoppen. Anders blijven we in de digitale samenleving dweilen met de kraan open.”
Met het opiniestuk nemen Hamer, Kool en Peters een voorschot op een komend rapport over digitalisering, dat het Rathenau Instituut het kabinet wil aanbieden.
