Het jaar 2023 wordt een sleuteljaar voor de doorontwikkeling van AI in de zorg. Het Expertisecentrum Zorgalgoritmen verwacht dit jaar de eerste set algoritmen te kunnen certificeren. Tezelfdertijd scherpt de Autoriteit Persoonsgegevens (AP) het toezicht aan op de ontwikkeling en toepassing van algoritmes.
“Algoritmes kunnen grote impact hebben op mensenlevens en op onze samenleving”, aldus AP-voorzitter Aleid Wolfsen. “Transparantie over het gebruik van algoritmes is daarom cruciaal om discriminatie en willekeur te voorkomen.” Met het oog hierop heeft het kabinet samen met de AP een gespecialiseerd toezichtsorgaan opgericht, de directie Coördinatie Algoritmes. De AP ontvangt voor deze nieuwe taak dit jaar één miljoen euro, oplopend naar structureel 3,6 miljoen euro in 2026.
Sneller ingrijpen
De nieuwe vorm van toezicht moet de privacy-waakhond in staat stellen om adequater op te treden bij problemen en fouten met algoritmes. “Als wij daar strakker op zitten kun je sneller ingrijpen, sneller waarschuwen en sneller stoppen”, aldus Wolfsen tegenover de NOS. “We gaan dat samen doen met andere toezichthouders.” Burgers kunnen zelf ook eventuele klachten melden. De AP kan op grond hiervan besluiten tot een onderzoek.
Certificering
De Samenwerkende Algemene Ziekenhuizen (SAZ) zien de toekomst van AI met vertrouwen tegemoet. Het aan de SAZ gelieerde Expertisecentrum Zorgalgoritmen denkt dit jaar de eerste algoritmen te kunnen certificeren. “Het afgelopen jaar hebben we een stevige basis gelegd voor de toepassing van zorgalgoritmen in ziekenhuizen”, laat het Expertisecentrum weten. “In vier van de ziekenhuizen wordt een klinische studie uitgevoerd, als onderdeel van de certificering van de eerste set algoritmen. Op naar certificering van de eerste set algoritmen in 2023!” In concreto mikt het expertisecentrum in Q2 op zowel een CE-markering als ISO-certificering.
Bias
Het zichtbaar maken van technische en praktische vereisten verdient lof. Maar, gecertificeerd of niet, algoritmen kennen een fundamenteel probleem, stelt Sanjiv Narayan, als arts en hoogleraar verbonden aan de Stanford University School of Medicine: “Alle data kennen bias. Dat is geen paranoia, maar een feit.”
Slecht toegang
Een berucht voorbeeld vormt is het Amerikaanse onderzoek naar het menselijk genoom en genetica. Maar liefst 80 procent van de verzamelde data is van mensen van Kaukasische herkomst, constateerden onderzoekers enkele jaren geleden in Nature. In een gefragmenteerd zorgstelsel waarin grote groepen om economische reden geen of slecht toegang hebben tot zorg, begint de bias al bij het verzamelen van data. Maar ook bij het opstellen en testen van algoritmes kan vertekening optreden. Als een health system relatief weinig arme, gekleurde patiënten binnen krijgt, keren deze ook niet terug in de data.
Onvermijdelijk
Vooroordelen en vertekeningen zijn vaak niet het gevolg van bewuste keuzes. “Soms zijn ze zelfs onvermijdelijk”, aldus Narayan. “Maar dit betekent wel dat we de afwijkingsmarge van ieder data-punt moeten kennen om resultaten te kunnen interpreteren.”
Dit is volgens onderzoekers Trishan Panch, Heather Mattie en Rifat Atun van de Harvard T.H. Chan School of Public Health des te urgenter omdat algoritmes niet simpelweg sociale ongelijkheid weerspiegelen, maar ook versterken. “In de kern is bias in algoritmen een waardenkwestie. Welke gezondheidsuitkomsten zijn maatschappelijk van belang en waarom? Als je naar onzuiverheden in algoritmen als een puur technisch probleem kijkt, kun je het probleem niet oplossen. Het gaat net zozeer over de samenleving als over algoritmen.”
Remedie
Als remedie wijzen de Harvard-onderzoekers op noodzaak van wetgeving. Die laat volgens hen vooralsnog te wensen over. Om de makers van algoritmen bij de les te houden, kunnen zorgaanbieders ook naar de rechter stappen. Class action lawsuits oftewel groepsvorderingen kunnen makers dwingen om onzuiverheden uit hun algoritmes te filteren. De University of Chicago Medicine’s (UCM) en adviesbureau Booz Allen zien meer in samenwerking met de voornaamste belanghebbenden, waaronder artsen en patiënten.
Leidraad
Nederlandse zorginstellingen die met AI aan de slag willen kunnen sinds vorig jaar gebruik maken van een leidraad ‘Waardevolle AI’. Hoewel contact met de patiënt hierin een plek heeft gekregen, richt de leidraad zich vooral op de praktische kant van AI. Ethische vragen worden niet expliciet benoemd.
AI is één van de kernthema’s tijdens ‘Zorg & ICT 2023: In charge of the future’ die van 13 tot en met 15 juni in Jaarbeurs wordt gehouden.
