Gaat Artificiële Intelligentie (AI) voor een vierde industriële revolutie zorgen? En gooit AI daarmee de zorg zoals wij die kennen overhoop? Grote vragen waar de individuele zorgprofessional het knap benauwd van kan krijgen. De onlangs verschenen ‘Leidraad kwaliteit AI in de zorg’ biedt voorzichtig houvast. En daarmee ook vertrouwen om aan de slag te gaan.
“Artificial Intelligence is zich binnen de zorg razendsnel aan het ontwikkelen”, licht Teus Kappen, CSIO/CRIO bij UMC Utrecht, de ontwikkeling van de leidraad toe. “Er is dringend behoefte aan handvatten.”
Met de leidraad hebben veldpartijen uit de vrijwel volle breedte van de zorg een gezamenlijk richtsnoer opgesteld voor professioneel handelen bij de ontwikkeling en het gebruik van AI. Door de spelregels voor goede AI te verhelderen, willen de opstellers niet alleen toepassing van op AI gebaseerde voorspel- en beslismodellen stimuleren, ook willen ze het vertrouwen hierin vergroten.
Hoogwaardige en veilige zorg
“De bedoeling van de leidraad is dat burgers en patiënten er op kunnen vertrouwen dat zij kwalitatief hoogwaardige en veilige AI-gestuurde zorg krijgen”, zegt medeopsteller Carl Moons, hoogleraar Klinische Epidemiologie van het Julius Centrum van het UMC Utrecht. “Dat zorgverleners en zorgverzekeraars er op kunnen vertrouwen dat zij veilige en kwalitatief hoogwaardige zorg verlenen en vergoeden. En dat AI-ontwikkelaars weten waaraan ze moeten voldoen.”
FAIR-data
Een belangrijk criterium in dit verband is de medische kwaliteit, oftewel hoe goed is voorspellende dan wel diagnostische waarde ten opzichte van bestaande methodes. En wat zijn de mogelijke gevolgen voor de patiënt? Een ander punt van overweging is de kwaliteit van de gebruikte data. Liefst zijn die – zoals in de leidraad opgenomen – FAIR, oftewel Findable (vindbaar), Accessible (toegankelijk), Interoperable (uitwisselbaar) en Reusable (herbruikbaar). En dan spelen er vanzelfsprekend ook kwesties rond privacy en herleidbaarheid.
Geen veldnorm
Een panklare oplossing voor al deze kwesties heeft de leidraad niet. Het stuk moet volgens de opstellers vooral worden gezien als een levend document dat in de praktijk voortdurend zal worden bijgeslepen. Om die reden is het oorspronkelijke label van ‘veldnorm’ losgelaten. Het stuk is “geen recept, toetsingsinstrument of risicoanalyse-instrument”, maar “gaat in de eerste plaats over goed professioneel handelen”. De opstellers hopen wel dat het kompas de eerste stap is richting een “breed gedragen veldnorm”.
Praktische waarde
Dat het stuk nog niet de formele status van “veldnorm” heeft doet wat het ministerie van VWS, dat de betrokkenen heeft samen gebracht, niets af aan de praktische waarde. “De leidraad helpt zorgverleners in alle sectoren om de kwaliteit van aangeboden AI te beoordelen, zodat deze makkelijker en met minder hobbels aangekocht en geïmplementeerd kan worden”, aldus ene woordvoerder. “Ook helpt het ontwikkelaars om kwalitatieve, betrouwbare AI te ontwerpen en realiseren, wat de kans op succesvolle implementatie kan verhogen.
Inzicht in criteria en bijbehorende eisen om kwaliteit van AI vanuit een zorgperspectief te toetsen helpt bovendien vertrouwen in AI voor gezondheid te realiseren. Daarnaast draagt de leidraad ook bij aan uniformiteit en het proces van markttoelating en vergoeding door verzekeraars.”
Reacties
De reacties uit veld zijn overwegend positief. “Goed dat er vanuit de sector een eigen veldnorm ontstaat”, zegt directeur David Tom van de Nederlandse AI-pionier in de zorg 6Gorillas. “Normeringen hebben de neiging om wat groot te worden en soms ook initiatieven dood te slaan. Maar in essentie is dit een prima document.”
Handelingsruimte
Ook voorzitter Pieter Jeekel van de Nederlandse AI Coalitie is positief over de leidraad. Voor de behoedzame naamgeving kan hij begrip opbrengen. “Bij een veldnorm worden mensen toch zenuwachtig. Ze denken dat ze in één keer allerlei dingen verplicht moeten gaan doen. Dat is niet de bedoeling van dit stuk”, aldus Jeekel.
“De leidraad geeft in ieder geval de handelingsruimte aan die innovatoren, ziekenhuizen en zorgverzekeraars hebben. Nu vinden mensen AI vaak nog eng. Als een zorginstelling of andere partij weet dat een toepassing zo’n stempel van goedkeuring heeft, zullen ze eerder stappen zetten.”
Een dwingende norm voor AI is wat Jeekel betreft gezien de verschillen in kennis en ervaring in Nederland ook nog niet direct opportuun. “Op het gebied van beeldvorming zijn we het verst met AI-toepassingen. Daar is AI al bijna gangbaar. Maar bij bijvoorbeeld de ziekenhuislogistiek staat AI nog in de kinderschoenen.”
Europese wetgeving
Met de leidraad vervult Nederland binnen Europa een voortrekkersrol. De vraag is of Nederland niet voor de muziek uitloopt. In Europees verband wordt dit jaar gesproken over ‘s werelds eerste AI-wet. Ook zijn er plannen voor een Europese AI-toezichthouder. Eén van de sleutelfiguren in de gesprekken over deze onderwerpen is de Roemeense liberale Europarlementariër Dragos Tudorache. Tegenover Politico spreekt Tudorache zijn zorg uit over mogelijke fragmentatie: “Als alle lidstaten eigen regels voor de ontwikkeling en toepassing van AI gaan bedenken, vergooien we de kans op een gedeelde digitale markt.”
Dat laatste is hard nodig om de internationale ontwikkelingen bij te benen, gelooft Jeekel. “Nederland is te klein. In de VS en China gaat het razendsnel. Als Europese Unie moeten we daar met 430 miljoen mensen een gezamenlijk antwoord op geven, met onze waarden als uitgangspunt.”
Praktische toets
Hij wijst in dit verband op de zogeheten ELSA labs. Binnen deze labs worden onder het motto ‘mensgerichte AI’ de ethische, juridische en maatschappelijke aspecten van AI in internationaal perspectief verkend. “Maar tezelfdertijd moeten we in Nederland grip op het onderwerp krijgen en het goed leren begrijpen.” Hoe? Door bijvoorbeeld daadwerkelijk met de leidraad AI aan de slag te gaan. “Nu moet praktische waarde bewezen worden. Dat kan alleen door de leidraad in de praktijk te toetsen.”
