Zorgverzekeraars Zilveren Kruis en CZ geven de Santeon ziekenhuizen groen licht voor de volgende fase van een ziekenhuisoverstijgend project rond de inzet van artificiële intelligentie op de intensive care. In totaal komt er 4,4 miljoen euro aan IZA-gelden vrij voor de doorontwikkeling van een AI gedreven, voorspellend computermodel dat intensivisten ondersteunt bij beslissingen op de intensive care. Met de injectie krijgt niet alleen AI in de zorg als zodanig een impuls, maar ook de discussie erover.
Doel van het computermodel, dat door Santeon samen met softwareleverancier Pacmed wordt ontwikkeld, is een betere benutting van de schaarse IC-capaciteit. “Omdat in de toekomst de zorgvraag toeneemt en het personeelstekort oploopt, moeten we zoeken naar innovatieve oplossingen om de zorg draaiende te houden”, zegt projectleider Roald van Leeuwen van Santeon. “Daarbij kan AI een belangrijke rol spelen.” Uiteindelijk moet de inzet van AI in de zorg de IC-zorg niet alleen efficiënter, maar ook beter maken.
Ideaal hulpmiddel
Die potentie heeft AI zeker, constateert de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO) in een recent rapport. Volgens de opstellers wordt nu 97 procent van de beschikbare data niet voor zorgdoeleinden gebruikt. AI kan deze berg data helpen ontsluiten en omzetten in handelingsperspectief. Dit kan volgens de OESO mensenlevens redden. Alleen in Europa zijn vorig jaar tot mogelijk tot 163.000 mensen overleden door medische fouten. Circa een derde hiervan is veroorzaakt door fouten in de communicatie. “AI is een ideaal middel om de communicatie te verbeteren door op het juiste moment in de juiste context de juiste informatie aan te dragen bij de juiste mensen”, aldus de opstellers. “Dat voorkomt fouten, redt levens en verbetert zorguitkomsten.”
Groot potentieel, dito gevaar
Maar in het rapport met de veelzeggende titel ‘AI in health – huge potential, huge risks’, wordt ook de keerzijde belicht. Gebrekkige of gekleurde data of verkeerd gebruik kunnen volgens OECD juist leiden tot slechtere behandeluitkomsten. Dit probleem kan worden verergerd door onduidelijkheden rond verantwoording en aansprakelijkheid. Bovendien dreigen bewerkelijke AI-toepassingen te worden opgedrongen aan professionals die toch al overbelast zijn.
De opstellers van het ‘International Scientific Report on the Safety of Advanced AI’ komen tot vergelijkbare conclusies. “Veel van de in potentie gevaarlijkste toeppassingen van AI bevinden zich in het zorgdomein”, aldus de internationale groep wetenschappers onder voorzitterschap van de gezaghebbende AI-wetenschapper Yoshua Bengio.
Actief misbruik
Naast de al genoemde intrinsieke gevaren wijst de groep op verschillende potentiële vormen van actief misbruik. Zo is er het gevaar van datadiefstal, waarbij kwaadwilligen AI-modellen leegtrekken. Volgens sommige voorspellingen zal de schade in de gezondheidszorg door cybercriminaliteit volgend jaar oplopen tot ruim 10 biljoen dollar. De ironie wil dat cybercriminelen hierbij in toenemende mate gebruik maken van maken van AI.
Ook oneigenlijk gebruik van AI door zorgverzekeraars staat hoog op het lijstje. Dat dit niet denkbeeldig is, laten verschillende voorbeelden uit de VS zien. Daar laten AI-modellen de voorspelde ligduur in het ziekenhuis precies samenvallen met het vergoedingsplafond van de polis. Zorg na de ‘voorspelde’ ontslagdatum -ook al is de patiënt niet hersteld- wordt niet vergoed. De kwestie is nu inzet van verschillende rechtszaken.
Vendor lock-in
De trend van marktconcentratie die met de verdere uitrol van AI gepaard gaat, kan ook voor problemen zorgen. Als het aantal spelers op de AI-markt daalt, groeit de afhankelijkheid van zorgaanbieders. Niet alleen kan een dergelijke vendor lock-in financiële schade berokkenen, het kan ook betekenen dat er in geval van systeemuitval geen back up is.
Geen goede toetsen
Een groot probleem is volgens de wetenschappers dat er vooralsnog geen goede manier is om de kwetsbaarste AI-modellen op gevaren als de bovenstaande te testen. “Geen enkele bestaande techniek biedt momenteel kwantitatieve garanties ten aanzien van de veiligheid van AI-modellen en -systemen”, aldus de opstellers. “Ontwikkelaars begrijpen nog onvoldoende hoe hun modellen werken.” De wetenschappers uiten kritiek op het gebrek aan toegang voor testers van buiten.
Gecoördineerd beleid
De OESO stelt dat niets doen ook gevaren meebrengt. De organisatie denkt daarbij onder meer aan een groeiende (digitale) gezondheidskloof, vertraging van de wetenschappelijke ontwikkeling en dalend publiek vertrouwen. De OESO pleit daarom voor operationalisering van enkele algemeen aanvaarde principes. “Momenteel wordt AI op basis van lokale datasets ontworpen, ontwikkeld en geïmplementeerd in individuele, veelal kapitaalkrachtige zorgfaciliteiten over de hele wereld. Zulke applicaties op maat dragen het gevaar van versnippering in zich doordat ze niet goed schaalbaar zijn. Om de waarde van AI voor mensen zo breed mogelijk te ontsluiten, is krachtig gecoördineerd beleid nodig, zowel binnen als over de landsgrenzen.”
Getrapte route
Die boodschap lijkt Santeon begrepen te hebben. Onder de Santeon-vlag werken zeven topklinische ziekenhuizen samen, goed voor een geaggregeerde jaaromzet van 3,2 miljard euro en 11 procent van de ziekenhuiszorg in Nederland. Ondanks het streven naar schaalvergroting kiest Santeon voorlopig voor een getrapte route naar bredere toepassing van AI.
Het Pacmed Critical-model wordt sinds vorig jaar gebruikt door het Maasstad Ziekenhuis en OLVG. Het Catharina Ziekenhuis en MST gaan Pacmed Critical de komende maanden ook inzetten op de IC’s. Bij het Maasstad Ziekenhuis heeft de software op basis van de eerste ervaringen al een update gehad. Bij OLVG gaat de update deze zomer live. Daarnaast wordt de software uitgebreid tot een breder pakket dat IC zorgverleners ondersteunt bij allerlei beslissingen van opname tot ontslag.
Verantwoorde inzet
Volgens Santeon maakt het project het mogelijk “om in de praktijk te leren hoe we AI op een verantwoorde en structurele manier kunnen inzetten in de zorg”. De eerste fase richtte zich volgens Santeon vooral op het oplossen van de onvermijdelijke uitdagingen die komen kijken bij een verantwoorde manier inzet van AI in de zorg.
“Door AI naar de IC te brengen, leren we in de praktijk deze uitdagingen op te lossen”, reageert projectleider Van Leeuwen. “Zo kunnen we de implementatie van AI voor ziekenhuizen steeds laagdrempeliger maken. Het vervolg van de samenwerking richt zich op het verder opschalen en uitbreiden van AI op de IC binnen de Santeon ziekenhuizen. Het leren is een continu proces.”
