AI, chatbots en LLM’s gaan de zorg diepgaand veranderen. Wie durft nog te twijfelen aan deze bewering? Dat technologie diep ingrijpt, ziet ook bestuursvoorzitter Mark Van Houdenhoven van Careyn. Maar hij vraagt zich hardop af of we de juiste weg inslaan. “Wij lopen achter hypes aan, terwijl we niet eens weten hoe het werkt.” Wel wordt steeds duidelijker dat nieuwe technologie nú vooral een monopolistisch verdienmodel stut waarin particuliere belangen zwaarder tellen dan maatschappelijke doelen.
Het zijn weidse vergezichten die voorstanders van AI de zorg voorschotelen. Ook Van Houdenhoven kent de beloftes van AI inmiddels. “Dan heb ik minder dokters, verpleegkundigen en verzorgenden nodig. Alle problemen worden opgelost door ChatGPT, terwijl we de uitkomsten niet eens snappen. Als er een nieuw geneesmiddel wordt ontwikkeld, moeten we dat jaren testen. Nu moeten dokters maar diagnoses gaan stellen met ChatGPT omdat er een paar artikelen zijn waaruit blijkt dat het goed gaat.”
Winst van vooruitgang
Bestuurder, hoogleraar en columnist Van Houdenhoven heeft een naam hoog te houden als kritisch observator van digitale ontwikkelingen in de zorg. Eerder uitte hij herhaaldelijk kritiek op het feit dat ziekenhuizen naar zijn idee aan de leiband lopen van de leveranciers van digitale technologie.
Maar wie denkt dat hier een techno-hater spreekt, heeft het mis. “Ik sta juist bekend als iemand die technologie omarmt”, reageert Van Houdenhoven. “Ik houd van innovatie. Maar de vraag is hoe we die inzetten. Nieuwe technologie brengt absoluut vooruitgang, maar de vraag is hoe die voortuitgang in de samenleving wordt verdeeld. Wie strijkt de winst van de vooruitgang op? En dan heb ik het niet alleen over winst in euro’s, maar ook over de impact op de samenleving. Komen er nieuwe banen of verdwijnen ze juist? Worden mensen er gelukkiger van? Wordt de democratie er beter van?”
Misinformatie
Vooralsnog is er volgens Van Houdenhoven op al deze punten reden tot zorg. Zo ziet hij geregeld ongelukken gebeuren, waarvan de schade voor rekening van het collectief komt. “Artificiële intelligentie wordt gevoed met data. Zonder die data is AI niks. Dus wat je erin stopt, krijg je eruit. Als een bedrijf misinformatie van het internet sleept en daar AI-modellen op bouwt, krijg je nog meer misinformatie, alleen wordt die als intelligentie verkocht. We hebben gezien wat dit kan veroorzaken in de samenleving. Facebook en TikTok zorgen via hun algoritmes dat gebruikers verslaafd raken. Het internet zit vol met racisme en misinformatie. En de gevolgen van misinformatie, zoals verslaving, mogen wij oplossen, terwijl we niet eens weten wat er in het algoritme zit.”
Manipulatie AI-model
De vaak ondoorgrondelijke werking van AI-modellen kan volgens Van Houdenhoven ook welbewuste manipulatie in de hand werken. “Als we niet weten hoe het model achter ChatGPT werkt en welke data het opeet, zou het kunnen zijn dat bedrijven achter de schermen algoritmes beïnvloeden.”
Keuzehulpen en beslis-ondersteunende modellen kunnen zo veranderen in een verkoopfuik. “Het zou kunnen dat een farmaceut achter de schermen het algoritme zo beïnvloedt dat de dokter bij een bepaalde diagnose altijd bij het geneesmiddel van de betreffende farmaceut uitkomt. Maar dat kunnen we niet weten, want het model is geheim.”
Verzekeringen verkopen
Over de intenties van Big Tech hoeven we ons volgens Van Houdenhoven geen illusies te maken. “Die bedrijven zijn er niet op uit om de mensheid beter te maken of om de zorg te verbeteren. Die willen gewoon zoveel mogelijk geld verdienen en dat zie je in alle acties terug. Amazon heeft nu voor vijf dollar per maand een all you can eat-abonnement van vijftig geneesmiddelen. Is dat vooruitgang? Wat vinden we ervan als straks Apple, Amazon, Google of Microsoft met alle data die ze hebben zorgverzekeringen gaan verkopen? De gezondheidszorg is hun grote droom, want daar zit het geld.”
Focus verleggen
Deze honger naar nieuwe markten en winstmaximalisatie staat vanzelfsprekend op gespannen voet met de maatschappelijke doelstellingen van een sector als de zorg. Toch is het volgens Van Houdenhoven verkeerd om dan maar deuren en ramen dicht te houden. “We moeten technologie niet tegenhouden. Je hebt mensen die willen stoppen met data verzamelen en AI. Dat lijkt me onmogelijk. De vraag is: hoe verleggen we de focus zo dat het de samenleving verbetert? Dat gesprek moet in de samenleving plaats vinden. Nu wordt die data eigendom van grote monopolies. De vraag is hoe we die data kunnen omzetten in winst voor de samenleving in plaats van in winst voor bedrijven die de data monopoliseren.”
Leuker werk?
Het door Van Houdenhoven beoogde maatschappelijke gesprek is om meer dan één reden een lastige opgave, zeker voor een sector als de zorg waar nog altijd flinke scepsis leeft ten aanzien van de toepassing van digitale technologie. “Digitale technologie heeft ons de afgelopen jaren veel gebracht, maar je zult weinig zorgmedewerkers treffen die vinden dat hun werk leuker is geworden”, erkent Van Houdenhoven. “Ze moeten veel administreren, computers ondersteunen onvoldoende, programma’s werken nog niet… Dat is geen verwijt, maar een simpele constatering.”
Machtsverhoudingen
Een mogelijk gebrek aan animo om als gesprekspartner op te treden, is misschien wel het minste obstakel voor een maatschappelijke dialoog over digitalisering. De echte spelbreker is natuurlijk de ongelijke machtsverhouding tussen de deelnemers. “Het gaat over de machtigste bedrijven ter wereld. Die zijn vaak machtiger dan landen”, vat Van Houdenhoven het vraagstuk samen.
Verticale integratie AI-stack
En die machtspositie lijkt alleen maar sterker te worden. Door verticale integratie van de AI-keten, ook wel aangemerkt als de ‘AI-stack‘, komen de productie van chips, cloud-computing, AI-ontwikkeling en de distributie van applicaties steeds meer in handen van enkele partijen. Chipfabrikant Nvidia bijvoorbeeld, tevens AI-partner van Microsoft, heeft ruwweg 85 procent van de wereldwijde markt in handen. En Amazon, Google en Microsoft zijn samen goed voor twee derde van de wereldwijde cloud-capaciteit.
Regulering
“Door de geschiedenis heen zie je dat monopolisering ook leidt tot politieke macht”, constateert Van Houdenhoven. “Vroeger had je de spoorwegen en oliemaatschappijen. Vandaag gaat het over de monopolisering van data, waardoor de betrokken bedrijven machtiger zijn dan ooit. Wat zij doen heeft enorme impact op de samenleving. En we hebben daar geen invloed op. Het is tijd dat we dit bijsturen, maar dat is lastig, want wie zit er aan tafel als het gaat over de toekomst van AI? Dat zijn de bedrijven die AI maken. En je denkt toch niet dat ze zichzelf vrijwillige regulering opleggen?”
Techno-optimisme
Een maatschappelijk debat over digitalisering kent ook nog eens subtiele uitdagingen. Sluipenderwijs hebben de waarden en normen uit de tech-wereld zich in ons collectieve bewustzijn genesteld. Dat blijkt wel uit onze niet aflatende fascinatie voor tech-entrepreneurs als Elon Musk. “Iedereen vindt hem een held. Dat is het techno-optimisme dat nu heerst.”
Hersenchip
Dat Musk ‘waanzinnig veel doet’ ziet ook Van Houdenhoven: “Maar laten we ook kijken hoe en met welk doel hij technologie wil inzetten.” Om zijn punt te onderbouwen, wijst Van Houdenhoven op het recente succes van Neuralink. Deze Musk spin-off wist slaagde er onlangs in een hersenchip te implanteren, waarmee een verlamde patiënt een computermuis wist te bedienen. De Zwitserse neurowetenschapper Gregoire Courtine wist vorig jaar al iets soortgelijks te bewerkstelligen in de Sint Maartenskliniek, waar Van Houdenhoven bestuursvoorzitter was.
Bedrijfsgeheim
“Over de ingreep van Courtine zijn allemaal wetenschappelijke publicaties”, stelt Van Houdenhoven. “Bij de club van Elon Musk zijn die er niet, want dat noemen ze bedrijfsgeheim. Dat te bespreken en te sturen is van groot belang. De technologie is misschien top, maar wat is de bedrijfsvisie? Wat zijn de doelen die zo’n bedrijf beoogt? Wat vinden wij daar als samenleving van? Daar gaat het gesprek nooit over.”
Opstaan
Toch is er wat Van Houdenhoven betreft maar één manier om uit de huidige patstelling te komen. “Alleen samen kunnen we bijsturen. Consumenten moeten opstaan, politici moeten opstaan, dokters opstaan, ík moet opstaan… Het moet niet langer gaan over geld verdienen, maar over de visie achter het gebruik van de technologie en welke samenleving we daarbij voor ogen hebben.”
