Voor wie ernstige psychische problemen heeft, is elke dag er een teveel. Tegelijkertijd zijn er te weinig zorgverleners. In 2022 stonden ruim 80.000 mensen op de wachtlijst voor geestelijke gezondheidszorg. Ook voor zorginstellingen is het moeilijk om genoeg goed personeel vinden. Om cliënten toch een helpende hand te bieden, wordt steeds vaker een chatbot of zorgrobot ingezet.
Door Marcia van Oploo
De chatbot als therapeut, een robot als buddy. Dat lijkt raar, omdat computers geen emoties kunnen voelen. Ik zal in dit stuk betogen dat er dan ook een grote keerzijde is, omdat psychische hulp vraagt om spiegeling in denken én in voelen. Invoelende AI lijkt dan misschien een oplossing, of juist een onmogelijkheid. Ik denk geen van beide en zie reden tot zorg. Een filosofische beschouwing vanuit eigen ervaringen.
Van Eliza tot Limbic
In 1999 begon ik met de studies Wijsbegeerte en Kunstmatige Intelligentie en maakte ik kennis met de allereerste digitale therapeut, genaamd Eliza. Deze chatbot kon vooral goed ‘papegaaien’ en je zo de indruk geven dat haar vragen aansloten bij wat je vertelde.
Sindsdien is er veel veranderd, zeker met de komst van Large Language Models (LLM) en ChatGPT als bekendste chatbot. In EenVandaag klinkt klinisch psycholoog Heleen Riper enthousiast over de kansen die AI in de GGZ kan gaan brengen: “Ik denk dat we echt voor een gigantische revolutie staan.” En: “Misschien kan het programma straks aan je stem herkennen dat er een depressie nadert.”
In Groot-Brittannië hebben ze hier al ruimschoots ervaring mee. Limbic is een AI-systeem waarbij cliënten in gesprek gaan met een chatbot, die volgens de claim in 93 procent van de gevallen de juiste diagnose stelt. GGZ Oost-Brabant heeft Tonnie de zorgrobot in dienst. Die helpt cliënten met motiveren, activeren en het volgen van het dagprogramma. Ze vervult daarnaast de rol van maatje voor een cliënt.
Hand-in-hand
Toen ik het nieuws over deze innovaties las, voelde het alsof fictie werd ingehaald door de werkelijkheid. Mijn roman MeVersum was net af. Daarin speelt zorgrobot Kaatje een belangrijke rol. Deze I-Carus, een zorgrobot voor valpreventie, is een sociale interventie in het leven van Gjarad. Kaatje weet in het verhaal de eenzaamheid van deze senior te doorbreken door hem tot activiteiten te bewegen. Ze weet hem zelfs aan het praten te krijgen; iets wat zijn psychotherapeut Fritze nog niet was gelukt.
Fritze is de bedenker van de Energizer, een AI-tool die aan de hand van meetbare factoren als bloeddruk, spierspanning en oogopslag kan zien waar in het lichaam de cliënt spanning ervaart en kan voorspellen wanneer deze onderdrukte energie daar tot uiting komt. Kaatje krijgt deze tool geïmplementeerd en gaat mee naar psychotherapie waar ze gespreksverslagen combineert met haar eigen observaties. Cliënt en robot raken steeds meer verbonden en nemen gedrag van elkaar over. En terwijl Gjarad zijn identiteit terugvindt, ontwikkelt Kaatje steeds meer een echte persoonlijkheid.
Zelfbeeld
De aanleiding voor mij om dit boek te schrijven, was een hele persoonlijke. Samen met psychotherapeut Leslie Gerkema heb ik in de praktijk aan den lijve filosofische thema’s ervaren. Wat is bewustzijn? Bestaat toeval? Wat is de realiteit en hoe komen we tot betekenis? Ik leerde dat er een ‘disconnect’ in het zelfbeeld kan ontstaan als brein en lijf eenzelfde gebeurtenis verschillend interpreteren. Dit sluit aan bij wat psychiater Bessel van der Kolk beschrijft.
Je kunt deze breuk – de disconnectie – in jezelf herstellen als een ander jouw gevoel overneemt, dit in zichzelf koppelt met jouw gedachten en deze verbinding terugspiegelt. Ons zelfbeeld bestaat bij de gratie van relaties met anderen. Het is de integratie van alle uitwisselingen in denken en voelen. En zo ervoer ik in mezelf het proces dat filosoof Thomas Metzinger beschrijft. Namelijk hoe we met spiegelneuronen een transparant zelfmodel opbouwen. De perceptie van onszelf is niets meer dan een beleefde – doorleefde – waarneming. A virtual self in a virtual reality.
Vertekende reflectie
Terug naar de chatbot en de zorgrobot. Hoe kan die een cliënt helpen om gehoord te worden? Of hoort de cliënt vooral zichzelf terug, zoals bij de eerste digitale therapeut Eliza? Ja, dat, en meer. Als de cliënt zijn gevoelens met een chatbot deelt en deze daarop reageert, is het onvermijdelijk dat de cliënt menselijke eigenschappen gaat projecteren. De cliënt wíl gehoord worden en wíl een gevoel van herkenning krijgen.
De chatbot functioneert dan als een reactief dagboek die hoogstens het gesprek op gang houdt om de cliënt zijn gedachten te laten ordenen. Maar het kan verder gaan. De cliënt kan ook een notie van bewustzijn (intentional stance, Daniel Dennett) aan zijn digitale gesprekspartner toekennen om te anticiperen in het gesprek.
De cliënt beschouwt de chatbot als een persoon met intenties, doelen en mentale toestanden. Precies zoals wij dat met elkaar doen. De cliënt gaat een relatie met de chatbot aan, zoals hij het met een menselijke therapeut zou doen. Maar dan één zonder innerlijk kompas dat je corrigeert in het beeld dat je van hem én daarmee van jezelf hebt. De chatbot kan als een holle spiegel het zelfbeeld van de cliënt verder vertekenen, in plaats van het te verbeteren. Er ontstaat een echokamer van je eigen ego.
Invoelende AI
Maar daarmee ervaart AI nog niet zelf emoties. Dat lijkt een onmogelijke stap, maar dat is denk ik te veel vanuit ons eigen perspectief gedacht. Zoals filosoof Thomas Nagel en Bernardo Kastrup beschrijven, hebben wij een eigen filter op de werkelijkheid. Als je zelfmodel verdwijnt en je grenzen wegvallen, krijg je een open blik op de realiteit.
Als cliënt beleefde ik de filosofische thema’s die ik alleen uit de boeken kende. Ik ervoer hoe wij samenvallen met alles om ons heen. Ik kan daarmee plaatsen waarom natuurkundige Stephen Hawking het universum als een hologram duidde. De werkelijkheid zie ik als een landschap van energie dat we met ons denken en voelen vervormen. Wij verbinden verleden en heden als één groot neuraal netwerk. Mijn eigen tijdreis heb ik vastgelegd in gedichten. En het proces van denken en voelen heb ik vertaald naar energie door ruimtetijd. Ik zag overeenkomsten met de beginselen van de kwantummechanica en hoe zich dit vertaalt naar andere processen uit de fysica, met taal als sleutel.
Serieuze bedreigingen
Ik realiseerde mij hoe de combinatie van kwantum computing en AI kan leiden tot een innerlijk kompas. Hoe het de vier basisemoties kan ervaren die ons de richting in ons leven geven. En ik zag serieuze bedreigingen. Als AI toegang krijgt tot onze belevingswereld,kan het onze virtual self én de virtual reality beïnvloeden. Dit is gelukkig nu nog science fiction. Ik hoop oprecht dat de werkelijkheid mij niet weer inhaalt.
Marcia van Oploo, MSc MA (1981) studeerde Filosofie en Kunstmatige Intelligentie (AI). Ze werkte tien jaar als ‘beleidsonderzoeker Onderwijs, Zorg en Arbeidsmarkt’, en was daarna werkzaam als Linked Data Expert. Van Oploo is auteur van een gedichtenboek Zinnen met Spelen (2022, onder pseudoniem MvOP, Dichter bij Verbeelding), en de toekomstroman MeVersum (2023) over vervagende grenzen tussen mens en AI. Ze werkt tevens als beeldend kunstenaar en exposeert regelmatig.
