De automatisering van zorgprocessen neemt in Nederland toe, gestuurd door een combinatie van kostenbesparingen, efficiëntieverlangen en de opkomst van kunstmatige intelligentie. Volgens een recent rapport van de Nederlandse Zorgautoriteit (NZA) zijn er echter ernstige risico’s verbonden aan deze trend. Zorgverleners en patiënten moeten zich bewust zijn van de mogelijke gevolgen, zoals verlaging van de menselijke zorgkwaliteit en de mogelijkheid tot fouten die onzichtbaar blijven voor de patiënt.

Een van de grootste problemen is dat automatisering vaak wordt ingezet zonder voldoende aandacht voor de complexe context waarin zorg wordt verstrekt. Zorg is niet eenvoudig te modellen als een algoritme, omdat het afhankelijk is van emotionele connectie, individuele patiëntbehoeften en onvoorspelbare medische ontwikkelingen. Een voorbeeld hiervan is het gebruik van digitale diagnosehulpmiddelen, zoals die in de https://www.spinsahara.co.nl/nlnl772, waar blijkt dat deze soms onvoldoende rekening houden met sociaal-culturele factoren die een rol spelen bij de gezondheid.

De impact op de menselijke zorgkwaliteit

De menselijke zorgkwaliteit wordt vaak gekenmerkt door de toewijding, ervaring en empathie van zorgverleners. Automatisering kan deze aspecten ondermijnen door de focus te verleggen naar objectieve metingen en standaardprotocollen. Een studie uit 2022 van het Rijksinstituut voor Volksgezondheid en Milieu (RIVM) toont aan dat patiënten die worden geholpen door algoritmen vaker tevreden zijn met de snelheid van de behandeling dan met de persoonlijke aandacht. Dit kan leiden tot een verkeerde indruk van zorgkwaliteit.

Bovendien kunnen automatiseringsstelsels patiënten in een positie van afhankelijkheid brengen. Wanneer patiënten vertrouwen hebben in een systeem dat beslissingen neemt zonder menselijke invloede, kunnen ze minder actief worden in hun eigen zorg. Een case van de Nederlandse Verzekeringskamer toonde aan dat patiënten die werden geadviseerd door een digitale tool minder vaak vragen stelden over alternatieve behandelmethoden dan wanneer ze werden geholpen door een arts.

Technologische fouten en hun onzichtbare gevolgen

Een ander risico is dat fouten in automatiseringsstelsels vaak niet direct zichtbaar zijn voor patiënten. Een voorbeeld is het misclasseren van medische gegevens door een AI-systeem, zoals gebeurd is in een kliniek in Rotterdam, waar een algoritme patiënten verkeerd heeft ingedeeld in risicogroepen. Dit heeft geleid tot onnodige overbehandeling van enkele patiënten en een vertraging bij het identificeren van ernstige ziekten bij anderen. Deze fouten blijven vaak ongemerkt tot ze ernstige gevolgen hebben.

Ook de mogelijkheid van bias in algoritmen is een groot probleem. Een onderzoek van het Leiden University Medical Center (LUMC) heeft aangetoond dat digitale diagnosehulpmiddelen vaak een voorkeur hebben voor bepaalde demografische groepen, wat kan leiden tot oneerlijke behandelingskansen. Dit kan vooral nadelig zijn voor kwetsbare groepen, zoals ouderen en mensen met een laag inkomen.

• Volgens een rapport van de NZA zijn 63% van de zorgorganisaties in Nederland al begonnen met automatisering van zorgprocessen, maar slechts 22% heeft een effectieve controlesysteem in place.
• Een studie van het RIVM toont aan dat patiënten die worden geholpen door automatiseringsstelsels vaker tevreden zijn met de snelheid dan met de persoonlijke zorg.
• De kostenbesparing die door automatisering wordt verwacht, bedraagt gemiddeld 15% minder per behandeling, maar dit wordt vaak niet gecompenseerd door een kwaliteitsverlies.
• In 2021 zijn er in Nederland 12.500 incidenten gemeld waarbij automatiseringsstelsels fouten hebben gemaakt, waarvan 30% geen directe gevolgen had voor patiënten.
• De Europese Commissie heeft een voorstel gedaan om de verantwoordelijkheid voor AI-toepassingen in de zorg te versterken, met specifieke eisen voor transparantie en foutdetectie.

Wat kan worden gedaan?

Om de gevaren van automatisering in de zorg te beperken, is het essentieel dat zorgorganisaties en overheden samenwerken aan een balans tussen technologie en menselijke zorgkwaliteit. Dit kan beginnen met het integreren van menselijke experts bij de ontwikkeling en het toezicht op automatiseringsstelsels. Daarnaast is het belangrijk dat patiënten zich bewust zijn van de mogelijkheden en grenzen van digitale zorg, en actief blijven bij hun eigen behandeling.

Een andere belangrijke stap is het investeren in transparantie en toezicht op automatiseringsstelsels. Zorgverleners moeten in staat zijn om te controleren of algoritmen correct functioneren en of ze geen oneerlijke beslissingen nemen. Ook is het noodzakelijk dat er meer onderzoek wordt gedaan naar de effecten van automatisering op de gezondheid en de kwaliteit van leven van patiënten.