‘Liever te vroeg juridisch advies dan te laat’

AI kan zorgverleners helpen bij hun werk. Bijvoorbeeld door een verslag van een patiëntgesprek te maken. Maar een nieuwe tool roept ook vragen op. Wie heeft toegang tot de patiëntgegevens? Waar worden ze opgeslagen? En hoe controleer je of het verslag klopt?

Jacqueline merkt dat zorgorganisaties soms pas juridisch advies vragen als medewerkers een tool al gebruiken. Of als er iets is misgegaan. Bijvoorbeeld met de beveiliging van gegevens. ‘Dan komt de vraag: wat moeten we doen? Terwijl het leed misschien al geleden is.' Door vooraf advies te vragen, kun je risico’s eerder herkennen. En bepalen wat nodig is om een tool zorgvuldig te gebruiken. Jacqueline is daar duidelijk over: 'Liever te vróeg juridisch advies dan te laat.’

Wat gebeurt er met patiëntgegevens?

Stel: een huisarts wil AI gebruiken om patiëntgesprekken samen te vatten. Dan moet eerst duidelijk zijn hoe de tool werkt en wat er met de gegevens gebeurt.

Jacqueline adviseert te beginnen met vragen aan de leverancier. ‘Wie is de maker van de tool, en wat doet die met de door mij gedeelde gegevens? Waar gaan de gegevens naartoe, en waar worden ze opgeslagen?’ Ook andere vragen zijn belangrijk. Hoe zijn privacy en informatiebeveiliging geregeld? Daarnaast moet worden nagegaan welke regels gelden. Wat moet de patiënt weten over het gebruik van de tool? En is daarvoor toestemming nodig? Dat moet voor de gekozen toepassing worden beoordeeld.

Vooral bij algemeen toegankelijke AI-tools ziet Jacqueline dat zulke vragen makkelijk worden overgeslagen. ‘Maar ook gegevens zonder naam, zijn niet altijd anoniem. Door informatie te combineren, kan soms toch duidelijk worden over welke patiënt het gaat.’

Ook een kleine praktijk moet de risico's kennen

Een goede voorbereiding gaat verder dan het kiezen van een tool. Bepaal waarvoor je AI wilt gebruiken, onderzoek de risico’s en test of de tool geschikt is. Zorg ook dat medewerkers weten hoe ze ermee moeten werken.

Dat geldt voor grote zorgorganisaties én kleine praktijken. Een kleine praktijk heeft misschien geen eigen jurist of beveiligingsteam. Toch moet ook die praktijk weten welke risico’s en beperkingen een AI-toepassing heeft. De Inspectie Gezondheidszorg en Jeugd (IGJ) verwacht van alle zorgaanbieders dat zij bij de invoering van generatieve AI over voldoende kennis daarvan beschikken.

Een risico-inventarisatie kan helpen, afgestemd op de omvang van de praktijk en de gegevensverwerking. Wat gebeurt er bijvoorbeeld als een samenvatting belangrijke informatie weglaat? Of iets vermeldt wat de patiënt niet heeft gezegd? Dat kan gevolgen hebben voor de zorg.

Jacqueline raadt aan om naast vragen aan de leverancier, ook normen en leidraden te raadplegen en ervaringen van andere zorgaanbieders op te halen. ‘Is de tool en de leverancier betrouwbaar? Wat zeggen collega’s of de betrokken beroepsvereniging hierover?'

Wie is verantwoordelijk als AI een fout maakt?

Dat hangt af van de situatie, zegt Jacqueline. Bij de behandeling van een patiënt kan AI een hulpmiddel zijn. ‘Als zorgprofessional houd je een eigen verantwoordelijkheid naar de patiënt. Controleer daarom bijvoorbeeld altijd of een AI-samenvatting klopt en volledig is voordat je die in het patiëntendossier opneemt.'

Ook de zorgorganisatie heeft een verantwoordelijkheid tegenover de patiënt. En ook de leverancier kan verantwoordelijk zijn.

Volgens Jacqueline moet een zorgorganisatie daarom kunnen laten zien dat zij heeft nagedacht over de inzet van AI. 'Leg daarom vast waarom je een tool kiest, welke risico’s je ziet en hoe je daarmee omgaat. Maak ook afspraken over wie de uitkomsten controleert. Dat hoeft niet altijd een lang document te zijn. Wel moet duidelijk zijn dat je de keuzes bewust hebt gemaakt.'

Vraag op tijd advies

Ook privé merkt Jacqueline dat ze voorzichtiger wordt. ‘Ik vraag me bij alle toepassingen steeds vaker af: wat doet dit met míjn gegevens?’ Zelfs met haar juridische kennis vindt ze het soms lastig om te bepalen of ze een toepassing wil gebruiken. Voor zorgprofessionals is het daarom belangrijk om vragen op tijd te stellen en heeft ze een eenvoudig advies: 'Bezint, eer ge begint.'

Wil je een AI-tool gebruiken? Onderzoek eerst wat die doet, hoe patiëntgegevens worden beschermd en wie de uitkomsten controleert en hoe dat gebeurt. Vraag advies als daarover nog onduidelijkheid bestaat. Zo kun je beter beoordelen of de tool geschikt is voor jouw praktijk of organisatie.