Aansprakelijkheid bij AI-implemen­tatie: risico's en verplichting­en

Wat valt onder AI?

AI-systemen variëren in complexiteit en functies, maar over het algemeen omvatten ze software die data ontvangt, verwerkt en reageert. Sommige systemen kunnen zelfs hun gedrag aanpassen op basis van eerdere interacties.

Voorbeeld: Een chatbot die menselijke taal begrijpt en passende antwoorden genereert, wordt beschouwd als een AI-systeem vanwege zijn autonome vermogen. Een systeem dat medische beelden analyseert en ziekten diagnosticeert met behulp van machine learning, ook.

Aansprakelijkheid bij gebruik van AI

Veel zorgverleners kopen AI-producten, waardoor ze als gebruikers worden beschouwd. Sommigen ontwikkelen zelf AI of laten het doen. Bent u een van hen? Wees u dan bewust van de regels omtrent productaansprakelijkheid. De aansprakelijkheid voor patiënten weegt zwaarder wanneer u zelf AI ontwikkelt of laat ontwikkelen, dan wanneer u een kant-en-klaar AI-product aanschaft.

Aansprakelijkheid van de producent volgens Nederlands recht

In Nederland is de producent van een AI-product over het algemeen aansprakelijk voor schade die wordt veroorzaakt door gebreken in het product. Er zijn wel uitzonderingen, zoals wanneer het gebrek niet aanwezig was op het moment van distributie of wanneer het product voldeed aan overheidsvoorschriften.

Voorbeeld: Als een ziekenhuis een AI-product ontwikkelt en verkoopt aan een ander ziekenhuis, maar het product wordt gewijzigd door de koper waardoor het gebrekkig wordt, is het eerste ziekenhuis niet aansprakelijk voor de resulterende schade. Zulke schade kan bijvoorbeeld ontstaan uit onjuiste behandelingen of gemiste diagnoses, met negatieve gevolgen voor de patiënten van het tweede ziekenhuis.

Uitzonderingen op aansprakelijkheid van de producent: 

• Het product is niet op de markt gebracht. 
• Het gebrek is ontstaan na distributie. 
• Het product is niet voor commerciële doeleinden gemaakt. 
• Het product voldeed aan overheidsvoorschriften. 
• Bij distributie was het (technisch) onmogelijk om het gebrek te ontdekken. 

Als er tenslotte iets mis is met het eindproduct vanwege hoe het is ontworpen of hoe de fabrikant instructies heeft gegeven, is de fabrikant van een onderdeel niet aansprakelijk.

Productaansprakelijkheid en aansprakelijkheid van de producent op basis van andere rechtsgronden

Bij productaansprakelijkheid moet een gebrek aanwezig zijn, waarbij het product niet de verwachte veiligheid biedt volgens de normen bij de marktintroductie. Het product moet beoordeeld worden aan de hand van de toen geldende standaarden. Bij de vraag of sprake is van een gebrekkig product, speelt ook de mate van voorzichtigheid van de gebruiker een rol. Enerzijds is de producent niet aansprakelijk voor onjuist of onvoorzichtig gebruik. Maar in dat geval kan de producent alsnog aansprakelijk worden gesteld op basis van andere rechtsgronden, zoals de schuldaansprakelijkheid bij nalatigheid. Dit is vooral relevant in gevallen waar de wettelijke vervaltermijn van 10 jaar voor productaansprakelijkheid is verstreken, of als de zorgaanbieder als gebruiker wordt betrokken bij schade veroorzaakt door een AI-toepassing.

Aansprakelijkheid van de gebruiker volgens Nederlands recht

Als een patiënt schade ondervindt door het gebruik van AI in de zorg, is het onder bepaalde omstandigheden ook mogelijk dat de gebruiker, de zorgverlener in dit geval, aansprakelijk is. Dit kan het geval zijn als de zorgverlener zelf fouten heeft gemaakt of als het AI-product niet goed functioneert.

Voorbeeld: Als een AI-toepassing slechts als aanvulling op menselijke interactie mag worden gebruikt en de zorgverlener verzuimt de resultaten te controleren, kan dit leiden tot aansprakelijkheid bij schade aan de patiënt. 

Situaties waarin de aansprakelijkheid bij de zorgverlener kan komen te liggen: 

• De zorgverlener maakt zelf fouten. 
• Het AI-product functioneert niet naar behoren. 
• Het AI-product wordt niet correct gebruikt volgens de geldende medische inzichten.
• De zorgverlener heeft niet als goede hulpverlener gehandeld. 

Let op: Bij een schadeclaim zal worden onderzocht of de zorgverlener alle nodige voorzorgsmaatregelen heeft genomen en of hij/zij de AI-toepassing op de juiste manier heeft gebruikt. Als het AI-product gebrekkig is en daardoor schade veroorzaakt, kan de zorgverlener aansprakelijk worden gesteld, vooral als hij of zij verantwoordelijk was voor de keuze of het gebruik van het product. In sommige gevallen kan de aansprakelijkheid ook worden gedeeld tussen de producent en de zorgverlener, afhankelijk van de specifieke omstandigheden van het geval. 

Afspraken over aansprakelijkheid tussen zorgaanbieders en verkopers

In de relatie tussen zorgaanbieder en patiënt mag de aansprakelijkheid niet worden beperkt of uitgesloten volgens de Wgbo. Er kunnen echter afspraken worden gemaakt tussen zorgaanbieder en verkoper van het AI-systeem om de aansprakelijkheid te regelen. Hierbij wordt ervan uitgegaan dat de zorgaanbieder als 'goed hulpverlener' en in het kader van het verlenen van 'goede zorg' een hulpmiddel heeft gebruikt met de benodigde CE-markering en de kwaliteit heeft beoordeeld aan de hand van bijvoorbeeld eerdere gebruikerservaringen en meldingen van incidenten. Als zorgprofessional dient u zich bewust te zijn van het begrip 'regres', waarbij u het recht heeft om schade die u lijdt als gevolg van een gebrekkig AI-product te verhalen op de verkoper ervan. Maak daarom waar mogelijk afspraken over aansprakelijkheid en regres in uw contracten.

Toekomstig Europees recht

Europese wetgeving staat op het punt te veranderen om specifiek rekening te houden met AI-producten. Een nieuwe richtlijn zal de verantwoordelijkheden van producenten en gebruikers verduidelijken en de aansprakelijkheid bij AI-gerelateerde schade reguleren. Deze richtlijn vereist aanpassingen in nationale wetgevingen, zoals het Burgerlijk Wetboek in Nederland.

Uitbreiding van begrippen en aansprakelijkheid

Onder de nieuwe Europese richtlijn wordt software als een 'product' beschouwd, zelfs als het geen tastbare zaak is. Bovendien wordt het begrip 'gebrekkigheid' verruimd, waardoor ook het 'zelflerend vermogen' van een product in de beoordeling ervan wordt meegenomen. Deze verruiming kan leiden tot schadeclaims, zelfs nadat het product op de markt is gebracht. Ook wordt de definitie van schade uitgebreid en verdwijnt de franchise. Dit houdt in dat er geen minimale drempelwaarde meer is voor schade om in aanmerking te komen voor compensatie. Voorheen moest de schade een bepaald bedrag overschrijden voordat een claim kon worden ingediend. Met het wegvallen van de franchise komen ook kleinere schadebedragen in aanmerking voor compensatie.

Uitbreiding van aansprakelijkheid naar gewijzigde producten

Naast de producenten zijn ook natuurlijke personen of rechtspersonen die een product wijzigen, zoals met een software-update, aansprakelijk volgens de nieuwe richtlijn. Deze wijzigingen moeten echter als ingrijpend worden beschouwd en zonder controle van de oorspronkelijke fabrikant zijn aangebracht.

Verlaging van bewijsdrempels en introductie van bewijsvermoeden

De nieuwe Europese richtlijn verlaagt de drempel voor bewijslevering door benadeelden. Het oorzakelijk verband wordt eerder aangenomen, waardoor benadeelden geholpen worden bij het verzamelen van bewijs. Bovendien kan de rechtbank de verweerder verplichten relevant bewijsmateriaal openbaar te maken, en ontstaat er een bewijsvermoeden van een gebrekkig product als de verweerder dit weigert.

Richtlijn aansprakelijkheid AI en AI-verordening

Naast de aanpassingen in productaansprakelijkheid is er op Europees niveau een richtlijn aansprakelijkheid AI in ontwikkeling. Deze richtlijn bevat bewijsvergaring en een vermoeden van causaal verband met betrekking tot de schuldaansprakelijkheid bij het gebruik van AI. Bovendien is er een AI-verordening in aantocht, die gericht is op het voorkomen van schade en het stellen van aansprakelijkheidseisen.

Conclusie

De regelgeving rond AI in de zorg is complex en in ontwikkeling door nieuwe Europese regels. Om aansprakelijkheid te bepalen bij zorggerelateerde schade, moet de rol van gebruiker of producent van het gebruikte AI-systeem worden vastgesteld. De verantwoordelijkheid kan bij beide partijen liggen, afhankelijk van verschillende factoren zoals de aard van het gebrek, de wijze van gebruik en de contractuele afspraken tussen de gebruiker en de producent. Jurisprudentie ontbreekt nog, maar wees u bewust van deze verantwoordelijkheden.