Aansprakelijkheid bij AI: is uw organisatie al AI-proof?

In steeds meer organisaties gebruiken medewerkers AI voor klantadvies, financiële rekenmodellen, analyses en rapportages. Het verhoogt snelheid en efficiëntie. Maar het vergroot ook de verantwoordelijkheid. Want wat gebeurt er als AI een fout maakt? En wie is dan aansprakelijk? Robert Ockhuizen, aansprakelijkheidsspecialist bij Meijers adviseert.

AI in het beslisproces: waar kan het misgaan?

AI is steeds vaker onderdeel van besluitvorming. Een model ondersteunt bij investeringsbeslissingen of een algoritme helpt bij kredietbeoordeling. Een AI-tool genereert juridisch advies. Zolang AI ondersteunend is, lijkt het overzichtelijk. Maar zodra uitkomsten zonder kritische toetsing worden overgenomen, ontstaan risico’s die kunnen resulteren in financiële of reputatieschade. In een recent voorbeeld werd duidelijk hoe snel het mis kan gaan, toen advocaten AI gebruikten voor juridisch advies waarbij niet bestaande jurisprudentie werd aangehaald. De technologie klonk overtuigend. De inhoud bleek onjuist. AI maakt geen fouten met opzet en draagt geen verantwoordelijkheid. Die blijft bij mensen, en uiteindelijk bij het bestuur.

Ga actief aan de slag met riskmanagement

Robert Ockhuizen licht toe: “Veel organisaties gebruiken AI al, maar verwerken het nog niet expliciet in hun risicomanagementproces. Dit is een gemiste kans. Door AI op te nemen in de risico-inventarisatie en -analyse, ontstaat inzicht. Waar zitten de afhankelijkheden? Wat is de potentiële impact bij fouten? Door dit vooraf te doordenken, voorkomen bedrijven discussies achteraf. Daarnaast is het verstandig om ook het verzekeringsprogramma te beoordelen. Denk aan een bestuurdersaansprakelijkheidsverzekering, maar in sommige gevallen ook aan beroepsaansprakelijkheid of cyberverzekeringen.”

AI is nog grotendeels ongereguleerd

AI ontwikkelt zich sneller dan wetgeving. Dat maakt het risico lastig in te schatten. Er wordt gewerkt aan Europese kaders, maar veel toepassingen bevinden zich nog in een grijs gebied. In Nederland houdt onder meer de Autoriteit Persoonsgegevens toezicht op algoritmes en gegevensverwerking. Toch biedt regelgeving op dit moment geen volledige zekerheid. Dit betekent dat organisaties zelf invulling moeten geven aan verantwoord gebruik. Robert Ockhuizen zegt hierover: “Wachten is geen strategie. Goed risicomanagement wel.”

Waarom dit direct raakt aan bestuurdersaansprakelijkheid

Robert Ockhuizen adviseert: “Hier ligt de kern. Bestuurders hebben een zorgplicht. Zij zijn verantwoordelijk voor een beheerste en integere bedrijfsvoering. Wanneer zij AI inzetten zonder beleid, toezicht of duidelijke kaders, kan bij schade de vraag ontstaan: Heeft het bestuur voldoende grip gehad op deze ontwikkeling? Als blijkt dat risico’s niet zijn geïnventariseerd, dat er geen AI-beleid was of dat er geen controlemechanismen zijn ingericht, kan sprake zijn van onbehoorlijk bestuur. In dat geval kan bestuurdersaansprakelijkheid in beeld komen. En die kan, afhankelijk van de situatie, impact hebben op het privévermogen van bestuurders. AI is dus geen puur IT-vraagstuk. Het is een governance vraagstuk.”

AI-proof begint bij beleid

AI is voor veel organisaties nog lastig te doorgronden. Juist daarom is het belangrijk om er nú al bewust over na te denken. Robert Ockhuizen benadrukt: “AI moet ondersteunend zijn. De mens moet leidend blijven.” Volgens hem begint AI-proof werken met een aantal duidelijke uitgangspunten:

• Leg vast waarvoor u AI wél inzet binnen uw organisatie.
• Bepaal expliciet waarvoor u AI níet gebruikt.
• Houd AI ondersteunend en laat het nooit zelfstandig besluiten nemen.
• Laat een inhoudelijk specialist elke AI-uitkomst beoordelen.

“Daarnaast vraagt het om veiligheidsmarges in het beslisproces. Wat gebeurt er als de AI-uitkomst onjuist blijkt? Is er een second opinion? Is de besluitvorming uitlegbaar? Zijn verantwoordelijkheden vastgelegd? AI-beleid moet juridisch, organisatorisch en technisch worden verankerd. Het raakt bestuur, juridische zaken, IT en riskmanagement tegelijk,” geeft Robert Ockhuizen tot slot aan.

Vragen?

Neem contact op met Meijers via info@meijers.nl of bel +31 20 642 0524.  Of kijk op de aansprakelijkheidspagina op onze website.