Kunstmatige intelligentie (AI) maakt een fout. Wie betaalt de schade?

Steeds meer organisaties gebruiken AI om aanvragen te beoordelen, gegevens te analyseren en beslissingen te ondersteunen. Maar wat gebeurt er als zo’n systeem een verkeerde uitkomst geeft en daardoor schade ontstaat? Neem een leverancier van HR-software die AI gebruikt om sollicitanten te rangschikken. Door een fout in het model wijst het systeem geschikte kandidaten af. De klant loopt talent mis en wordt mogelijk aangesproken door afgewezen sollicitanten. Vervolgens ontstaat de vraag: ligt de verantwoordelijkheid bij de softwareleverancier, de ontwikkelaar van het AI-model, de klant of de medewerker die de uitkomst overnam?

Meerdere partijen, gedeelde verantwoordelijkheid
Bij AI zijn vaak meerdere partijen betrokken. Een externe leverancier ontwikkelt het model, een softwarebedrijf verwerkt het in een platform, de klant levert gegevens aan en een medewerker gebruikt de uitkomst. Wie aansprakelijk is, hangt onder meer af van de oorzaak. Was het model onbetrouwbaar? Is de toepassing verkeerd ingesteld of voor een ander doel gebruikt? Of ontbrak menselijke controle? Ook contractuele afspraken bepalen wie welke verantwoordelijkheid draagt. En hier komt ook Wet- en regelgeving om de hoek kijken. De Europese AI Act stelt eisen aan organisaties die AI ontwikkelen en inzetten. Welke verplichtingen gelden, hangt onder meer af van de toepassing en de rol van de organisatie.

Niet elke AI-fout is een cyberincident
Een AI-systeem kan technisch goed functioneren en toch een verkeerde of discriminerende uitkomst geven. Er is dan geen sprake van een hack, datalek of systeemuitval. Voor software- en SaaS-leveranciers raakt AI daarom vaak eerder aan beroeps- of productaansprakelijkheid dan aan cyberrisico. Dus de oorzaak, het type schade, de rol van de organisatie en de polisvoorwaarden spelen allemaal een rol bij de hamvraag: ‘welke verzekering biedt dekking’.

Maak vooraf duidelijke afspraken
Leg bij de inzet van AI vast:

• Waarvoor de toepassing wel en niet wordt gebruikt
• Wie verantwoordelijk is voor data en instellingen
• Wanneer menselijke controle verplicht is
• Wie fouten onderzoekt en herstelt
• Hoe aansprakelijkheid en kosten zijn verdeeld
  
  

Denk vóór de implementatie na over de claim
De aansprakelijkheidsvraag ontstaat vaak pas nadat het is misgegaan. Heb je al vastgelegd wie verantwoordelijk is als AI een verkeerde beslissing neemt? Ons advies is om in kaart te brengen waar je organisatie AI gebruikt, welke partijen daarbij betrokken zijn en wat de mogelijke financiële gevolgen van een fout zijn. Neem AI mee in je risico-inventarisatie en controleer vervolgens of contracten én verzekeringen aansluiten op die risico’s. De specialisten van Meijers helpen je hier graag bij.

Neem voor meer informatie contact op met Sandy Buurman-Drenth, Senior Accountmanager Tech.