AI ontwikkelt zich razendsnel in de verzekeringsbranche. Nieuwe tools maken het eenvoudiger om processen te versnellen, risico’s te voorspellen en klantinteracties te verbeteren. Maar met die groei neemt ook de complexiteit toe. Explainable AI biedt de nodige zekerheid in een markt waar vertrouwen en transparantie cruciaal zijn, vertelt onze Strategic Product Marketeer Mark Salm.
Betrouwbaarheid van het AI-model
Volgens Mark Salm, draait explainable AI om methoden die mensen helpen om AI-uitkomsten te begrijpen. “Het is noodzakelijk dat je kunt verklaren waarom een model iets voorspelt, zodat je er uiteindelijk op kunt vertrouwen,” zegt hij. Door de enorme opkomst van generatieve tools is die uitlegbaarheid vaak juist verder uit beeld geraakt. Daardoor groeit het risico dat beslissingen worden gebaseerd op uitkomsten die niet te herleiden zijn tot een valide model.
Juist in schadeprocessen is dat een probleem. Wanneer een AI-signaal invloed heeft op acceptatie met fraude-indicatoren, raakt dit direct aan wettelijke verplichtingen. Mark benoemt: “Stel dat je een schadeclaim indient en er vindt op de achtergrond een AI-check plaats die onregelmatigheden vindt. Dan moet je als verzekeraar kunnen verklaren waarom je signaleert dat er iets mis is.” Een melding zonder onderbouwing houdt geen stand bij toezichthouders en maakt het voor consumenten onmogelijk om zich te verweren.
Explainable AI vraagt om governance én menselijk ingrijpen
Die uitlegbaarheid is niet alleen een technische uitdaging. Het vraagt ook om duidelijke processen en een heldere governance-structuur. “Bij CCS werken we aan een legal framework waarin AI-toepassingen worden ingedeeld in risicoklassen. Per klasse wordt vastgelegd welke mate van transparantie, uitlegbaarheid en documentatie vereist is,” legt Mark uit. Daarmee wordt explainability geen sluitstuk, maar juist een randvoorwaarde bij het ontwikkelen van nieuwe AI-functionaliteit.
Tegelijkertijd moet menselijke heroverweging altijd mogelijk blijven, benadrukt Mark. “Een systeem zegt nooit dat iemand fraude pleegt. Het geeft een signaal af en dat signaal moet worden geverifieerd door een mens.”
Een AI-model is zo goed als de data erachter
Veel organisaties onderschatten volgens Mark dat AI in essentie wiskunde en statistiek is. Een model kan er visueel overtuigend uitzien of een logisch klinkend antwoord geven, maar toch nauwelijks voorspellende kracht hebben. Hij waarschuwt dat organisaties soms modellen inzetten die simpelweg niet ontworpen zijn voor het type analyse dat ze proberen uit te voeren. Die schijnzekerheid vormt een risico, omdat beslissingen dan worden gebaseerd op ogenschijnlijk kloppende maar feitelijk willekeurige patronen.
Explainable AI vraagt daarom om structureel inzicht in modelprestaties, gebruikte variabelen en betrouwbaarheidsscores. Alleen wanneer je begrijpt waarom een model tot een bepaalde voorspelling komt, kun je beoordelen of die voorspelling daadwerkelijk waarde heeft. Voor verzekeraars is dat cruciaal: foutieve risicoscores, fraudesignalen of acceptatieadviezen hebben directe gevolgen voor klanten én compliance.
AI inzetten met oog voor wet- en regelgeving
Het op de juiste manier inzetten van explainable AI helpt verzekeraars om te voldoen aan de eisen rondom transparantie en zorgplicht, zeker onder strengere kaders zoals de AI Act. Het maakt beslissingen controleerbaar, creëert vertrouwen bij klanten en verkleint de kans op fouten of discriminatie. Minstens zo belangrijk: het zorgt ervoor dat innovatie hand in hand gaat met de menselijke maat.
Zoals Mark het samenvat: “De klant goed helpen blijft altijd het doel. AI moet dat doel ondersteunen, niet vervangen.”