Zijn algoritmes te vertrouwen?

4 minuten lezen

In een eerder blog heb je kunnen lezen wat de gevaren kunnen zijn van algoritmes en hoe algoritmes zich ontwikkelen in de verzekeringsbranche. Ditmaal gaan we dieper in op het vertrouwen in algoritmes.

Vertrouwen uitschakelen

Veel mensen maken een grote denkfout als het gaat over vertrouwen. We veronderstellen vaak dat hoe meer we over iets weten, hoe meer vertrouwen we erin kunnen hebben. Het werkt precies andersom. Als je (bijna) alles al weet, zou je kunnen stellen dat er helemaal geen vertrouwen meer nodig is.

Vertrouwen staat gelijk aan ergens in geloven zonder dat je weet dat het zo is. Vertrouwen is dan ook juist het stoppen met het zoeken naar zekerheid, zo concludeert onderzoekster Esther Keymolen. Als je honderd procent zeker weet dat het een tot het ander zal leiden, dan heeft vertrouwen geen enkele functie meer. Het kopen van een pot pindakaas is een eenvoudig voorbeeld om dat goed te begrijpen. Je legt de pot gedachteloos in je winkelmandje en vertrouwt er blind op dat je de pindakaas met een gerust hart kunt consumeren. Met andere woorden: je springt vol vertrouwen een onzekere wereld in. In dit geval vooral gebaseerd op het vertrouwen in het merk dat op de pot staat.

Vertrouwen herwinnen

Dat mechanisme staat in schril contrast met hoe we maatschappelijk vaak werken aan het (her)winnen van vertrouwen. Want de afgelopen tien jaar hebben we er juist alles aan gedaan om onzekerheden weg te nemen en transparantie was het toverwoord in veel plannen. Niet voor niets spoelde er een vloedgolf aan nieuwe wet- en regelgeving over de financiële wereld heen na de bankencrisis. Het doel: het herwinnen van vertrouwen. Het middel: meer transparantie in die financiële wereld. Ook in de verzekeringsbranche wordt transparantie als een groot goed gezien.

"Een transparant pensioenstelsel is onbetrouwbaar"

Niet iedereen is het ermee eens dat transparantie het vertrouwen vergroot. Volgens hersenonderzoeker Victor Lamme – bekend van zijn boek De vrije wil bestaat niet – is transparantie zelfs het slechtste idee van de afgelopen twintig jaar. Zijn beredenering is dat iemand onbewust onbetrouwbaar wordt als deze veel uitleg nodig heeft om duidelijkheid te scheppen. Zo werken onze hersenen nu eenmaal.

Lamme  wees er al meerdere keren op hoe transparantie bijvoorbeeld funest is voor ons pensioenstelsel en meent dat toezichthouders daarmee destructief bezig zijn. Want ze zorgen er niet alleen voor dat de interesse in pensioen nog verder afbrokkelt, maar slaan ook het publieke draagvlak onder ons pensioenstelsel weg.

Eenvoudige algoritmes

Vergaande transparantie draagt vaak helemaal niet bij aan het vertrouwen. We moeten het vooral simpel houden. Geheel in die lijn is Cathy O’Neill – een criticus van data-analyse en auteur van het boek met de veelzeggende titel: Weapons of Math Destruction – begonnen met het uitvoeren van audits op algoritmes om daarmee die eenvoud te realiseren. Mensen willen immers niet worden overspoeld met ingewikkelde verhalen over techniek, ze willen eenvoud. Het is dus alleen maar zinvol om onder de motorkap van systemen – de black box – te kijken en daarover een oordeel te vormen als we in staat zijn om dat oordeel op een eenvoudige manier te verpakken.

Geïnformeerd vertrouwen om transparantie te krijgen

Die eenvoud wil echter niet zeggen dat er geen vergaande transparantie moet zijn over wat er onder de motorkap gebeurt. Maar die vergaande transparantie is alleen gericht op wie er echt meer van wil weten. Een leek ontleent er geen vertrouwen aan, omdat hij die niet kan (of wil) interpreteren. Je koopt een pak melk op basis van ‘blind vertrouwen’ en hebt praktisch gezien ook geen alternatief. In andere gevallen is dat heel anders. Maar dat ligt anders ten aanzien van een professioneel geïnteresseerde (of een maatschappelijke belangengroepering). Vergelijk het met een wetenschapper die voortborduurt op het werk van anderen, die wil daar (hopelijk) wel eerst meer over weten en zet daarmee in op ‘geïnformeerd vertrouwen’.

Dat onderscheid moeten we ook maken voor vertrouwen in een slimme samenleving vol digitale hulpmiddelen. Ook daarin worden we als leek overladen met informatie. Denk aan de gebruiksvoorwaarden voor een nieuwe app of de uitgebreide toelichting die bedrijven geven over hun beleid voor privacy. Die aanpak werkt echter slecht, ook al omdat we wantrouwend staan tegenover de bron van die informatie: de instituties, zoals bedrijven, onderzoekinstituten en de politiek. Een mooi ‘sign of the times’ viel een paar jaar geleden te lezen in de Trust Barometer van Bureau Edelman: Peers are now as credible as experts (een vertrouwde referentiegroep met gemeenschappelijke gedragscodes zoals collega's of vrienden die invloed hebben op je gedrag), zo schreven de onderzoekers. Dat is uitdagend maar biedt tegelijkertijd juist ook perspectief op nieuwe vormen van het borgen van vertrouwen voor wie wat buiten de vertrouwde paden durft te denken.

Wikipedia-model

Een inspirerend voorbeeld is het "Wikipedia-model" waarin vertrouwen wordt geconstrueerd door peers. Het model bouwt voort op een decentrale aanpak waarin een grote groep ongeorganiseerde individuen samen verantwoordelijk is voor betrouwbare informatie. De leek vertrouwt het op basis van eenvoud – blind vertrouwen in de merkbelofte van Wikipedia.

Het model is echter ook ultiem transparant voor wie echt geïnteresseerd is – geïnformeerd vertrouwen op basis van kennis van wat er onder de motorkap plaatsvindt. Dergelijke concepten zijn in sommige gevallen ook toepasbaar op algoritmes. Sommige partijen delen algoritmes of een meer algemene broncode op ontwikkelplatforms als Github, zodat andere ontwikkelaars deze kunnen beoordelen, gebruiken en/of er de discussie over kunnen aangaan.

Toepassen van algoritmes door verzekeraars

Zodra algoritmes te vertrouwen zijn, kunnen we er mooie dingen mee realiseren. Deze data levert namelijk een solide basis om juiste en gerechtvaardigde beslissingen te nemen. De Formule 1 is een voorbeeld waar het gebruik en analyse van data volledig ingebakken is geraakt. Dit heeft ervoor gezorgd dat races niet alleen meer worden gewonnen door de coureur die het beste stuurt, maar ook dat beslissingen op basis van data doorslaggevend kunnen zijn. 

Verzekeraars kunnen veel leren van de Formule 1. In beide takken van sport is namelijk een enorme hoeveel data beschikbaar die fundamenteel is om op basis van algoritmes betrouwbare keuzes te maken. Wil je weten wat de verzekeringsbranche kan leren van de Formule 1? Lees het in ons eBook, verkrijgbaar via onderstaande download.

Winnen met een datagedreven strategie