Incassobureaus gebruiken AI om te bepalen wie kan betalen: ook sociale media en persoonlijke gegevens worden onderzocht

Incassobureaus maken steeds vaker gebruik van algoritmes en kunstmatige intelligentie (AI) om te beoordelen bij welke mensen zij de meeste kans hebben om openstaande schulden te innen. Daarbij kunnen persoonsgegevens uit verschillende bronnen worden gecombineerd, waaronder woongegevens, kredietinformatie, betalingsgeschiedenis, openbare registers en informatie die op internet en sociale media te vinden is. De Autoriteit Persoonsgegevens (AP) waarschuwt voor de risico's van deze ontwikkeling. Volgens de toezichthouder kunnen mensen hierdoor onterecht worden beoordeeld, ongelijk worden behandeld of te maken krijgen met besluiten die mogelijk volledig geautomatiseerd tot stand komen. Dat laatste is onder bepaalde omstandigheden wettelijk verboden.

AI bepaalt steeds vaker wie als eerste wordt benaderd

De inzet van kunstmatige intelligentie binnen de incassobranche roept belangrijke vragen op over privacy, rechtsbescherming en gelijke behandeling.

Incassobureaus proberen zo efficiënt mogelijk te bepalen bij welke schuldenaren de kans het grootst is dat een openstaande vordering daadwerkelijk wordt betaald. Om dat proces te ondersteunen, maken sommige bureaus gebruik van geautomatiseerde systemen die grote hoeveelheden gegevens kunnen analyseren en onderling vergelijken.

Op basis van verschillende persoonsgegevens kunnen algoritmes bijvoorbeeld inschatten hoe groot de kans is dat iemand een openstaande schuld kan of zal betalen. Daarbij kunnen gegevens over iemands woonplaats, financiële situatie, kredietwaardigheid en eerdere betalingsgedrag een rol spelen.

De uitkomsten van dergelijke analyses kunnen vervolgens invloed hebben op de manier waarop een incassobureau iemand benadert, welke dossiers prioriteit krijgen en hoeveel aandacht aan een bepaalde schuldenaar wordt besteed.

Dat betekent dat mensen mogelijk niet allemaal op dezelfde manier worden behandeld. De ene persoon kan op basis van een geautomatiseerde risicobeoordeling eerder worden benaderd dan de andere, terwijl de betrokkenen niet noodzakelijk weten welke gegevens daarbij zijn gebruikt of hoe de beoordeling tot stand is gekomen.

Juist die ondoorzichtigheid baart de Autoriteit Persoonsgegevens zorgen.

De privacytoezichthouder onderzocht 29 incassobureaus en constateerde dat er binnen de sector aanzienlijke risico's bestaan rond het gebruik van algoritmes en persoonsgegevens. Daarbij gaat het onder meer om mogelijke fouten in geautomatiseerde beoordelingen, discriminatie, ongelijke behandeling en het ontbreken van voldoende menselijke controle.

Sociale media en openbare registers worden gebruikt om informatie te verzamelen

Een bijzonder zorgwekkend onderdeel van deze ontwikkeling is de manier waarop incassobureaus informatie over schuldenaren kunnen verzamelen.

Algoritmes en AI-systemen kunnen worden ingezet om gegevens op internet te doorzoeken en informatie uit openbare registers te combineren. Daarbij kan het onder meer gaan om contactgegevens, bedrijfsinformatie, financiële gegevens die rechtmatig toegankelijk zijn en andere openbare informatie.

Ook activiteiten op sociale media kunnen in beeld komen wanneer incassobureaus of door hen gebruikte systemen openbare online-informatie onderzoeken.

Denk bijvoorbeeld aan informatie die iemand zelf op internet heeft geplaatst, openbare bedrijfsactiviteiten of gegevens waaruit mogelijk iets kan worden afgeleid over iemands financiële of persoonlijke omstandigheden.

Door dergelijke informatie met elkaar te combineren, kunnen incassobureaus proberen een vollediger beeld van een schuldenaar te krijgen.

Vervolgens kunnen algoritmes aan de hand van die gegevens berekenen hoe groot de kans is dat een openstaande schuld wordt geïnd.

Daarbij ontstaat een belangrijk privacyprobleem: informatie die iemand op internet openbaar heeft gemaakt voor een bepaald doel, betekent niet automatisch dat deze informatie zonder meer mag worden gebruikt om iemands financiële draagkracht, betalingsbereidheid of incassorisico te beoordelen.

Het feit dat gegevens openbaar beschikbaar zijn, betekent dus niet dat iedere vorm van verzameling, combinatie en verwerking daarvan wettelijk is toegestaan.

Voor het gebruik van persoonsgegevens gelden strenge voorwaarden. Incassobureaus moeten onder meer kunnen uitleggen waarom zij bepaalde gegevens nodig hebben, op welke wettelijke grondslag zij deze verwerken en of het gebruik ervan noodzakelijk en evenredig is.

Bovendien moeten de gegevens juist zijn en mogen zij niet zonder voldoende rechtvaardiging worden gebruikt voor doeleinden waarvoor betrokkenen redelijkerwijs geen rekening hoefden te houden met de verwerking.

Autoriteit Persoonsgegevens waarschuwt voor discriminatie en verkeerde beoordelingen

De Autoriteit Persoonsgegevens ziet verschillende risico's bij het gebruik van algoritmes binnen de incassobranche.

Een belangrijk probleem is dat een algoritme niet automatisch een objectief of betrouwbaar oordeel oplevert. Een computersysteem kan uitsluitend werken met de gegevens en aannames waarmee het is gevoed.

Wanneer de gebruikte gegevens onvolledig, verouderd of onjuist zijn, kan het systeem tot een verkeerde conclusie komen.

Ook kunnen bepaalde kenmerken indirect invloed hebben op de uitkomst van een beoordeling. Woonplaats, postcode of andere persoonsgegevens kunnen bijvoorbeeld samenhangen met sociaaleconomische omstandigheden.

Wanneer dergelijke kenmerken worden gebruikt om mensen in risicocategorieën onder te verdelen, bestaat het gevaar dat bepaalde groepen structureel nadeliger worden behandeld.

Dat kan leiden tot ongelijke kansen, ook wanneer een algoritme niet rechtstreeks gebruikmaakt van gegevens over bijvoorbeeld afkomst, gezondheid of andere bijzonder beschermde kenmerken.

Een ander risico is dat een verkeerde inschatting langdurig gevolgen kan hebben. Wanneer iemand door een algoritme als een relatief groot incassorisico wordt aangemerkt, kan dat invloed hebben op de prioriteit, de wijze van benadering of de verdere behandeling van het dossier.

De betrokkene weet mogelijk niet dat zo'n beoordeling heeft plaatsgevonden en krijgt daardoor ook niet vanzelfsprekend de gelegenheid om onjuiste gegevens te corrigeren of de beoordeling te betwisten.

De AP vindt daarom dat de inzet van algoritmes binnen deze sector veel transparanter en zorgvuldiger moet worden geregeld.

Een computer mag niet zomaar zelfstandig over mensen beslissen

Een van de belangrijkste aandachtspunten van de Autoriteit Persoonsgegevens betreft volledig geautomatiseerde besluitvorming.

De Algemene verordening gegevensbescherming (AVG) bevat hiervoor specifieke regels. Artikel 22 van de AVG geeft mensen in beginsel het recht om niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking gebaseerd besluit waaraan rechtsgevolgen zijn verbonden of dat hen anderszins in aanmerkelijke mate treft.

Er bestaan beperkte wettelijke uitzonderingen, maar daarvoor gelden strikte voorwaarden en waarborgen.

Het is daarom niet toegestaan om zonder meer een computersysteem zelfstandig beslissingen te laten nemen die grote gevolgen kunnen hebben voor de financiële of persoonlijke situatie van iemand.

Bij incassobureaus is dat bijzonder relevant. De manier waarop een dossier wordt beoordeeld, kan immers gevolgen hebben voor de wijze waarop een schuldenaar wordt benaderd en hoe een incassotraject verloopt.

Niet iedere geautomatiseerde berekening of interne rangschikking valt automatisch onder het verbod op volledig geautomatiseerde besluitvorming. Het verschil tussen een ondersteunende analyse en een daadwerkelijk besluit is daarbij belangrijk.

Maar wanneer een algoritme in de praktijk doorslaggevend is en een medewerker de uitkomst alleen nog maar bevestigt, kan er sprake zijn van geautomatiseerde besluitvorming. Een menselijke handtekening of formele controle achteraf is niet voldoende wanneer de medewerker feitelijk geen zelfstandige beoordeling uitvoert.

De AP benadrukt daarom het belang van daadwerkelijke menselijke betrokkenheid.

Een medewerker van vlees en bloed moet verantwoordelijkheid kunnen nemen

Volgens Katja Mur, bestuurslid van de Autoriteit Persoonsgegevens, is het noodzakelijk dat beslissingen over mensen op een transparante manier tot stand komen.

Zij wijst erop dat een incassotraject aanzienlijke gevolgen kan hebben. Mensen kunnen worden geconfronteerd met betalingsverplichtingen, oplopende kosten en financiële druk. Juist daarom mag de beoordeling van hun situatie niet volledig worden overgelaten aan een computersysteem.

Er moet een menselijke medewerker betrokken zijn die de uitkomst kritisch kan beoordelen, rekening kan houden met de omstandigheden van de betrokkene en verantwoordelijkheid kan nemen voor de uiteindelijke beslissing.

Dat betekent meer dan alleen een automatische uitkomst bekijken en vervolgens op een bevestigingsknop drukken.

Een medewerker moet voldoende kennis, bevoegdheid en informatie hebben om een algoritmische beoordeling daadwerkelijk te kunnen controleren en zo nodig naast zich neer te leggen.

Wanneer een systeem een verkeerde inschatting maakt, moet er bovendien een mogelijkheid bestaan om die fout te herstellen.

Voor iemand die met een incassobureau te maken krijgt, moet duidelijk zijn hoe een beoordeling tot stand is gekomen en bij wie hij of zij terechtkan wanneer er twijfels bestaan over de juistheid ervan.

Zonder dergelijke waarborgen bestaat het risico dat mensen worden beoordeeld door een systeem waarvan zij de werking niet kennen, terwijl zij nauwelijks inzicht hebben in de gegevens waarop de beoordeling is gebaseerd.

Incassobureaus weten mogelijk onvoldoende welke regels gelden

Een ander belangrijk probleem dat uit het onderzoek van de AP naar voren komt, is dat incassobureaus niet altijd voldoende op de hoogte zijn van de wettelijke verplichtingen die gelden bij het gebruik van algoritmes en persoonsgegevens.

Dat is opmerkelijk, omdat de verwerking van persoonlijke en financiële informatie aan strenge wettelijke eisen is gebonden.

Organisaties die persoonsgegevens verwerken, moeten weten welke gegevens zij gebruiken, waarom zij dat doen en welke gevolgen hun verwerkingsmethoden kunnen hebben voor de betrokken personen.

Bij het gebruik van AI en algoritmes komen daar aanvullende aandachtspunten bij.

Zo moeten organisaties onder meer beoordelen of hun systemen mogelijk discriminerende uitkomsten veroorzaken, of er voldoende menselijke controle plaatsvindt en of mensen voldoende worden geïnformeerd over de verwerking van hun persoonsgegevens.

Wanneer een systeem grote hoeveelheden informatie verzamelt en combineert, kan bovendien een gegevensbeschermingseffectbeoordeling (DPIA) verplicht zijn. Daarmee worden de privacyrisico's vooraf onderzocht en kunnen passende maatregelen worden genomen.

Dat sommige incassobureaus onvoldoende zicht zouden hebben op deze verplichtingen, vergroot volgens de toezichthouder het risico dat onrechtmatige werkwijzen in de praktijk voorkomen.

De AP waarschuwt dan ook dat verboden vormen van volledig geautomatiseerde besluitvorming mogelijk op grotere schaal plaatsvinden dan wenselijk is.

Brancheorganisatie NVI reageert verrast op het onderzoek

De brancheorganisatie voor incassobureaus, de Nederlandse Vereniging van gecertificeerde Incasso-ondernemingen (NVI), zegt verrast te zijn door de publicatie van de onderzoeksresultaten.

Volgens een woordvoerder is de brancheorganisatie niet vooraf door de Autoriteit Persoonsgegevens benaderd en ook niet geïnformeerd over het onderzoek of de publicatie.

De NVI geeft aan het rapport eerst zorgvuldig te willen bestuderen en gebruik te willen maken van de aangekondigde toelichting van de toezichthouder.

De organisatie benadrukt tegelijkertijd dat zorgvuldig en rechtmatig omgaan met persoonsgegevens van mensen met betalingsachterstanden een vanzelfsprekend uitgangspunt moet zijn.

Ook onderschrijft de brancheorganisatie het uitgangspunt dat beslissingen met wezenlijke gevolgen voor een schuldenaar niet zonder menselijke beoordeling tot stand mogen komen.

De NVI stelt echter dat zij op basis van de gepubliceerde informatie nog niet kan beoordelen in hoeverre het beeld uit de steekproef overeenkomt met de dagelijkse praktijk bij haar aangesloten leden.

De aanbevelingen van de AP over menselijke tussenkomst, bewustwording van datagebruik en transparantie richting schuldenaren wil de brancheorganisatie met haar leden bespreken.

Wat moet er volgens de toezichthouder veranderen?

De Autoriteit Persoonsgegevens verlangt dat incassobureaus hun werkwijze kritisch tegen het licht houden en maatregelen treffen om de gesignaleerde risico's te beperken.

Daarbij staan verschillende verbeterpunten centraal.

1. Menselijke controle bij belangrijke beslissingen

Incassobureaus moeten ervoor zorgen dat beslissingen die aanzienlijke gevolgen kunnen hebben voor schuldenaren niet uitsluitend door een algoritme worden genomen wanneer de AVG dat verbiedt. Een medewerker moet zelfstandig kunnen beoordelen of de uitkomst klopt en of de omstandigheden van de betrokkene voldoende zijn meegewogen.

2. Inzicht in het gebruik van persoonsgegevens

Incassobureaus moeten duidelijk in kaart brengen welke persoonsgegevens zij verzamelen, waar deze gegevens vandaan komen, waarom zij worden verwerkt en met welke andere informatie zij worden gecombineerd.

3. Transparantie richting schuldenaren

Mensen moeten begrijpelijk worden geïnformeerd over de manier waarop hun persoonsgegevens worden gebruikt. Wanneer algoritmes een rol spelen bij beoordelingen die hen treffen, moet duidelijk zijn wat die rol inhoudt en welke rechten zij hebben.

4. Voorkomen van discriminatie en ongelijke behandeling

De gebruikte systemen moeten worden gecontroleerd op mogelijke vooroordelen, onjuiste aannames en discriminerende uitkomsten. Daarbij moet ook aandacht bestaan voor indirecte discriminatie die kan ontstaan door het gebruik van bepaalde persoonsgegevens of kenmerken.

5. Betere kennis van privacywetgeving

Medewerkers en verantwoordelijken binnen incassobureaus moeten voldoende kennis hebben van de AVG en de regels voor geautomatiseerde besluitvorming. Het gebruik van nieuwe technologie ontslaat organisaties immers niet van hun wettelijke verantwoordelijkheid.

6. Mogelijkheid om fouten te corrigeren

Wanneer persoonsgegevens onjuist blijken te zijn of een geautomatiseerde beoordeling niet overeenkomt met de werkelijke situatie, moet er een mogelijkheid bestaan om die gegevens en de daaruit voortvloeiende beoordeling te laten corrigeren.

Wat betekent dit voor mensen met betalingsachterstanden?

Voor mensen die met een incassobureau te maken krijgen, is het belangrijk te beseffen dat hun persoonsgegevens mogelijk op verschillende manieren worden verwerkt.

Dat betekent niet automatisch dat ieder incassobureau sociale media doorzoekt of dat iedere schuldenaar door AI wordt beoordeeld. Het onderzoek laat wel zien dat er binnen de sector risico's bestaan die serieus moeten worden genomen.

Een schuldenaar heeft op grond van de AVG verschillende rechten. Zo bestaat onder meer het recht om te worden geïnformeerd over de verwerking van persoonsgegevens, het recht op inzage en onder bepaalde voorwaarden het recht op rectificatie of verwijdering van gegevens.

Ook kan iemand bezwaar maken tegen bepaalde vormen van gegevensverwerking, bijvoorbeeld wanneer een organisatie zich beroept op een gerechtvaardigd belang. Of een bezwaar slaagt, hangt af van de omstandigheden en de wettelijke grondslag.

Wanneer iemand vermoedt dat er sprake is van verboden volledig geautomatiseerde besluitvorming, kan hij of zij het incassobureau om uitleg vragen over de gebruikte gegevens, de rol van het algoritme en de menselijke beoordeling.

Wanneer een organisatie onvoldoende duidelijkheid geeft of mogelijk in strijd handelt met de privacywetgeving, kan de betrokkene een klacht indienen bij de Autoriteit Persoonsgegevens.

Hoe groot is het probleem werkelijk?

De bevindingen van de AP roepen een bredere vraag op: in hoeverre is de incassobranche inmiddels afhankelijk geworden van algoritmes om mensen financieel te beoordelen?

Het onderzoek onder 29 incassobureaus geeft aanleiding tot zorgen, maar betekent niet automatisch dat alle incassobureaus dezelfde werkwijze hanteren of dat iedere vorm van AI-gebruik onrechtmatig is.

Er moet onderscheid worden gemaakt tussen het gebruiken van technologie als hulpmiddel en het laten nemen van beslissingen door een geautomatiseerd systeem.

AI kan organisaties helpen om informatie sneller te verwerken en administratieve werkzaamheden efficiënter uit te voeren. Dat hoeft op zichzelf geen probleem te zijn. Het wordt echter zorgelijk wanneer mensen op basis van ondoorzichtige berekeningen worden ingedeeld, wanneer onjuiste gegevens tot nadelige gevolgen leiden of wanneer medewerkers onvoldoende zelfstandig controleren wat het systeem adviseert.

Juist bij financiële problemen is zorgvuldigheid essentieel. Een betalingsachterstand kan verschillende oorzaken hebben. Iemand kan tijdelijk zonder werk zitten, te maken hebben met onverwachte uitgaven, een scheiding, ziekte of andere omstandigheden die niet uit openbare gegevens of een kredietscore zijn af te leiden.

Een algoritme kan dergelijke persoonlijke omstandigheden niet vanzelfsprekend herkennen of op de juiste manier meewegen.

Daarom mag technologische efficiëntie nooit belangrijker worden dan een zorgvuldige en rechtvaardige behandeling van mensen.

Rondetafelgesprek moet duidelijkheid geven

De Autoriteit Persoonsgegevens heeft aangekondigd begin december met vertegenwoordigers uit de incassobranche om tafel te gaan om de onderzoeksresultaten en de aanbevelingen te bespreken.

Tijdens dat rondetafelgesprek moet onder meer duidelijk worden hoe incassobureaus omgaan met het verzamelen en combineren van persoonsgegevens, welke rol algoritmes spelen bij de beoordeling van schuldenaren en hoe zij ervoor zorgen dat beslissingen aan de wettelijke eisen voldoen.

Ook de verantwoordelijkheid van medewerkers en de transparantie richting betrokkenen zullen daarbij belangrijke aandachtspunten zijn.

De NVI heeft aangegeven de aanbevelingen serieus te nemen en deze met haar leden te bespreken.

De komende periode moet duidelijk maken in hoeverre de sector bereid en in staat is om de geconstateerde risico's daadwerkelijk aan te pakken.

Door: Drifter