Ken de wet en wees ethisch

Fraude-opsporing wordt door de wet beperkt. Dit voorkomt dat iemand gewoon gegevens kan doorzoeken naar afwijkingen zonder aanwijsbare reden. Met persoonsgegevens, die worden beschermd onder de AVG/GDPR, zijn deze beperkingen nog strikter geworden. Vanuit juridisch oogpunt vereist iedere gegevensverwerking wettelijke goedkeuring en een specifiek, expliciet en legitiem doel dat het gebruik van die gegevens beperkt.Het combineren van gegevens met andere, externe gegevensverzameling kan ook problematisch zijn. Wat technisch mogelijk is, is niet altijd haalbaar of legaal.

Fraude-opsporing moet zowel ethisch als legaal zijn. Bij data-analyses gaat het allemaal om statistiek, wat betekent dat fouten inherent zijn. Hoe gaan data-analisten om met deze (Type I) fouten? En wie heeft de schuld wanneer iemand ten onrechte wordt beschuldigd?

Gegevens vormen niet de realiteit

Data vormen niet de hele realiteit, het zijn zelfs geen schaduwen in een grot, om naar Plato te verwijzen. Persoonlijke gegevens kunnen alleen worden verzameld en bewaard voor vooraf gedefinieerde doeleinden. Deze doelen voor het verzamelen liggen meestal bij de uitvoering van bedrijfsprocessen, niet bij fraude-opsporing. En analisten mogen niet meer persoonsgegevens verzamelen dan ze strikt nodig hebben, dus…

Goede fraudeurs weten dat geen enkel proces perfect is – er zijn altijd blinde vlekken die kunnen worden misbruikt. Fraudeurs volgen het proces zoals voorgeschreven, maar ze kennen ook de mazen in het net en de uitzonderingen. Met andere woorden, de gegevensverzameling kan er goed uitzien, zelfs wanneer er fraude plaatsvindt.

Vaak is het een externe gebeurtenis die fraudedetectie triggert. Bijvoorbeeld iemand die gaat praten. Zorg goed voor uw klokkenluiders, zij kunnen u wijzen op ernstiger gevallen van fraude dan wat data-analyses over kruimeldieven onthullen.

Wees bescheiden en denk na over je acties

In China is het zogenaamde sociaalkredietsysteem in een stroomversnelling terecht gekomen. Uiteindelijk zal het gedrag van alle Chinese burgers worden gevolgd. Als dat binnen de kaders valt die door de overheid zijn gesteld, zullen burgers extra privileges krijgen. Doen ze dat niet, kunnen zij van de basisvoorzieningen worden uitgesloten. Data-analyse zal dit alles mogelijk maken, maar is dit de maatschappij waarin we willen leven?

Wat zijn de mogelijke neveneffecten van massale gegevensanalyses voor fraude? Als we de persoonsgegevens van iedereen bewaken op anomalieën, met andere woorden mogelijke fraude, wat voor soort gemeenschap creëren we dan? Een plek waar uitzonderingen verdacht zijn, waar je middelmatig moet zijn om een prettig leven te leiden.

Fraudepreventie beperkt onze vrijheid. Een onzichtbare bewaking van elke afzonderlijke transactie die we doen, zou wel eens een van de grootste en minst verwachte bedreigingen voor de vrijheid kunnen zijn die we ooit zijn tegengekomen. Een wereld zonder fraude is een utopisch concept, maar ook een gevangenis waarin ik niet wil leven.

Deze blog post is eerder gepubliceerd op de Capgemini blog site.

Text in English:

Be careful when you propose mass analytics of data for fraud detection. GDPR and other issues may deem this approach as unsuccessful.

Fraud is a regularly recurring topic on the front pages of the newspapers. The outrage among politicians and citizens is invariably large, because it is often about public money. The indignation does not surprise me. But what I find disturbing is that all kinds of data analysts claim that they can discover fraud with some clever queries. What an optimistic view of the world.

Know the law and be ethical

Fraud detection activities are limited by law. This prevents anyone just crawling through data looking for abnormalities without reasonable cause. With personal data now protected under the GDPR, these limitations have become even more strict. From a legal perspective, any data processing requires legal approval and a specific, explicit, and legitimate purpose that restricts the use of that data. Combining data with other, external data sets can also be problematic. What is technically possible is not always feasible or even legal.

A fraud detection system needs to be ethical as well as legal. Data analytics are all about statistics, which means errors are inherent. How do data analysts deal with these (Type I) errors? And who is at fault when someone is wrongly accused?

Data isn’t the full story

Your data isn’t the whole story, not even a shadow in a cave, to reference Plato. Personal data can only be collected and kept for predefined purposes, which mostly revolve around enabling business processes, not fraud detection, and analysts cannot gather more data than they strictly need.

Good fraudsters know that no process is foolproof – there are always blind spots that can be abused. Fraudsters follow the process as required, but they also know the loopholes and exceptions. In other words, the data set may look innocent even when fraud is happening.

In most cases, there’s an external event that triggers fraud detection. Most commonly, it’s someone that talks too much. Take care of your whistle-blowers, they might point you to more serious fraud cases than petty crimes data analytics usually reveal.

Be humble and reflect on your actions

In China, the social credit system is gathering pace. In the end, all Chinese citizens’ behavior will be monitored. If it’s within the lines drawn by the government, they’ll get benefits, if it’s not, they ’ll be excluded from basic services. Data analytics will make all this possible, but is this the society we want to live in?

What are the potential side effects of claims that massive data analysis is the cure for fraud? If we are monitoring everyone’s personal data for anomalies, in other words, possible fraud, what kind of community are we creating? A place where exceptions are suspicious, where you need to be mediocratic to have a pleasant life.

Fraud prevention limits our freedom. An invisible eye monitoring every single transaction we make could be one of the greatest, and least expected, threats to freedom we have ever encountered. A world without fraud is a utopian concept, but also a prison I don’t want to live in.

This blog post has been previously posted on Capgemini blog site.

Photo ‘Fraud’ CC BY 2.0 by Steven Millstein via Flickr