AI-fraude & deepfakes: de governance-gap in cijfers

AI versterkt fraudedreigingen — van deepfake-CEO-fraude tot synthetische identiteiten. Tegelijk gebruiken organisaties AI om die fraude juist te detecteren. Maar wie controleert de AI zelf?

Een paradox: AI als wapen én als verdediging

Volgens onderzoek van ACFE (Association of Certified Fraud Examiners) en SAS, gepubliceerd in ChannelConnect (2026), groeit AI-gedreven fraude in een tempo dat de meeste organisaties niet bijhouden. Tegelijk wordt AI op grote schaal ingezet als detectie-instrument: 83% van de anti-fraude-professionals verwacht binnen twee jaar AI te gebruiken voor fraudebestrijding. Toch geeft slechts 7% aan daadwerkelijk klaar te zijn voor de nieuwe AI-fraudedreigingen.

Het nieuwe fraudelandschap

AI verlaagt de drempel voor geavanceerde fraude drastisch. Drie ontwikkelingen springen eruit:

• Deepfake-CEO-fraude: Stem en beeld van leidinggevenden worden nagebootst om medewerkers tot betalingen te bewegen. Eén bekend incident in Hong Kong leidde in 2024 al tot een schade van $25 miljoen.
• Synthetische identiteiten: Gegenereerde personen — met sluitende paspoorten, social media en kredietgeschiedenis — worden gebruikt voor fraude met leningen, verzekeringen en uitkeringen.
• Geautomatiseerde social engineering: AI maakt phishing op maat, in foutloos Nederlands, op industriële schaal.

De governance-gap: kennen we onze eigen AI?

De cijfers zijn pijnlijk. 86% noemt nauwkeurigheid van AI-modellen "belangrijk" of "zeer belangrijk", maar slechts 18% test op bias. Dit gat is om twee redenen problematisch:

1. 1. Onbetrouwbare detectie: Een fraude-detectiemodel met onvoldoende geteste bias kan systematisch bepaalde groepen klanten ten onrechte als verdacht aanmerken — of juist ware fraude missen.
2. 2. Wettelijke aansprakelijkheid: Onder de EU AI Act gelden veel fraude-detectiesystemen als hoog-risico AI. Bias-testing, documentatie en menselijk toezicht zijn dan geen optie maar wettelijke verplichting.

Wat de EU AI Act eist van fraude-detectie-AI

AI-systemen die financiële diensten, kredietverlening of toegang tot essentiële diensten beïnvloeden vallen vrijwel altijd onder de hoog-risico categorie. Dat betekent:

• Verplichte AI Impact Assessment vóór ingebruikname.
• Aantoonbare datakwaliteit en bias- en fairness-testing.
• Technische documentatie en logbestanden gedurende de gehele levenscyclus.
• Effectief menselijk toezicht — beslissingen mogen niet volautomatisch ingrijpend zijn.
• Transparantie naar betrokkenen die geraakt worden door een AI-beslissing.

Boetes lopen op tot €35 miljoen of 7% van de wereldwijde jaaromzet. Voor de financiële sector komt daar toezicht door DNB en AFM bovenop.

Vier prioriteiten om de gap te dichten

De boodschap voor bestuurders

De cijfers zijn duidelijk: organisaties weten dát AI-fraude een dreiging is, maar handelen nog niet structureel. De combinatie van toenemende fraudedreigingen, scherpere wetgeving en publieke aandacht voor AI-fairness maakt actie urgent. Wie nu investeert in een aantoonbare AI-governance-aanpak, bouwt niet alleen compliance maar ook vertrouwen — bij klanten, toezichthouders en personeel.

Hoe VeriAi helpt

VeriAi voert onafhankelijke audits uit op fraude-detectie- en risicoclassificatie-AI. Wij toetsen op nauwkeurigheid, bias, robuustheid en compliance met EU AI Act, ISO/IEC 42001 en sectorspecifieke regels (DNB, AFM, AVG). Het resultaat: een rapport waarmee u richting bestuur, toezichthouder én klant kunt aantonen dat uw AI verantwoord werkt.