AI-gedreven phishing en de compliance-verantwoordelijkheid van de organisatie die GenAI inzet

Het publieke debat behandelt AI-phishing als IT-securityprobleem. Voor organisaties die zelf generatieve AI gebruiken — of laten gebruiken door medewerkers en leveranciers — is het óók een governance- en compliance-probleem. Een analyse vanuit EU AI Act, ISO/IEC 42001 en NIS2.

Het patroon: phishing is industrieel geworden

Onafhankelijke sectoranalyses laten consistent één beeld zien: de drempel om overtuigende phishingberichten te produceren is in twee jaar tijd gevallen tot vrijwel nul. Generatieve modellen leveren foutloze Nederlandstalige teksten, gepersonaliseerde aanhef, plausibele contextuele details en — in toenemende mate — multimodale ondersteuning via stemklonen of afbeeldingen. Het resultaat is een verschuiving van massale, slecht geschreven berichten naar gerichte campagnes op industriële schaal.

Dit raakt elke organisatie in twee rollen tegelijk: als doelwit van AI-versterkte aanvallen, en als gebruiker of leverancier van diezelfde GenAI-technologie. Het is die tweede rol die door securityteams nog vaak wordt overgeslagen — terwijl de wet daar wél eisen aan stelt.

Waarom dit een compliance-probleem is, niet alleen een securityprobleem

Onder de EU AI Act is de organisatie die een AI-systeem in gebruik neemt — de deployer — verantwoordelijk voor passend gebruik, toezicht en risicobeheersing. Daar zijn drie artikelen die in dit licht bijzonder relevant zijn:

ISO/IEC 42001: van papier naar operationele controles

ISO/IEC 42001 — de internationale norm voor een AI Management System (AIMS) — vertaalt de wettelijke verplichtingen naar concrete beheersmaatregelen. In de context van AI-misbruik en phishing zijn vier clausules direct relevant:

• §6.1 — Risico's en kansen: dual-use van eigen GenAI moet expliciet in het risicoregister staan, inclusief het scenario dat outputs (teksten, code, beelden) extern worden ingezet voor schadelijke doeleinden.
• §8.3 — Operationele controles: rate limiting, output-monitoring, logging en abuse-detectie zijn geen "nice to have" maar normgebonden controles.
• §9 — Prestatie-evaluatie: u moet kunnen aantonen dát uw controles werken, niet alleen dát ze bestaan. Periodieke audits en tabletop-oefeningen horen erbij.
• Annex A — Controls: bevat specifieke maatregelen rond data quality, human oversight en supplier management die direct aansluiten op het phishingscenario.

NIS2 en de keten: phishing is een ketenincident

Onder NIS2 geldt voor essentiële en belangrijke entiteiten een meldplicht voor significante incidenten — en uitdrukkelijk ook voor incidenten die via de toeleveringsketen binnenkomen. Een succesvolle AI-phishing-aanval op een leverancier die toegang heeft tot uw systemen is daarmee meldplichtig binnen 24/72 uur, en het bestuur is hoofdelijk aansprakelijk voor het ontbreken van passende maatregelen.

De blinde vlek: uw eigen GenAI-gebruik

De meeste organisaties beoordelen phishing-risico's vanuit de inkomende kant: e-mailfilters, URL-rewriting, awarenesstrainingen. Wat onderbelicht blijft, is de uitgaande kant:

• Welke medewerkers gebruiken publieke GenAI-diensten en met welke data?
• Hebben uw eigen GenAI-features (klantsupport, copywriting, salesoutreach) misbruikbestendige guardrails?
• Zijn er logs van prompts en outputs voor forensisch onderzoek?
• Is er beleid over AI-gegenereerde stemklonen en beeldmateriaal in marketing?
• Kunt u aantonen dat uw shadow AI-inventarisatie actueel is?

Zonder antwoorden op deze vragen is een compliance-verklaring richting toezichthouder moeilijk hard te maken — ook als u zelf nooit slachtoffer wordt van een aanval.

Wat de bestuurder moet weten

Onder zowel de EU AI Act (Art. 26 — verantwoordelijkheden van deployers) als NIS2 (bestuurlijke aansprakelijkheid) verschuift het zwaartepunt naar de directiekamer. Drie vragen die het bestuur moet kunnen beantwoorden:

1. 1. Welke GenAI-diensten gebruiken wij — officieel én via shadow AI — en welk risicoprofiel hebben die?
2. 2. Kunnen wij aantonen dat onze maatregelen tegen AI-misbruik proportioneel zijn aan de risico's, conform Art. 9 (risicobeheer)?
3. 3. Hoe zou een toezichthouder onze beheersmaatregelen beoordelen als er morgen een AI-gerelateerd incident ontstaat?

Een eerlijk antwoord op vraag 3 is voor de meeste organisaties op dit moment ongemakkelijk. Dat is precies de governance-gap die zich nu sluit — vrijwillig, of na een incident.

De rol van een onafhankelijke audit

Een onafhankelijke AI-audit toetst de combinatie van papier (beleid, risicoregister, DPIA/FRIA) en praktijk (controls, logging, monitoring) tegen EU AI Act, ISO/IEC 42001 en NIS2. Voor het phishing/dual-use-scenario betekent dat onder meer:

• Toets van AI-geletterdheidsprogramma's tegen Art. 4 — inclusief rolspecifieke dekking.
• Review van guardrails op eigen GenAI-features en uitgaande communicatieflows.
• Beoordeling van leverancierscontracten op Art. 25- en NIS2-supply chain-eisen.
• Validatie van incident response-procedures op AI-specifieke scenario's.
• Documentatiecheck conform Annex IV.

Hoe VeriAi helpt

VeriAi voert onafhankelijke AI-audits uit waarin het misbruikscenario expliciet wordt meegenomen — niet als IT-securitytoets, maar als toets op uw governance, documentatie en ketenverantwoordelijkheid. Het resultaat is een rapport waarmee bestuur, toezichthouder én klant kunnen zien dat u uw EU AI Act- en ISO 42001-verplichtingen aantoonbaar invult.