"Schijnveiligheid in plaats van échte beheersing"
Advocaat Douwe Groenevelt verwoordt in een veelbesproken analyse van de NOvA-aanbevelingen voor AI wat veel kantoren aanvoelen maar zelden uitspreken: een conservatieve, generieke benadering creëert juist het risico dat ze zegt te willen voorkomen. Dit artikel ontleedt de kritiek, plaatst hem in het kader van de AI Act en geeft een werkbaar alternatief voor advocatenkantoren.
"De NOvA-aanbevelingen geven advocaten een gerust gevoel zonder dat er een echt beheerssysteem onder ligt. Dat is geen voorzichtigheid — dat is schijnveiligheid."
AI in de advocatuur: waarom de NOvA-richtlijnen tekortschieten
De Nederlandse Orde van Advocaten publiceerde in 2024 haar aanbevelingen voor het gebruik van generatieve AI door advocaten. Goed bedoeld, maar in de praktijk leiden ze tot wat critici "schijnveiligheid" noemen: een gerust gevoel zonder een echt beheerssysteem. Voor wie de EU AI Act, het beroepsgeheim en de tuchtrechtelijke werkelijkheid serieus neemt, is dat een gevaarlijke combinatie.
De aanleiding: de NOvA-aanbevelingen van 2024
Eind 2023 publiceerde de NOvA een eerste set aanbevelingen over het gebruik van AI door advocaten. De kern: wees voorzichtig met cloudgebaseerde AI, anonimiseer cliëntgegevens, controleer altijd de output, en pas op met juridische analyses door generatieve modellen. De aanbevelingen werden in 2024 herhaald en verfijnd, met een sterkere nadruk op het beroepsgeheim (Art. 11a Advocatenwet) en de verplichting tot zorgvuldigheid (Gedragsregel 3).
Op papier klinkt dat redelijk. In de praktijk roept het drie problemen op: de aanbevelingen zijn niet bindend, ze geven geen handvatten voor een beheerssysteem, en ze gaan voorbij aan het feit dat de meeste kantoren AI inmiddels structureel inzetten — vaak zonder dat de beheerder of de Deken het weet.
De kritiek-Groenevelt: van "wees voorzichtig" naar échte controle
Advocaat Douwe Groenevelt stelt in zijn analyse dat de NOvA met haar conservatieve benadering vier denkfouten maakt:
1. "Verbieden is veilig"
Door cloud-AI feitelijk te ontmoedigen schuif je het probleem naar shadow AI: medewerkers gebruiken het toch, zonder beheer en zonder logging. Het kantoor weet niet wát er met cliëntgegevens gebeurt.
2. "Anonimiseren is genoeg"
Echte anonimisering is bij dossierteksten vrijwel onmogelijk — re-identificatie via context blijft technisch haalbaar. De aanbeveling creëert een schijnoplossing.
3. "Controleer de output"
Output-controle is reactief. Het zegt niets over wélk model gebruikt is, wat de trainingsdata waren, of er prompt injection plaatsvond, of waar de inputdata zijn beland.
4. "Geen formele norm"
Aanbevelingen zonder verankering in een beheerssysteem (zoals ISO 42001) maken het tuchtrechtelijk willekeurig. Wat is "voldoende voorzichtig"? Niemand weet het.
De kern van de kritiek: de NOvA verwart terughoudendheid met beheersing. Een echte AI-governance vraagt om een gestructureerd managementsysteem — met inventarisatie, risicobeoordeling per use case, leveranciersbeheer, technische maatregelen (DPA's, modelkeuze, dataresidentie) en verifieerbare controles. Niets daarvan staat in de NOvA-aanbevelingen.
NOvA-aanbeveling vs. EU AI Act-verplichting: waar zit het gat?
De volgende vergelijking laat per onderwerp zien waar de NOvA-aanbevelingen achterblijven bij wat de EU AI Act, de AVG en het beroepsgeheim feitelijk verplichten. Het gat is geen detailkwestie — het is structureel.
| Onderwerp | NOvA-aanbeveling | EU AI Act / AVG / Art. 11a | Het gat |
|---|---|---|---|
| AI-inventarisatie | Niet vereist | Verplicht onder Art. 4 (geletterdheid) + AVG art. 30 (verwerkingsregister) | Geen zicht op shadow AI |
| Risicoclassificatie per use case | Generieke "voorzichtigheid" | Per toepassing classificeren (Art. 6 + Annex III) | Geen onderscheid hoog/beperkt risico |
| Leveranciersbeoordeling | "Wees voorzichtig met cloud" | DPA + transfer impact assessment + subverwerker-transparantie | Geen concrete eisen aan leveranciers |
| Beroepsgeheim & cliëntdata | Anonimiseer indien mogelijk | Art. 11a Adv. wet: absoluut verbod op delen zonder waarborgen | Anonimisering biedt schijnoplossing |
| AI-geletterdheid medewerkers | Niet expliciet | Art. 4 AI Act: verplicht sinds februari 2025 | Direct in overtreding |
| Output-controle | "Controleer altijd" | Art. 14: human oversight = gedocumenteerd proces | Geen procesvereiste, alleen wens |
| Transparantie naar cliënt | Niet vereist | Art. 50: AI-bekendmaking + Gedragsregel 8 (informatieplicht) | Cliënten weten niet dat AI meeleest |
| Beheerssysteem & audit | Niet vereist | ISO 42001 / Art. 17 AI Act (QMS) als de facto standaard | Geen aantoonbare beheersing richting Deken |
Conclusie: een kantoor dat strikt de NOvA-aanbevelingen volgt, voldoet op zes van de acht onderwerpen niet aan de wettelijke en deontologische eisen. Dat is precies waarom Groenevelt spreekt van schijnveiligheid.
Tuchtrecht & AI: vijf scenario's waarin de Deken aanklopt
Tuchtrecht is geen abstract risico. De volgende scenario's zijn gebaseerd op gepubliceerde buitenlandse casuïstiek (VS, VK) en signalen uit Nederlandse kantoren. Een vergelijkbare Nederlandse tuchtzaak is statistisch een kwestie van tijd.
1. Hallucinatie in pleitnota
Advocaat citeert via ChatGPT verzonnen jurisprudentie in een processtuk (vgl. Mata v. Avianca, 2023). Tuchtrechtelijk: schending Gedragsregel 3 — onzorgvuldig handelen. Sanctie: berisping tot schorsing.
2. Datalek via gratis ChatGPT
Stagiair plakt cliëntdossier in een persoonlijk ChatGPT-account. Schending: Art. 11a Advocatenwet + AVG. Meldplicht datalek bij AP. Tuchtrechtelijk: het kantoor faalde in toezicht en training.
3. Verzwegen AI-gebruik
Cliënt ontdekt dat zijn dossier door AI is verwerkt zonder voorafgaande informatie. Schending Gedragsregel 8 (informatieplicht) + Art. 50 AI Act. Klacht bij Deken én vertrouwensbreuk.
4. Bias in advies
Predictive-justice tool adviseert systematisch lagere schikkingsbedragen voor cliënten met niet-Nederlandse achternaam. Schending AVG art. 22 + AI Act Art. 10 (data governance) + Gedragsregel 5 (gelijke behandeling).
5. Geen aantoonbare beheersing
Deken vraagt na een klacht: "Hoe weet u dat dit niet vaker gebeurt?" Het kantoor heeft geen AI-inventaris, geen Acceptable Use Policy, geen logging. De afwezigheid van beheersing is zélf de tuchtrechtelijke verwijtbaarheid — niet alleen het individuele incident.
In alle vijf scenario's is de NOvA-aanbeveling "wees voorzichtig" geen verweer. Wat wél verweer biedt: een gedocumenteerd beheerssysteem dat aantoont dat het kantoor de risico's gestructureerd heeft geïdentificeerd, beheerst en periodiek toetst.
Het juridische speelveld: vier lagen tegelijk
Een advocatenkantoor dat AI inzet, opereert in een viervoudig juridisch kader. Geen van die lagen wordt door de NOvA-aanbevelingen adequaat afgedekt:
- 1. Beroepsgeheim — Art. 11a Advocatenwet & Gedragsregel 3. Het beroepsgeheim is absoluut: alles wat een advocaat in zijn hoedanigheid verneemt, is geheim. Het versturen van cliëntinformatie naar een Amerikaanse cloud-AI zonder passende waarborgen kán al een schending opleveren — los van of er "schade" is.
- 2. AVG/GDPR. Cliëntdossiers bevatten vrijwel altijd persoonsgegevens, vaak bijzondere categorieën (gezondheid, strafrechtelijk verleden). Verwerking via een AI-leverancier vereist een verwerkersovereenkomst, een DPIA bij hoge risico's en — bij doorgifte buiten de EER — een transfer impact assessment.
- 3. EU AI Act. Onder Annex III, punt 8a is AI-ondersteuning bij rechterlijke besluitvorming hoog-risico. Voor advocatenkantoren ligt het genuanceerder: het opstellen van processtukken of legal research valt vaak onder beperkt risico, maar predictive justice tools (uitkomstvoorspelling, schikkingsadvies) leunen tegen de hoog-risico classificatie aan. Sinds februari 2025 geldt bovendien Art. 4 — verplichte AI-geletterdheid voor alle medewerkers die met AI werken.
- 4. Tuchtrecht. Onzorgvuldig AI-gebruik dat tot een feitelijke fout in een processtuk leidt, valt onder Gedragsregel 3. De Amerikaanse Mata v. Avianca-zaak (2023) — waarin een advocaat door ChatGPT verzonnen jurisprudentie indiende — laat zien hoe snel dit tuchtrechtelijk en reputationeel kan escaleren. In Nederland is een vergelijkbare zaak een kwestie van tijd.
AI Act-classificatie van legal tech: een praktisch overzicht
De EU AI Act maakt onderscheid op basis van risico, niet op basis van sector. Voor de advocatuur betekent dat per use case een afzonderlijke classificatie. Hieronder de meest voorkomende toepassingen en hun meest waarschijnlijke positie onder de AI Act:
| Use case | Classificatie | Belangrijkste eis |
|---|---|---|
| Document review / e-discovery | Beperkt risico | Transparantie + beroepsgeheim-waarborgen |
| Legal research (RAG op jurisprudentie) | Beperkt risico | Bronvermelding + hallucinatie-controle |
| Concept-processtukken / contract drafting | Beperkt risico | Menselijke eindcontrole + logging |
| Predictive justice / uitkomstvoorspelling | Hoog risico (grijze zone) | FRIA, bias-audit, transparantie naar cliënt |
| AI-geassisteerde rechterlijke besluitvorming | Hoog risico (Annex III, 8a) | Volledige Annex IV-documentatie + CE-markering |
| Chatbots voor cliëntintake | Beperkt risico | AI-bekendmaking (Art. 50) |
| Tariefbepaling op basis van klantprofiel | Mogelijk verboden (Art. 5) | Risico op manipulatie / kwetsbare personen |
Veel kantoren zien zichzelf in het beperkt-risico segment en concluderen daaruit dat de AI Act voor hen "weinig te betekenen heeft". Dat is een inschattingsfout: ook bij beperkt risico geldt sinds februari 2025 de verplichte AI-geletterdheid (Art. 4) en de transparantie-eis bij gegenereerde inhoud (Art. 50). En de moment dat een tool richting predictive justice beweegt, schuift de hele compliance-last omhoog.
Het beroepsgeheim en cloud-AI: het feitelijke probleem
De NOvA wijst — terecht — op het risico dat cliëntinformatie via cloud-AI bij derden belandt. Maar de aanbeveling om dan maar terughoudend te zijn lost het probleem niet op. De praktijk in 2025:
- Microsoft Copilot in Word wordt op duizenden Nederlandse advocatenwerkplekken gebruikt — vaak zonder dat een formele beslissing over modelkeuze, dataresidentie en beroepsgeheim-waarborgen is genomen.
- ChatGPT-tabbladen staan open op de tweede monitor van de gemiddelde advocaat-stagiair. Cliëntnamen, dossiernummers en feitelijke beschrijvingen verdwijnen erin zonder enige logging.
- Niche legal-tech tools (Henchman, Lexis+ AI, Harvey, Spellbook, Casetext) verwerken contracten, jurisprudentie en interne kennisbases — soms via Amerikaanse subverwerkers waarvan het kantoor het bestaan niet kent.
Wie het beroepsgeheim serieus neemt, kan niet volstaan met "wees voorzichtig". Vereist is een keten van beheersmaatregelen: een AI-inventaris (welke tools, welke gebruikers, welke datacategorieën), een leveranciersbeleid (Europese hosting, expliciete opt-out van modeltraining op klantdata, end-to-end encryptie), een verwerkersovereenkomst per tool, een acceptable use policy voor medewerkers en periodieke verificatie. Dat noemen we — niet toevallig — een AI Management System, zoals beschreven in ISO 42001.
Een werkbaar alternatief: het 5-stappenplan voor advocatenkantoren
- 1
Inventariseer alle AI in het kantoor
Inclusief shadow AI. Vraag elke advocaat en stagiair welke tools ze daadwerkelijk gebruiken — niet welke ze "officieel" mogen gebruiken. De gap is altijd groter dan verwacht.
- 2
Classificeer per use case onder de AI Act
Niet "het kantoor" maar elke afzonderlijke toepassing. Gebruik hiervoor de risicocategorieën van de AI Act en documenteer de afweging.
- 3
Beoordeel leveranciers op beroepsgeheim-niveau
Eis: EU-hosting, geen training op klantdata, expliciete beroepsgeheim-clausule in het DPA, transparantie over subverwerkers. Tools die hier niet aan voldoen, krijgen een geel of rood stempel.
- 4
Stel een AI Acceptable Use Policy op
Leg vast welke datacategorieën in welke tool mogen, welke controles vereist zijn vóór output naar buiten gaat, en hoe incidenten gemeld worden. Train alle medewerkers (Art. 4 AI Act).
- 5
Bouw periodieke verificatie in
Jaarlijkse interne audit, steekproef op naleving van het AUP, hertoetsing van de classificatie bij elke nieuwe tool. Dit is het verschil tussen schijnveiligheid en aantoonbare beheersing.
Wat de NOvA zou moeten doen
Het pleidooi van Groenevelt — en van een groeiende groep AI-juristen — is dat de NOvA verder moet gaan dan aanbevelingen. Concreet:
- Verplicht een AI-inventaris en een minimaal AUP per kantoor, naar analogie van de cybersecurity-aanbevelingen.
- Erken ISO 42001 of een vergelijkbaar managementsysteem als tuchtrechtelijke benchmark voor "voldoende beheersing".
- Faciliteer een collectief leveranciersassessment voor de gangbare legal-tech tools — nu doet ieder kantoor dit afzonderlijk, met wisselende kwaliteit.
- Geef expliciete duiding bij de AI Act-classificatie van legal tech, zodat kantoren niet zelf het juridische denkwerk hoeven te doen.
Tot die tijd zijn kantoren zelf aan zet. En dat begint met de erkenning dat "voorzichtig zijn" geen compliance-strategie is.
Conclusie: van schijnveiligheid naar aantoonbare beheersing
De NOvA-aanbevelingen zijn een eerste stap, maar ze zijn ontoereikend voor de werkelijkheid van AI-gebruik in 2025. Wie als kantoor wacht op bindende regelgeving van de NOvA loopt het risico tussen wal en schip te vallen: de AI Act geldt al, het beroepsgeheim ook, en de eerste Nederlandse Mata-zaak is statistisch een kwestie van tijd.
Het alternatief is geen regulatoire bureaucratie maar een werkbaar beheerssysteem: weten wat je hebt, weten waar de data heen gaan, en kunnen aantonen dat je in control bent. Dat is precies waar ISO 42001, de AI Act en — uiteindelijk — ook het tuchtrecht van een modern advocatenkantoor om vragen.
Verder lezen & relevante tools
Sectorgids: AI in de Advocatuur
Volledige compliance-gids voor advocaten, notariaat en legal tech.
AI Act Tijdlijn 2025-2027
Welke verplichtingen gelden vandaag, en wat komt eraan.
Boete-calculator
Bereken uw exposure onder Artikel 99 AI Act.
Shadow AI in kantoren
Het ongereguleerde AI-gebruik dat ieder kantoor heeft.
Bronnen & inspiratie: NOvA "Aanbevelingen voor het gebruik van generatieve AI" (2023/2024); Douwe Groenevelt, "AI-aanbevelingen van de NOvA: conservatieve benadering leidt tot schijnveiligheid" (Advocatenblad, 2025); Verordening (EU) 2024/1689; Mata v. Avianca, US District Court SDNY (2023).
Gerelateerde pagina's
AI Audit Diensten
Onafhankelijke AI audits volgens EU AI Act en ISO 42001
EU AI Act Gids
Alles over de Europese AI-wetgeving en uw verplichtingen
AI Compliance Framework
Vier pijlers van compliance en het maturity model
Consultancy & Training
Persoonlijke begeleiding en certificeringsprogramma's
Wat is een AI Audit?
Complete uitleg over het audit-proces
Risicoclassificatie
Hoe classificeer je AI-risico's volgens de AI Act?
ISO 42001 Standaarden
Internationale standaard voor AI management
AI Governance
Grip op verantwoorde inzet van AI