AI-agents zonder beheersing: wat het gat tussen risicobesef en maatregelen betekent onder de AI Act

Nederlandse IT-beslissers zien de risico's van autonome AI-agents scherp. De inrichting van logging, goedkeuring en afscherming loopt daar meetbaar op achter. Dit artikel vertaalt die kloof naar concrete verplichtingen onder de EU AI Act, ISO/IEC 42001 en NIS2 — en naar het bewijs dat u straks moet kunnen overleggen.

Wat het onderzoek laat zien

Het Agentic Engineering-onderzoek 2026 van Info Support, uitgevoerd door onderzoeksbureau Markteffect onder 330 IT-medewerkers met beslissingsbevoegdheid (organisaties met meer dan 50 medewerkers, IT-afdeling van minimaal 5 personen, maatwerksoftware-ontwikkeling), geeft het volgende beeld:

• 2% ervaart geen enkel risico bij de inzet van AI-agents.
• 43% vreest dat gevoelige bedrijfsdata bij externe AI-providers terechtkomt.
• 39% noemt de kwaliteit van AI-gegenereerde code en hallucinaties als zorgpunt.
• 33% wijst op de complexiteit van wet- en regelgeving (AVG, EU AI Act, sectorspecifieke eisen).
• 32% noemt gebrek aan controle en auditability: niet te traceren welke acties een agent uitvoerde en waarom.
• 31% benoemt agent security: een autonome agent die onbedoelde of schadelijke handelingen verricht.

Tegenover dat risicobesef staan de maatregelen: 42% heeft beveiligings­maatregelen ingericht voor data-uitwisseling met AI-tools, 41% hanteert een formeel goedkeuringsproces voor nieuwe AI-hulpmiddelen, 32% zet actieve logging en monitoring in en 26% laat agents experimenteren in een afgeschermde sandbox- of testomgeving.

Bron: Agentic Engineering-onderzoek 2026, Info Support / Markteffect, gepubliceerd via MSP Business (11 augustus 2026).

Waarom dit een compliance-probleem is, geen IT-probleem

De cijfers over auditability zijn vanuit auditperspectief het meest veelzeggend. Een AI-agent die zelfstandig acties uitvoert op interne systemen is functioneel een handelende actor binnen uw organisatie. Kunt u achteraf niet reconstrueren welke handelingen zijn verricht, op welk moment en op basis van welke input, dan ontbreekt precies het bewijs dat de EU AI Act en ISO/IEC 42001 van u verwachten:

• Artikel 4 (AI-geletterdheid) — van toepassing sinds 2 februari 2025: medewerkers die agents inzetten moeten begrijpen wat de agent wel en niet mag.
• Artikel 12 (logging) — traceerbaarheid over de levensduur van het systeem; zonder logging is er geen dossier.
• Artikel 14 (menselijk toezicht) — er moet een moment zijn waarop een mens kan ingrijpen of goedkeuren.
• Artikel 15 (nauwkeurigheid, robuustheid en cyberbeveiliging) — inclusief bescherming tegen manipulatie van het systeem zelf.
• Artikel 26 (verplichtingen gebruiksverantwoordelijken) — u bent verantwoordelijk voor het gebruik binnen uw eigen organisatie, ook bij ingekochte tooling.
• ISO/IEC 42001 §6.1 en §8.3 — risicobeoordeling en operationele beheersing moeten aantoonbaar zijn ingericht.
• NIS2 art. 21 lid 2(d) — beveiliging in de toeleveringsketen: een externe AI-provider is een ketenpartij.

Van papieren afspraken naar technische afdwinging

De belangrijkste les uit het onderzoek is dat regels op papier onvoldoende waarborgen bieden: een agent kent de context, risico's en interne regels van uw organisatie niet uit zichzelf. Beheersing moet daarom in de omgeving zelf worden afgedwongen — architectuurprincipes, specificaties, tests, securityregels en feedbackloops die technisch verankerd zijn, met een agent die alleen toegang krijgt tot de data, tools en systemen die voor de betreffende taak nodig zijn, en die herkent wanneer hij moet stoppen of menselijke hulp moet inschakelen. Vanuit auditperspectief is dat exact het verschil tussen een beleidsstuk en een beheersmaatregel: het eerste beschrijft de intentie, het tweede laat sporen na.

Wat u nu kunt vastleggen

1. Inventariseer agents als systemen, niet als tools. Registreer per agent: doel, eigenaar, data-toegang, externe provider en beslissingsruimte.
2. Classificeer de data die de agent raakt. Dit bepaalt of dataverlies naar een externe provider een AVG-melding of een ketenrisico onder NIS2 is.
3. Richt logging in vóór opschaling. Welke actie, op welk moment, met welke input en welke goedkeuring.
4. Leg het toelatingsproces vast. Wie besluit dat een agent live mag, op basis van welke toets?
5. Bepaal de stop-conditie. Wanneer moet de agent escaleren naar een mens — en is dat afdwingbaar?
6. Toets periodiek. Agents veranderen door modelupdates zonder dat uw beleid verandert.

Hoe een audit helpt

Een VeriAi Deep-audit levert een reproduceerbaar bevindingendossier van wat AI-agents in uw organisatie feitelijk doen — inclusief data-toegang, logging en goedkeuringsroutes. Wilt u eerst weten waar u staat, dan geeft de Risk Assessment een eerste beeld, en gaat de identity governance voor AI-agents dieper in op niet-menselijke identiteiten. Voor bestuur en toezicht is de Board-brief de kortste route naar gedocumenteerd oversight.