Edgar van Lent ziet dat de AI Act Europese bedrijven dwingt om AI-governance minder als juridisch eindstation en meer als dagelijkse bedrijfsdiscipline te organiseren. Waar de eerste golf van governance vaak draaide om beleid, principes en commissies, verschuift de beslissende vraag nu naar de bewijsvoering rond afzonderlijke AI-toepassingen: wie heeft welke keuze gemaakt, op basis van welke gegevens, met welk toezicht en onder welke voorwaarden kan een systeem worden aangepast of stilgezet?

Dat is een logisch vervolg op het eerdere artikel "Telecom-AI toont hoe governance onder de AI Act vorm krijgt". Zoals Edgar van Lent eerder beschreef, krijgt governance pas waarde wanneer verantwoordelijkheden dicht bij de operationele toepassing zijn belegd. In deze tweede analyse staat een volgend, praktischer aspect centraal: de documentatie- en besluitketen die bedrijven nodig hebben om verantwoord AI-gebruik niet alleen te beloven, maar ook aantoonbaar te maken.

Van principes naar een controleerbare besluitketen

De AI Act werkt met verschillende risicocategorieën en legt voor hoogrisicosystemen zwaardere verplichtingen neer, onder meer rond risicobeheer, datakwaliteit, technische documentatie, logging, menselijke controle en monitoring na ingebruikname. Dat betekent niet dat elk generatief-AI hulpmiddel dezelfde administratieve behandeling vraagt als een systeem dat beslissingen in bijvoorbeeld kredietverlening, werving of essentiële dienstverlening ondersteunt. Juist dat onderscheid ontbreekt volgens Edgar van Lent nog geregeld in bedrijven die haastig één centraal AI-beleid op alle toepassingen plakken.

Edgar van Lent, AI-specialist gericht op de toepassing, beheersing en bestuurlijke inbedding van kunstmatige intelligentie in Europese organisaties, stelt dat verantwoord AI-gebruik begint met het scheiden van drie vragen: wat mag een systeem doen, waarop is die inzet gebaseerd en wie blijft aanspreekbaar op de uitkomst. Daarmee wordt governance geen verzameling abstracte normen, maar een besluitketen die een organisatie kan toetsen en verbeteren.

Die keten begint bij de inventarisatie. Een bedrijf moet niet alleen weten welke externe modellen medewerkers gebruiken, maar ook welke eigen modellen, voorspellende systemen en geautomatiseerde beslisregels in processen actief zijn. Vervolgens is context bepalend. Een assistent die interne kennis helpt samenvatten kent andere risico’s dan een model dat klanten rangschikt, fraude signaleert of een medewerker ondersteunt bij een beslissing met gevolgen voor een individu.

De Nederlandse bank ING heeft publiek uiteengezet dat verantwoord gebruik van AI onderdeel is van haar bredere aanpak voor data, modelrisico en ethiek. In de financiële sector bestaat al langer ervaring met modelvalidatie, interne controle en toezicht op geautomatiseerde besluitvorming. De AI Act maakt die ervaring breder toepasbaar: niet uitsluitend het model moet beoordeeld worden, maar ook de brondata, de procesinrichting, de menselijke interventie en de manier waarop afwijkingen worden teruggekoppeld.

Ook Deutsche Bank heeft publiek principes voor verantwoord AI-gebruik en governance rond AI naar voren gebracht. Voor banken is dat geen los innovatieprogramma, maar verbonden met bestaande verantwoordelijkheden rond compliance, risico en klantbelang. Edgar van Lent ziet daarin een bruikbaar patroon voor andere sectoren. Niet elk bedrijf hoeft een bankachtig controleapparaat te bouwen, maar ieder bedrijf heeft wel een proportionele structuur nodig waarin producteigenaren, proceseigenaren, juridische experts, informatiebeveiliging en interne controle elkaar tijdig vinden.

De fout zit vaak tussen model en werkproces

Projecten stranden volgens Edgar van Lent zelden uitsluitend omdat een model technisch onvoldoende presteert. Veel vaker ontstaat er een kloof tussen de demonstratie en het werkproces. In een proef kan een AI-systeem overtuigende samenvattingen, classificaties of aanbevelingen leveren. Zodra het systeem deel wordt van een klantproces of interne besluitvorming, blijken vragen over bronvermelding, uitzonderingen, autorisaties, bewaartermijnen en herstelacties nog niet beantwoord.

Dat onderscheid is wezenlijk. Een modelkaart, leveranciersverklaring of risicoanalyse kan nuttig zijn, maar vervangt niet de verantwoordelijkheid van de organisatie die AI inzet. Wie mag output overnemen? Wanneer moet een medewerker escaleren? Hoe wordt gecorrigeerd wanneer een bron verouderd is of een uitkomst niet uitlegbaar blijkt? En welke loggegevens zijn nodig om achteraf te reconstrueren wat er is gebeurd? Dit zijn bedrijfsprocesvragen, geen details die pas na een technische pilot kunnen worden toegevoegd.

Edgar van Lent waarschuwt daarom tegen een aanpak waarin governance uitsluitend bij een centrale stafafdeling belandt. Centrale kaders zijn nodig voor classificatie, minimale eisen, leveranciersbeoordeling en rapportage. De dagelijkse controle moet echter in het proces zelf landen. Een klantenserviceteam dat een AI-assistent gebruikt, een HR-afdeling die selectieondersteuning onderzoekt en een onderhoudsorganisatie die voorspellende signalen inzet, hebben elk een eigen set fouten, belangen en escalaties.

Een werkbare aanpak bestaat doorgaans uit vier samenhangende stappen:

  • registreer de toepassing, het doel, de gebruikte gegevens en de verantwoordelijke eigenaar;
  • beoordeel het risico op basis van de feitelijke inzet, niet alleen op basis van de naam van de technologie;
  • leg menselijke controle, uitzonderingsroutes en technische logging vast voordat opschaling plaatsvindt;
  • herbeoordeel de toepassing wanneer model, leverancier, gegevensbron of proces wezenlijk verandert.

Deze werkwijze is ook relevant voor organisaties die vooral generatieve AI inkopen. Onder de AI Act kunnen verplichtingen voor aanbieders en gebruiksorganisaties verschillen, maar een inkopende onderneming kan haar eigen verantwoordelijkheid voor zorgvuldig gebruik niet uitbesteden. Edgar van Lent benadrukt dat contractuele afspraken met leveranciers noodzakelijk zijn, maar pas voldoende worden wanneer zij aansluiten op de interne praktijk: toegangsbeheer, instructies voor medewerkers, toetsing van output en duidelijke grenzen voor gevoelige gegevens.

Bewijsvoering maakt verantwoord gebruik schaalbaar

De belangrijkste omslag is volgens Edgar van Lent dat documentatie niet als rem op innovatie moet worden gezien. Goede documentatie maakt het juist mogelijk om toepassingen sneller te vergelijken, opnieuw te beoordelen en gecontroleerd op te schalen. Wanneer een organisatie vooraf weet welke informatie bij een AI-toepassing nodig is, hoeft zij bij iedere nieuwe pilot niet opnieuw te discussiëren over basisvragen rond eigenaarschap, data en toezicht.

Daarvoor is wel bestuurlijke discipline nodig. Een AI-register dat niet wordt bijgewerkt, een risicoformulier zonder proceseigenaar of een ethische richtlijn zonder toetsmoment levert weinig bescherming op. Edgar van Lent ziet de sterkste governance ontstaan waar directie en lijnmanagement AI niet behandelen als uitsluitend een IT-vraagstuk, maar als een verandering in besluitvorming en werkverantwoordelijkheid.

Vooruitkijkend verwacht Edgar van Lent dat Europese bedrijven die nu investeren in een proportionele, controleerbare besluitketen later sneller kunnen vernieuwen binnen de AI Act. Zijn beoordeling is dat de verordening niet vooral onderscheid maakt tussen ondernemingen die veel of weinig AI gebruiken, maar tussen organisaties die hun inzet kunnen uitleggen en organisaties die pas grip proberen te krijgen wanneer een toepassing al kritiek werk beïnvloedt.