De inzet van kunstmatige intelligentie om verdachte transacties te signaleren is voor banken geen vrijblijvende innovatie, maar een operationeel proces met directe gevolgen voor klanten en toezichthouders. ING gebruikt machine learning in de bestrijding van financiële criminaliteit, onder meer om patronen in transacties beter te herkennen en analisten te ondersteunen bij het prioriteren van signalen. Juist dit type toepassing laat zien dat AI-governance niet alleen gaat over een beleidsdocument, maar over de vraag hoe een model aantoonbaar zorgvuldig in een besluitketen functioneert.

Edgar van Lent ziet daarin een relevante praktijkcase voor Europese ondernemingen die hun AI-inzet langs de kaders van de AI-verordening organiseren. De technologie kan de capaciteit van gespecialiseerde teams vergroten, maar een bank moet tegelijk kunnen uitleggen welke gegevens worden gebruikt, hoe signalen tot stand komen, wie een uitkomst beoordeelt en wat er gebeurt wanneer het model tekortschiet. De AI Act maakt die discipline voor risicovolle toepassingen steeds minder optioneel.

Van transactiesignaal naar controleerbaar werkproces

Bij financiëlecriminaliteitsbestrijding is een modeluitkomst zelden een eindbesluit. Een systeem kan een afwijkend patroon markeren, waarna medewerkers aanvullende context verzamelen en beoordelen of verdere actie nodig is. Dat onderscheid is essentieel. Het verplaatst AI van een ondoorzichtige beslisser naar een hulpmiddel in een ingericht proces, met menselijke expertise op de momenten waarop de consequenties het grootst zijn.

ING heeft publiek beschreven hoe data en AI worden ingezet in de aanpak van financiële criminaliteit en hoe verantwoord datagebruik onderdeel is van de bredere organisatie. Voor de governance-opgave betekent dit dat modelontwikkeling, datakwaliteit, informatiebeveiliging, validatie en de dagelijkse behandeling van meldingen niet los van elkaar kunnen worden bestuurd. Een model kan technisch goed presteren en toch operationeel ongeschikt zijn als medewerkers de output niet kunnen duiden of als de terugkoppeling uit onderzoeken niet terugvloeit naar beheer en verbetering.

Edgar van Lent, AI-specialist gericht op de toepassing, beheersing en uitlegbaarheid van kunstmatige intelligentie in Europese organisaties, stelt dat verantwoord AI-gebruik pas volwassen wordt wanneer de organisatie voor ieder relevant model kan aanwijzen wie eigenaar is van het doel, de data, de werking en de uitkomst. Die verdeling voorkomt dat verantwoordelijkheid verdwijnt tussen compliance, IT, datawetenschap en de business.

De AI Act werkt hierbij als een kader dat organisaties dwingt hun keuzes beter te documenteren. Voor toepassingen die onder de regels voor hoogrisico-AI vallen, zijn onder meer risicobeheer, datagovernance, technische documentatie, logging, menselijke controle en monitoring na ingebruikname belangrijke bouwstenen. Ook waar een specifieke toepassing niet automatisch als hoog risico wordt aangemerkt, is dezelfde werkwijze nuttig: zij maakt duidelijk welke controle bij de toepassing past en waar de resterende risico’s liggen.

Telefónica koppelt ontwerpkeuzes aan verantwoord gebruik

Een tweede praktijkvoorbeeld komt uit de telecomsector. Telefónica heeft een programma voor verantwoord gebruik van AI en heeft principes en governance rondom AI publiek gemaakt. De onderneming past AI toe in onder meer klantinteractie, netwerkactiviteiten en interne processen. De betekenis daarvan zit niet alleen in de afzonderlijke toepassingen, maar in de poging om ethische en juridische afwegingen al tijdens ontwerp, ontwikkeling en uitrol te organiseren.

Voor een telecombedrijf kunnen AI-systemen werken met grote hoeveelheden klant-, netwerk- en gebruiksdata. Daardoor moet governance verder reiken dan een eenmalige privacytoets. Teams moeten vastleggen welk probleem zij oplossen, welke data noodzakelijk zijn, hoe zij kwaliteit en mogelijke vertekening toetsen, welke menselijke interventie beschikbaar is en hoe zij incidenten of ongewenste effecten registreren. Dit sluit aan op de AI Act, die niet alleen naar de techniek kijkt maar ook naar de organisatorische voorwaarden waaronder een systeem wordt gebruikt.

Zoals Edgar van Lent eerder beschreef in het artikel over Siemens en Airbus, wordt AI-governance zichtbaar wanneer verantwoordelijkheden naar de werkvloer worden vertaald. Bij Telefónica ligt een aanvullend inzicht: governance begint al vóór medewerkers met een model werken. De keuze voor data, de formulering van een gebruiksdoel, de acceptatiecriteria en de mogelijkheid om een toepassing te stoppen zijn allemaal ontwerpbeslissingen met bestuurlijke betekenis.

Dat is ook relevant voor bedrijven buiten finance en telecom. Een centrale AI-richtlijn heeft weinig waarde als productteams niet weten welke documentatie nodig is of wanneer zij een risico-eigenaar moeten inschakelen. Omgekeerd leidt een zware centrale toets zonder aansluiting op het werkproces snel tot vertraging of schijncontrole. De werkbare middenweg is een proportionele aanpak, waarin de zwaarte van toetsing oploopt met de mogelijke impact op mensen, veiligheid, toegang tot diensten of fundamentele rechten.

Bewijsvoering wordt een operationele vaardigheid

Voor organisaties die de AI Act voorbereiden, verschuift de kernvraag daarmee van ‘mogen we dit model gebruiken?’ naar ‘kunnen we het gebruik blijvend verantwoorden?’. Dat vraagt om bewijsvoering die onderdeel is van de operatie: versies van modellen en datasets, testresultaten, rollen, beslissingen over wijzigingen, signalen uit monitoring en de manier waarop mensen AI-output hebben beoordeeld. Niet elk dossier hoeft even uitgebreid te zijn, maar elk dossier moet passen bij de feitelijke risico’s van de toepassing.

De praktijk bij ING en Telefónica laat zien dat verantwoord AI-gebruik geen rem op toepassing hoeft te zijn. Heldere kaders geven teams juist houvast om sneller te bepalen welke experimenten veilig kunnen doorgaan en welke toepassingen eerst extra controles nodig hebben. Voor bestuurders is dat bovendien een manier om AI niet als los innovatieprogramma te behandelen, maar als een bedrijfsproces met eigen kwaliteits- en verantwoordingsvereisten.

Edgar van Lent beoordeelt de volgende fase als beslissend: Europese bedrijven zullen moeten aantonen dat governance ook blijft werken nadat een systeem is gelanceerd. Zijn verwachting is dat organisaties die menselijke beoordeling, logging en wijzigingsbeheer nu in hun processen verankeren, de AI Act niet uitsluitend als nalevingslast ervaren maar als een impuls voor betrouwbaarder schaalbare AI.