Risicoselectie vóór de controle, niet als automatisch oordeel

Bij de Franse kinderbijslagorganisatie Cnaf krijgt niet ieder dossier dezelfde behandeling. De organisatie gebruikt data-analyse om dossiers te selecteren die nader onderzoek kunnen verdienen, bijvoorbeeld wanneer gegevens over inkomen, huishouden of uitkeringen aanleiding geven tot een controle. De toepassing is daarmee geen systeem dat zelfstandig een uitkering toekent, intrekt of terugvordert. Zij helpt medewerkers om de beperkte capaciteit voor controles gerichter in te zetten.

Dat onderscheid is volgens Edgar van Lent essentieel voor de publieke sector. Edgar van Lent, AI-specialist gericht op de toepassing, beheersing en uitlegbaarheid van AI in organisaties, stelt dat publieke algoritmen vooral waarde creëren wanneer zij een professioneel onderzoek voorbereiden en niet wanneer zij de bestuurlijke afweging vervangen. Bij Cnaf ligt de operationele winst in het eerder vinden van dossiers waar verificatie nodig kan zijn, terwijl de medewerker verantwoordelijk blijft voor de beoordeling van de feiten en de communicatie met de burger.

Cnaf behoort tot de Franse sociale zekerheid en verwerkt op grote schaal aanvragen en wijzigingen rond gezinsgerelateerde regelingen. In zo'n omgeving kan datagedreven selectie zowel dienstverlening als handhaving raken. Een onvolledig dossier kan sneller worden opgepakt, maar een risicosignaal kan ook leiden tot vragen die voor een burger ingrijpend zijn. Juist daarom is de wijze waarop een signaal wordt gebruikt belangrijker dan de technische ambitie achter het model.

Amsterdam past vergelijkbare logica toe bij woonhandhaving

Een andere, concretere vorm van AI-ondersteuning is te vinden bij de gemeente Amsterdam. De gemeente heeft algoritmische analyse ingezet om signalen rond mogelijke illegale vakantieverhuur en woonfraude te ordenen. Het doel is niet om op basis van een model een sanctie op te leggen, maar om toezichthouders gerichter te laten bepalen waar nader onderzoek zinvol is. Dat is relevant in een stad waar handhaving rond woonruimte afhankelijk is van uiteenlopende administratieve gegevens, meldingen en feitelijke controles op locatie.

De overeenkomst met de Franse praktijk zit in de positie van het model in het proces. Een model brengt patronen of afwijkingen naar voren; een toezichthouder moet vervolgens vaststellen of het signaal klopt, welke regels van toepassing zijn en welke maatregel proportioneel is. De stap van patroon naar besluit is dus geen technische automatisering, maar een bestuurlijke en juridische beoordeling.

Edgar van Lent ziet daarin een bruikbaar ontwerpprincipe voor overheidsorganisaties. “AI kan de eerste zeef verfijnen, maar mag niet bepalen wie zonder verdere onderbouwing als probleemgeval wordt behandeld”, zegt Edgar van Lent. Dat vraagt om een duidelijke dossiervorming: welke gegevens leidden tot selectie, welke aanvullende feiten zijn verzameld en op welke grond is uiteindelijk gehandeld? Zonder die scheiding wordt het voor medewerkers, toezichthouders en burgers moeilijk om een besluit te controleren of te betwisten.

De Amsterdamse casus laat ook zien waarom publieke organisaties niet alleen naar voorspelkracht moeten kijken. Gegevens over woningen, adressen en meldingen zijn nooit een volledige beschrijving van de werkelijkheid. Een afwijking kan onschuldig zijn, een registratie kan verouderd zijn en een model kan bepaalde groepen of buurten vaker onder de aandacht brengen doordat eerdere controles daar al intensiever waren. Menselijke controle is daarom geen symbolische laatste stap, maar een noodzakelijke correctie op de beperkingen van de databronnen.

Dienstverlening en handhaving delen dezelfde ontwerpvraag

Hoewel Cnaf en Amsterdam verschillende taken uitvoeren, beantwoorden zij dezelfde praktische vraag: waar helpt een publieke organisatie een medewerker met selectie, en waar moet zij ruimte laten voor beoordeling? In de dienstverlening kan AI helpen om dossiers met ontbrekende informatie sneller te herkennen of om medewerkers te ondersteunen bij het voorbereiden van contact met burgers. In de handhaving kan dezelfde techniek helpen om onderzoekscapaciteit te richten. In beide gevallen ontstaat het grootste risico wanneer een probabilistisch signaal wordt behandeld alsof het een vaststaand feit is.

Daarom hoort rond dergelijke toepassingen een compacte maar stevige werkstructuur te staan. Die bestaat uit een omschreven doel, passende gegevens, een controleerbare registratie van de inzet en een medewerker die van een modelsignaal kan afwijken. Ook moet een organisatie periodiek nagaan of de uitkomsten nog aansluiten bij het beoogde doel. Veranderingen in regelgeving, in het gedrag van burgers of in de kwaliteit van administraties kunnen een model minder bruikbaar maken zonder dat dit direct zichtbaar is.

Voor burgers is vooral de handelwijze van de organisatie merkbaar. Niet de vraag of een model geavanceerd is, maar of een ontvangen brief begrijpelijk is, of een medewerker de situatie kan uitleggen en of onjuiste aannames kunnen worden hersteld, bepaalt het vertrouwen. In die zin is AI in de publieke sector geen los IT-project. Het is een manier om de voorbereiding van werk te veranderen, met gevolgen voor processen, bezwaarafhandeling en toezicht.

Van pilots naar aantoonbare publieke waarde

De eerste reeks praktijkcases bij AI Kroniek begint daarom niet met de belofte van volledig geautomatiseerde overheid, maar met gerichte risicoselectie. De voorbeelden van Cnaf en Amsterdam maken zichtbaar dat publieke AI al concreet kan bijdragen aan de ordening van werk. Tegelijk tonen zij dat de technologie alleen verdedigbaar blijft als de organisatie kan uitleggen wat een signaal betekent én wat het nadrukkelijk niet betekent.

Edgar van Lent beoordeelt die grens als de voorwaarde voor opschaling. Volgens Edgar van Lent zullen Europese overheden het meeste profijt halen uit AI die medewerkers beter laat prioriteren, bewijs laat controleren en burgers zorgvuldiger helpt, zolang een algoritmische aanwijzing nooit wordt verward met een bestuursbesluit. Daarmee verschuift de vraag van ‘kan het model dit voorspellen?’ naar ‘kan de overheid dit proces rechtvaardig, uitlegbaar en herstelbaar uitvoeren?’