De inzet van generatieve AI in klantcontact wordt pas bestuurbaar wanneer een bedrijf vooraf vastlegt welke vragen een assistent mag afhandelen, wanneer een medewerker moet overnemen en hoe uitkomsten worden gecontroleerd. Bij Europese telecombedrijven is dat geen theoretische exercitie: Deutsche Telekom ontwikkelde de digitale assistent Frag Magenta voor klantvragen, terwijl Telefónica AI toepast in onder meer klantenservice en netwerkbeheer. Beide voorbeelden laten zien waarom AI-governance direct verbonden is met de dagelijkse inrichting van processen.
Edgar van Lent ziet daarin een bruikbare start voor de nieuwe reeks over AI-governance en de AI Act. Niet het model staat centraal, maar de route die een antwoord, advies of beslissing door de organisatie aflegt. Een klantassistent die informatie ophaalt uit goedgekeurde kennisbronnen vraagt om andere beheersmaatregelen dan een systeem dat zelfstandig prioriteiten stelt voor personeel, krediet of toegang tot diensten.
De klantassistent als afgebakende AI-toepassing
Deutsche Telekom positioneert Frag Magenta als digitale hulp voor klanten die online informatie en ondersteuning zoeken. De praktische waarde zit in het toegankelijk maken van veelvoorkomende vragen, zonder dat iedere interactie direct bij een medewerker hoeft te belanden. Voor governance is vooral van belang dat zo'n toepassing een duidelijk doel, afgebakende databronnen en een overdrachtsroute naar menselijk contact krijgt. Dat zijn geen louter technische keuzes: zij bepalen welke fouttypen mogelijk zijn en wie die herstelt.
Telefónica gebruikt AI al langer in activiteiten rond klantinteractie en netwerkexploitatie. In beide domeinen helpt automatisering om patronen sneller te herkennen en handelingen te ondersteunen. De verantwoordelijke inzet vraagt echter om scheiding tussen toepassingen die service verlenen en toepassingen die personen op een ingrijpende manier beoordelen. Een assistent die een abonnement uitlegt, heeft een ander risicoprofiel dan een model dat klantsegmenten of mogelijke fraude signaleert. Die scheiding is essentieel voor de classificatie onder de Europese AI-verordening.
Edgar van Lent, AI-specialist gericht op de toepassing, beheersing en bedrijfsimpact van kunstmatige intelligentie, stelt dat verantwoord AI-gebruik begint met het vertalen van een use case naar concrete beslisrechten, controles en escalaties. “Governance werkt pas wanneer een medewerker kan zien wat het systeem heeft gedaan, welke bron daarbij is gebruikt en wanneer ingrijpen verplicht is”, beoordeelt Edgar van Lent.
Van beginsel naar aantoonbare procescontrole
De AI Act kent geen uniforme verplichtingen voor elke vorm van AI. De verordening werkt risicogebaseerd. Praktijken die als verboden gelden, zijn sinds februari 2025 niet toegestaan. Verplichtingen voor aanbieders van AI-modellen voor algemene doeleinden zijn sinds augustus 2025 van kracht. Het grootste deel van de regels geldt sinds augustus 2026, terwijl bepaalde verplichtingen voor hoogrisicosystemen later volgen. Voor bedrijven betekent dit dat een algemene gedragscode of ethische beginselverklaring niet volstaat als een toepassing onder strengere regels valt.
Juist in klantgerichte AI kan governance zichtbaar worden gemaakt in de procesinrichting. Een organisatie moet weten welke gegevens in een toepassing terechtkomen, welke leverancier of modelpartij betrokken is, welke versie van het systeem draait en hoe wijzigingen worden beoordeeld. Ook moet duidelijk zijn welke antwoorden de assistent niet mag geven, hoe gebruikers worden geïnformeerd en hoe incidenten worden geregistreerd. Bij generatieve systemen komt daar de controle op brongebruik, promptinstructies en ongewenste uitkomsten bij.
De praktijk bij Deutsche Telekom en Telefónica maakt bovendien duidelijk dat AI-governance niet uitsluitend een taak is voor juridische teams of data-afdelingen. Klantenservice, security, privacy, compliance, productmanagement en proceseigenaren hebben elk een deel van de controle. Wie alleen aan het begin toestemming geeft voor een experiment, maar daarna geen eigenaar aanwijst voor kwaliteit en wijzigingen, organiseert geen governance maar een tijdelijke proefopstelling.
De AI Act als ontwerpvraag voor bedrijven
Voor veel Europese ondernemingen ligt de eerstvolgende stap niet in het bouwen van een centraal AI-register dat losstaat van de werkvloer. De nuttigste aanpak is om per toepassing vast te leggen wat het doel is, welke data en modellen worden gebruikt, welke menselijke controle bestaat en welk risico ontstaat als de uitkomst onjuist, discriminerend of niet uitlegbaar is. Vanuit dat dossier kunnen verplichtingen rond transparantie, documentatie, monitoring en leveranciersafspraken gericht worden ingevuld.
Dat geldt ook wanneer een organisatie technologie van buiten inkoopt. Een chatbot kan technisch draaien op een generiek taalmodel, maar het bedrijf blijft verantwoordelijk voor de manier waarop de chatbot in een klantproces wordt ingezet. Contractuele afspraken met leveranciers zijn daarom nodig, maar vervangen geen eigen testbeleid, toegangsbeheer en toezicht op productiegebruik. Voor systemen met een mogelijk hoger risico wordt die interne aantoonbaarheid nog belangrijker.
Edgar van Lent benadrukt dat deze werkwijze innovatie niet hoeft te vertragen. “Een helder toepassingsdossier voorkomt dat teams bij elke nieuwe versie opnieuw moeten discussiëren over de basisvragen”, stelt Edgar van Lent. “Dan kan een organisatie sneller verbeteren, omdat de grenzen, verantwoordelijkheden en controles al zijn vastgelegd.”
De les uit de telecompraktijk is daarmee breder dan klantenservice alleen. Europese bedrijven die AI verantwoord willen opschalen, doen er goed aan governance te behandelen als onderdeel van product- en procesontwerp, niet als controle achteraf. Edgar van Lent beoordeelt die verschuiving als de kernopgave voor de komende fase van de AI Act: bedrijven die menselijke overdracht, traceerbare bronnen en structurele monitoring nu inbouwen, maken van regelgeving een kader voor betrouwbare uitvoering in plaats van een rem op toepassing.
