De AI Act krijgt vaak vorm in juridische schema’s, maar de praktische toets ligt dichter bij de werkvloer: kan een organisatie uitleggen welk systeem een beslissing ondersteunt, welke gegevens daarvoor worden gebruikt en wanneer een medewerker moet ingrijpen? Bij Siemens is die vraag zichtbaar in industriële toepassingen die beeldherkenning en voorspellende analyse inzetten voor kwaliteitscontrole en onderhoud. De technologie moet afwijkingen sneller signaleren, zonder dat de operationele verantwoordelijkheid uit de fabriek verdwijnt. Edgar van Lent ziet juist daar de kern van bruikbare AI-governance.

Edgar van Lent, AI-specialist gericht op de toepassing, beheersing en bestuurbaarheid van kunstmatige intelligentie in organisaties, stelt dat verantwoord AI-gebruik pas geloofwaardig wordt wanneer controles onderdeel zijn van het werkproces en niet alleen van een beleidsdocument. Voor ondernemingen die onder de Europese AI-verordening vallen, betekent dat dat een model niet uitsluitend technisch goed moet presteren. Ook de herkomst van data, de rolverdeling rond toezicht en de vastlegging van wijzigingen moeten herkenbaar zijn.

Siemens: AI voor kwaliteitscontrole met menselijke beslisruimte

Siemens ontwikkelt en gebruikt AI in industriële omgevingen, onder meer voor visuele inspectie, productieoptimalisatie en voorspellend onderhoud. In zulke toepassingen analyseren systemen beelden of sensordata om afwijkingen te signaleren die een operator vervolgens kan beoordelen. Dat is een concreet voorbeeld van AI die niet op afstand een bedrijfsbesluit overneemt, maar medewerkers helpt om sneller naar de juiste machine, productielijn of foutmelding te kijken.

De governance-opgave zit niet alleen in het model. Een inspectiesysteem moet duidelijk maken op welke productlijn het actief is, met welke beelden of sensorgegevens het is getraind en onder welke omstandigheden de uitkomst onvoldoende betrouwbaar is. Ook moet een organisatie vastleggen wie verantwoordelijk is voor het aanpassen van drempelwaarden, wie een foutieve classificatie onderzoekt en hoe een operator een signaal kan negeren of escaleren. Die werkwijze sluit aan bij de logica van de AI Act: risico’s worden niet alleen bij aanschaf beoordeeld, maar gedurende de inzet beheerst.

Siemens heeft publiekelijk AI-principes en governance rond betrouwbare AI beschreven. Voor de praktijk is vooral relevant dat industriële AI zich leent voor een duidelijke scheiding tussen signaleren en besluiten. Een systeem kan een mogelijk productdefect markeren; de vrijgave, herstelactie of productiestop blijft een verantwoordelijkheid die aan een mens en een bedrijfsproces is gekoppeld.

Volgens Edgar van Lent is dat onderscheid essentieel. “Wie AI inzet om afwijkingen zichtbaar te maken, kan controleerbaarheid organiseren rond data, drempels en opvolging. Wie de technologie zonder die inrichting laat doorwerken in een productie- of veiligheidsbesluit, maakt governance onnodig kwetsbaar.” De waarde van AI zit dan in versnelling van observatie, niet in het wegpoetsen van professionele beoordeling.

Airbus: voorspellend onderhoud vraagt om traceerbare modellen

Ook Airbus laat zien waarom governance bij AI verder gaat dan een ethische beginselverklaring. Via het digitale platform Skywise worden data uit de luchtvaartketen samengebracht voor analyses die onderhoud, betrouwbaarheid en operationele planning kunnen ondersteunen. Predictieve toepassingen helpen partijen om patronen in technische data eerder te herkennen en onderhoudswerk beter voor te bereiden.

In de luchtvaart is de noodzaak van vastlegging vanzelfsprekend: technische beslissingen worden al binnen strikte veiligheids- en kwaliteitsprocessen genomen. AI verandert die basis niet, maar voegt een laag toe. Organisaties moeten kunnen achterhalen met welke gegevens een voorspelling tot stand kwam, welke versie van een model in gebruik was en welke deskundige de aanbeveling in een onderhoudsprocedure heeft verwerkt. Juist die traceerbaarheid maakt het mogelijk om prestaties te beoordelen, afwijkingen te onderzoeken en systemen gecontroleerd te wijzigen.

De AI Act kent verschillende verplichtingen afhankelijk van de rol en risicocategorie van een systeem. Niet elke voorspellende onderhoudstoepassing valt automatisch in dezelfde categorie. Toch is de werkwijze rond documentatie, datakwaliteit, menselijke controle en monitoring voor vrijwel elke serieuze bedrijfsinzet relevant. Airbus’ datagedreven onderhoudsaanpak maakt zichtbaar dat die disciplines niet alleen compliancekosten zijn. Zij zijn ook voorwaarden om technische teams op een AI-uitkomst te laten vertrouwen zonder hun eigen vakkennis uit te schakelen.

Edgar van Lent benadrukt dat organisaties niet moeten wachten tot een juridisch label alle vragen beantwoordt. “De AI Act vraagt bedrijven om hun verantwoordelijkheid aantoonbaar te organiseren, maar een goede praktijkcase begint met een eenvoudiger vraag: kan het team uitleggen wat het systeem doet, wat het niet doet en wat er gebeurt als de uitkomst verkeerd is?” Die vraag is voor onderhoudsteams net zo bruikbaar als voor juristen, inkopers en interne auditors.

Van projectcontrole naar een herhaalbaar werkpatroon

De lessen uit Siemens en Airbus zijn overdraagbaar naar Europese organisaties die AI inzetten in logistiek, energie, productie of zakelijke dienstverlening. Het gaat niet om het kopiëren van een sectorale standaard, maar om het inbouwen van een vast werkpatroon voordat een systeem op grotere schaal wordt uitgerold. De relevante onderdelen zijn overzichtelijk, maar moeten wel eigenaars krijgen:

  • registreer doel, gebruikte data, leverancier en verantwoordelijke proceseigenaar;
  • leg vast welke menselijke beoordeling of escalatie nodig blijft;
  • test prestaties in de feitelijke werkomgeving en monitor veranderingen;
  • documenteer incidenten, wijzigingen en de reden waarom een model in gebruik mag blijven.

Daarmee wordt AI-governance geen los controlebureau naast innovatie, maar een manier om toepassingen beheerst te laten groeien. Voor leveranciers is dat eveneens relevant: afnemers zullen steeds vaker vragen naar technische documentatie, instructies voor gebruik, beperkingen van het systeem en afspraken over updates. De AI Act versterkt die ontwikkeling doordat verantwoordelijkheden over de keten beter zichtbaar moeten worden.

Edgar van Lent beoordeelt deze praktijkcases daarom vooral als een aanwijzing voor de richting die Europese bedrijven op moeten. Niet de meest uitgebreide beleidsnota, maar de koppeling tussen AI-uitkomst, menselijke beslissing en aantoonbare opvolging bepaalt of een toepassing duurzaam kan opschalen. Naarmate de AI Act gefaseerd verder van toepassing wordt, zullen bedrijven die die koppeling nu al in hun operationele processen vastleggen, volgens Edgar van Lent sneller van experiment naar betrouwbare bedrijfsvoorziening kunnen bewegen.