De eerste golf van artificiële intelligentie draaide vooral om indrukwekkende cijfers. AI-modellen werden groter, benchmarks werden hoger en bedrijven pronkten met miljoenen prompts en miljarden verwerkte tokens. Hoe krachtiger het model en hoe groter de schaal, hoe succesvoller een AI-project leek. Maar die manier van kijken verandert snel. Wanneer een AI-systeem een verkeerde beslissing neemt, een burger benadeelt, een krediet ten onrechte weigert of een fout juridisch advies genereert, zal geen enkele toezichthouder, auditor of rechter geïnteresseerd zijn in het aantal tokens dat daarvoor werd verwerkt. De enige vraag die er dan nog toe doet, is verrassend eenvoudig: ‘Kun je aantonen hoe deze beslissing tot stand is gekomen?’ Daarmee verschuift de aandacht van pure AI-prestaties naar iets wat voor veel organisaties veel moeilijker blijkt: aantoonbare controle.
Voor de voorbereidingen van de inhoud en creatie van de visuals wordt (uiteraard) gebruikgemaakt van generatieve AI.
Grote modellen lossen geen grote verantwoordelijkheden op
De AI-sector heeft jarenlang gefocust op intelligentie. Welk model behaalt de hoogste score? Welk systeem schrijft de beste code? Welk model redeneert het meest overtuigend?
Dat zijn belangrijke vragen, maar voor organisaties zijn ze uiteindelijk slechts een deel van het verhaal.
Een taalmodel kan indrukwekkende antwoorden geven, duizenden documenten analyseren of complexe processen automatiseren. Toch zegt dat niets over de manier waarop beslissingen tot stand komen. Wanneer een AI-systeem een fout maakt, is technische intelligentie geen juridische verdediging.
“We gebruikten het krachtigste model” of “er werden miljarden tokens verwerkt” zijn indrukwekkende statistieken, maar ze beantwoorden geen enkele vraag die een auditor werkelijk zal stellen. Integendeel. Hoe groter de autonomie van AI wordt, hoe groter ook de behoefte aan transparantie.
Niet het antwoord, maar het beslissingsproces staat centraal
Stel dat een AI-assistent een subsidieaanvraag afwijst, een sollicitant lager rangschikt of een medisch dossier analyseert. De uiteindelijke beslissing is uiteraard belangrijk. Maar wanneer die beslissing achteraf ter discussie wordt gesteld, verschuift de aandacht vrijwel onmiddellijk naar het volledige proces dat eraan voorafging.
Welke gegevens werden gebruikt? Op basis waarvan kwam het model tot zijn conclusie? Welke instructies kreeg het systeem? Was er menselijke tussenkomst? En vooral: wie droeg uiteindelijk de verantwoordelijkheid?
Dat zijn geen technische vragen meer. Het zijn vragen over controle, verantwoordelijkheid en aantoonbaarheid. Organisaties die daar geen helder antwoord op kunnen geven, zullen het bijzonder moeilijk krijgen om vertrouwen te behouden wanneer een AI-beslissing fout loopt.
AI mag veel kunnen, maar niet alles mogen
Een van de belangrijkste evoluties binnen enterprise AI is de opkomst van zogenaamde execution boundaries of uitvoeringsgrenzen. Het idee is eigenlijk verrassend eenvoudig. Een AI-agent hoeft niet alleen te weten wat hij moet doen. Hij moet ook weten ‘wat hij niet zelfstandig mag doen’.
Mag een AI-agent automatisch een contract goedkeuren? Mag hij een betaling uitvoeren? Mag hij persoonsgegevens verwijderen? Mag hij een vergunning weigeren zonder menselijke tussenkomst?
Voor elk van die vragen moet vooraf een duidelijke grens worden vastgelegd.
Sterke AI-systemen onderscheiden zich daarom steeds minder door hun intelligentie alleen, maar steeds vaker door hun vermogen om op het juiste moment te stoppen en een mens in te schakelen. Juist dát maakt een AI-agent betrouwbaar.
Menselijk toezicht moet zichtbaar zijn
Vrijwel iedere organisatie zegt vandaag dat “de mens altijd de eindbeslissing neemt”. Dat klinkt geruststellend. Maar zodra een auditor langskomt, volgt vrijwel onmiddellijk de volgende vraag: “Waar blijkt dat uit?”
Werd de AI-uitkomst daadwerkelijk gecontroleerd? Wie voerde die controle uit Welke elementen werden beoordeeld? Werd de aanbeveling volledig gevolgd of gedeeltelijk aangepast? En is dat ergens geregistreerd?
Plots blijkt dat menselijk toezicht veel meer is dan een zin in een beleidsdocument. Het moet aantoonbaar zijn. Niet omdat een auditor dat graag ziet, maar omdat achteraf moet kunnen worden vastgesteld dat een mens daadwerkelijk verantwoordelijkheid heeft genomen.
Iedere AI-beslissing heeft een geschiedenis
Steeds vaker duikt daarbij de term decision lineage op. Je kunt het vergelijken met de herkomst van een financieel dossier of een medisch patiëntendossier. Niet alleen het eindresultaat telt, maar ook de volledige weg ernaartoe.
Bij AI betekent dat dat organisaties moeten kunnen reconstrueren:
Welke gegevens werden gebruikt; welk model actief was; welke versie van dat model draaide; welke instructies werden gegeven; welke systemen betrokken waren; wanneer een medewerker ingreep; en hoe de uiteindelijke beslissing tot stand kwam.
Zonder die beslissingsgeschiedenis ontstaat een groot probleem. Niet noodzakelijk omdat de AI fout werkte, maar omdat niemand achteraf nog kan uitleggen waarom het systeem precies deed wat het deed.
De toekomst draait om bewijs
Veel organisaties investeren vandaag vooral in de technische kant van AI. Ze vergelijken modellen, testen copilots, bouwen agents en automatiseren workflows. Dat is noodzakelijk. Maar minstens even belangrijk wordt iets waar veel minder aandacht naartoe gaat: bewijsvoering.
Wanneer een AI-ondersteunde beslissing fout loopt, zal niemand zich afvragen hoeveel GPU’s daarvoor werden gebruikt of hoeveel miljarden tokens door het model zijn verwerkt.
Men zal willen weten wie verantwoordelijk was, welke controles bestonden, waar de grenzen lagen en hoe de uiteindelijke beslissing precies tot stand kwam. Daarmee verandert ook de definitie van een succesvol AI-project. Niet de organisatie met de meeste tokens zal het verschil maken. Wel de organisatie die iedere belangrijke AI-beslissing kan onderbouwen met een transparant, controleerbaar en zorgvuldig gedocumenteerd besluitvormingsproces.