Slimmer coderen met AI zonder dat de rekening ontspoort
AI-codingtools worden razendsnel beter. Ontwikkelaars laten modellen code schrijven, bugs oplossen, tests uitvoeren en steeds vaker complete programmeertaken zelfstandig afhandelen. Maar met die groei ontstaat een nieuw probleem: de kosten kunnen bijzonder snel oplopen. Databricks onderzocht hoe bedrijven AI-coding op grote schaal betaalbaar kunnen houden. Het bedrijf baseert zich daarbij niet alleen op de eigen ervaringen, maar ook op gesprekken met digitale spelers zoals Stripe, Coinbase, Uber en Ramp. De conclusie is opvallend positief: explosief stijgende AI-kosten zijn geen onvermijdelijk gevolg van betere codingagents. Ze zijn grotendeels een engineering- en governanceprobleem dat organisaties zelf kunnen aanpakken.
Het krachtigste model is lang niet altijd de beste keuze
Een voor de hand liggende manier om kosten te verminderen is goedkopere modellen gebruiken. Databricks kijkt daarbij nadrukkelijk ook naar open modellen.
De moeilijkheid is bepalen wanneer zo’n goedkoper model goed genoeg is. Publieke benchmarks bieden volgens Databricks daarvoor onvoldoende houvast. Een model kan uitstekend scoren op een algemene codingbenchmark, maar veel minder goed presteren binnen de specifieke codebase, programmeertalen en ontwikkelpraktijken van een onderneming.
Bedrijven hebben daarom eigen evaluaties nodig. Neem echte programmeertaken uit de organisatie, laat verschillende modellen dezelfde opdrachten uitvoeren en vergelijk kwaliteit, snelheid en kosten. Daaruit ontstaat een soort ‘efficiëntiegrens’: de modellen die voor een bepaald niveau van intelligentie de beste verhouding tussen prestaties en prijs bieden.
Voor het schrijven van een eenvoudige test is misschien een goedkoop model voldoende. Voor een complexe architectuurwijziging kan een duur frontiermodel wel verantwoord zijn. Het doel is dus niet om altijd het goedkoopste model te gebruiken, maar om ‘niet meer intelligentie te kopen dan de taak nodig heeft’.
Laat software bepalen welk model het werk krijgt
Dat brengt Databricks bij een tweede belangrijke techniek: routing. Wanneer een organisatie meerdere modellen beschikbaar heeft, hoeft een ontwikkelaar niet telkens zelf te bepalen welk model een opdracht krijgt. Dat proces kan automatisch verlopen.
Databricks onderscheidt drie vormen.
Bij request-level routing wordt ieder verzoek afzonderlijk beoordeeld. Eenvoudige vragen gaan naar een goedkoper model, complexe problemen naar een krachtiger model.
Bij task-level routing wordt een grotere opdracht opgesplitst. Verschillende onderdelen kunnen vervolgens door verschillende modellen worden uitgevoerd. Een goedkoper model kan bijvoorbeeld documentatie of standaardcode produceren, terwijl een geavanceerder model de moeilijkste programmeerlogica behandelt.
De derde vorm werkt met escalatie en delegatie. Een goedkoop model krijgt eerst de kans om een probleem op te lossen. Alleen wanneer dat niet lukt of wanneer extra intelligentie nodig blijkt, wordt de opdracht doorgestuurd naar een krachtiger en duurder model.
Eigenlijk ontstaat daarmee een digitale organisatiestructuur. Je laat routinewerk niet uitvoeren door je duurste specialist en schakelt die specialist pas in wanneer zijn expertise werkelijk nodig is.
Harde budgetlimieten kunnen productiviteit vernietigen
Een andere reflex bij stijgende AI-kosten is het invoeren van harde gebruikslimieten. Een ontwikkelaar bereikt een bepaald bedrag of aantal tokens en de toegang wordt afgesloten.
Databricks adviseert een subtielere aanpak. Organisaties kunnen beter werken met zichtbaarheid, tripwires en progressieve frictie.
Wanneer het verbruik begint op te lopen, kan eerst een waarschuwing verschijnen. Bij hoger gebruik kan extra goedkeuring nodig zijn. Vervolgens kan het systeem automatisch overschakelen naar goedkopere modellen. Pas wanneer bepaalde grenzen echt worden overschreden, wordt gebruik tijdelijk beperkt of geschorst.
Zo ontstaat een geleidelijke kostencontrole in plaats van een abrupte blokkering. Dat is belangrijk omdat hoog AI-verbruik niet noodzakelijk verspilling betekent. Een ontwikkelaar die veel tokens gebruikt maar daarmee dagen programmeerwerk bespaart, kan economisch bijzonder rendabel zijn.
Bekijk daarom niet alleen ‘hoeveel AI kost’, maar vooral ‘welke waarde die uitgave oplevert’.
Minder context kan verrassend veel geld besparen
Een vierde kostenpost zit verborgen in de manier waarop codingagents werken. Een agent krijgt tijdens een programmeertaak voortdurend context mee: broncode, instructies, documentatie, eerdere antwoorden, logs en resultaten van uitgevoerde acties. Bij langere sessies kan die context enorm worden. En context kost tokens.
Databricks wijst daarom op het belang van efficiënter contextbeheer. Actieve context kan bijvoorbeeld vaker worden gecomprimeerd, zodat het model niet voortdurend een volledige geschiedenis opnieuw hoeft te verwerken.
Ook de gekozen coding harness - de omgeving die het model van context voorziet en zijn acties organiseert - kan een aanzienlijk verschil maken. Sommige systemen gebruiken veel minder tokens om hetzelfde resultaat te bereiken.
Op kleine schaal lijken dergelijke optimalisaties misschien onbelangrijk. Wanneer duizenden ontwikkelaars dagelijks tientallen AI-opdrachten uitvoeren, worden kleine verschillen echter grote bedragen.
Meer tokens betekent niet automatisch betere code
Daarachter zit een bredere les. Tijdens de eerste AI-golf werd meer rekenkracht bijna automatisch geassocieerd met betere resultaten. Een krachtiger model, meer context en langer redeneren zouden uiteindelijk betere software opleveren.
Bij AI-coding blijkt die redenering te eenvoudig. Een agent die een slecht geformuleerde opdracht krijgt, kan ook tien keer langer over het verkeerde probleem nadenken. Een inefficiënte workflow kan honderden extra modelaanroepen veroorzaken zonder dat het eindresultaat merkbaar verbetert.
Kostenoptimalisatie betekent daarom niet simpelweg minder AI gebruiken. Het betekent ‘AI efficiënter organiseren’.
Van kostenbeheer naar AI-governance
Daarmee wordt AI-coding uiteindelijk ook een governancevraagstuk. Organisaties moeten bepalen welke modellen voor welke soorten opdrachten mogen worden ingezet, wanneer escalatie naar een duur frontiermodel gerechtvaardigd is en hoeveel autonomie agents krijgen.
Ook evaluaties worden belangrijk. Zonder eigen metingen weet een organisatie immers niet of een goedkoper model werkelijk voldoende kwaliteit levert. Kosten, kwaliteit en governance raken daardoor steeds nauwer met elkaar verweven.
Een volwassen AI-codingomgeving kan bijvoorbeeld continu meten hoeveel een taak kost, welk model werd gebruikt, hoeveel pogingen nodig waren en of het resultaat aan vooraf bepaalde kwaliteitscriteria voldeed. Daarmee ontstaat bijna een nieuwe vorm van AI FinOps: niet alleen cloudinfrastructuur optimaliseren, maar ook het gebruik van intelligentie zelf.
Modelvrijheid wordt een strategisch voordeel
De aanpak van Databricks bevat nog een belangrijke boodschap: voorkom dat de volledige AI-ontwikkelomgeving afhankelijk wordt van één model.
De beste prijs-prestatieverhouding van vandaag hoeft morgen niet dezelfde te zijn. Nieuwe open modellen verschijnen, bestaande modellen worden goedkoper en gespecialiseerde modellen kunnen bepaalde taken efficiënter uitvoeren dan algemene frontiermodellen.
Organisaties die gemakkelijk tussen modellen kunnen schakelen, kunnen voortdurend op die veranderingen inspelen. Modelagnostische architectuur wordt daardoor niet alleen een technische keuze. Het kan rechtstreeks invloed hebben op de kostenstructuur van AI.