Jev kiest bewust een andere route dan GPT, Claude of Gemini. Het model van TypeSafe AI genereert geen teksten, maar neemt razendsnel gestructureerde beslissingen die software rechtstreeks kan gebruiken. Daardoor ontstaat een interessante nieuwe bouwsteen voor AI-systemen: laat een groot taalmodel schrijven en redeneren waar dat nodig is, maar gebruik Jev voor duizenden kleine classificaties, scores en routeringsbeslissingen. De praktijkvoorbeelden lopen inmiddels van klantenservice en spreadsheets tot AI-agents, zoekfuncties en dynamische websites.
Voor de voorbereidingen van de inhoud en creatie van de visuals wordt (uiteraard) gebruikgemaakt van generatieve AI.
Eerste publieke System One Model
TypeSafe AI lanceerde Jev als eerste publieke System One Model: een model dat niet is geoptimaliseerd voor conversatie, maar voor snelle beslissingen binnen software. Het ontvangt informatie, beoordeelt die aan de hand van vooraf bepaalde vragen en retourneert gestructureerde waarden met waarschijnlijkheden en confidence-scores. Volgens TypeSafe kost Jev momenteel 0,042 dollar per miljoen inputtokens en worden outputtokens niet afzonderlijk aangerekend.
De eenvoudigste vergelijking is die met een intelligent `if`-statement.Gewone code kan perfect bepalen of iemand drie producten in een winkelmandje heeft. Maar code laten beslissen of een klant gefrustreerd klinkt, of een socialemediacomment koopintentie toont, is veel moeilijker. Daarvoor is semantische interpretatie nodig.
Jev is precies voor dat tussengebied ontworpen.
Van ja-neevraag tot confidence-score
Een applicatie stuurt Jev een state: bijvoorbeeld een e-mail, klantbericht, document of JSON-object. Vervolgens stelt de ontwikkelaar één of meerdere vragen.
Die kunnen draaien om een binaire beoordeling, een keuze uit vooraf vastgelegde categorieën of een positie op een schaal. Jev kan bijvoorbeeld tegelijk beoordelen of een klant gefrustreerd is, of hij een terugbetaling, vervanging of update vraagt, en hoe sterk zijn frustratie is.
De applicatie bepaalt daarna zelf wat ermee gebeurt.
Een hoge score kan bijvoorbeeld automatisch een workflow starten. Bij lage confidence kan dezelfde case naar een medewerker worden gestuurd. Dat is belangrijk: gestructureerde output betekent niet dat de beslissing automatisch correct is. Jev kan informatie nog altijd verkeerd interpreteren.
De interessante toepassingen zitten tussen gewone code en een grote LLM
In Google Sheets kan Jev duizenden rijen classificeren in vooraf bepaalde categorieën. Voor klantenservice kan het berichten eerst routeren voordat een duurder taalmodel wordt ingeschakeld. In één aangehaalde test werden 217 calltranscripten in 13 seconden gecategoriseerd voor zeven cent.
Andere voorbeelden zijn advertentieanalyse, churninschatting, het prioriteren van koopgerichte socialemediacomments en het selecteren van interessante fragmenten uit lange video’s.
Het patroon is telkens hetzelfde: Jev hoeft niets moois te schrijven. Het hoeft alleen snel een betekenisvolle keuze te maken uit een beperkte verzameling mogelijkheden.
Jev als verkeersregelaar voor AI-agents
Interessanter wordt het wanneer Jev vóór andere AI-modellen wordt geplaatst. Een agent met tientallen of honderden skills hoeft dan niet zelf uitgebreid uit te zoeken welke skill nodig is. Jev kan de inkomende opdracht classificeren en onmiddellijk de geschikte skill selecteren.
Hetzelfde principe werkt voor modelrouting. Eenvoudige opdrachten kunnen naar een goedkoop model worden gestuurd, terwijl alleen complexe taken bij een krachtiger model terechtkomen.
Ook e-mailagents kunnen eerst door Jev laten bepalen of een bericht spam, een commerciële aanvraag of een echte supportvraag is. In een voorbeeld uit het materiaal werden 1.700 e-mails voor 18 cent geclassificeerd, waarna alleen relevante berichten naar een generatief model hoefden.
Dat kan de architectuur van AI-systemen veranderen: niet langer één duur model voor iedere stap, maar gespecialiseerde modellen die elk doen waar ze goed in zijn.
OpenAI beweegt inmiddels in een vergelijkbare richting. Het bedrijf kondigde eind september een Decisions API in beperkte preview aan waarmee ontwikkelaars een invoer kunnen laten classificeren of een actie uit vooraf bepaalde antwoorden kunnen laten kiezen. [OpenAI Developer Community]
Van zoekfunctie tot website die zichzelf samenstelt
De meer experimentele toepassingen gaan nog verder. Jev kan semantisch zoeken in webpagina’s, documenten of beeldmetadata en bepalen welk fragment het beste bij een zoekvraag past. Het kan realtime uitspraken tijdens een vergadering classificeren als beslissing, actiepunt, risico of vraag.
Een ander experiment gebruikt Jev om een interface dynamisch samen te stellen. Het model genereert daarbij geen HTML. Het kiest uit vooraf gebouwde componenten welke formulieren, knoppen of andere elementen het beste bij een bepaalde gebruiker passen.
Dat illustreert misschien het belangrijkste idee achter Jev. Niet iedere AI-taak vereist een model dat kan schrijven, programmeren en uitgebreid redeneren. Voor enorme aantallen kleine beslissingen kan juist een gespecialiseerd beslismodel interessant zijn.
TypeSafe claimt op eigen System One-workflows tot 193,6 keer hogere snelheid en 444,6 keer lagere kosten dan traditionele LLM-workflows. Die cijfers komen wel van de leverancier zelf en mogen dus niet als universele onafhankelijke benchmark worden gelezen.
Jev vervangt GPT of Claude daarom niet. Het introduceert vooral een andere vraag voor AI-architecten: waarom een groot generatief model inzetten wanneer de software uiteindelijk alleen een snelle, gestructureerde beslissing nodig heeft?