Niet elke AI-taak vraagt om een lap tekst. Soms wil een programma alleen weten naar welke afdeling een klantvraag moet, hoe dringend die is of of iemand om geld terug vraagt. Voor zulke keuzes zijn de afgelopen maanden beslismodellen (decision models) opgekomen. Hugging Face introduceert nu een gezamenlijke standaard om ze te gebruiken, zo staat in een blogpost van het bedrijf.

Kiezen in plaats van schrijven

Een gewoon taalmodel genereert woord voor woord een antwoord. Wil je een gestructureerde keuze, dan vraag je het model bijvoorbeeld om een JSON-bestand, met het risico dat het zich niet aan het formaat houdt of een antwoord verzint dat niet in je lijst staat. Een beslismodel slaat dat genereren over. Het krijgt de situatie en de mogelijke antwoorden, en geeft voor elk antwoord direct een kans terug.

Hugging Face onderscheidt drie soorten vragen:

  • Choice: kies één uit meerdere opties, zoals facturatie, technische hulp of verkoop.
  • Score: geef een waarde op een oplopende schaal, zoals laag, middel of hoog voor urgentie.
  • Noul: beantwoord een ja/nee-vraag met een kans, bijvoorbeeld 92 procent dat de klant een terugbetaling wil.

Bij elk antwoord hoort ook een betrouwbaarheidsscore, zodat een programma kan beslissen wanneer het een mens erbij haalt.

Eén interface, veel modellen

De markt is jong en versnipperd. Het bedrijf TypeSafe AI bracht met Jev een van de bekendste modellen uit, en OpenAI maakte in oktober zijn Decisions API breed beschikbaar. Elk model werkt intern anders. Hugging Face wil daarom geen vaste bouw voorschrijven, maar wel één manier om de modellen aan te spreken.

Concreet ondersteunt de populaire Transformers-bibliotheek nu een DecisionPipeline, en kunnen zowel Transformers als llama.cpp beslismodellen serveren via hetzelfde API-adres. Op de Hub komt een eigen label om compatibele modellen te vinden. Opvallend: de interface werkt volgens Hugging Face ook met gewone taalmodellen, zodat je ermee kunt experimenteren zonder een nieuw model te trainen. Eerder bracht Hugging Face al beslismodellen naar apps op iPhone en Mac.

Waarom dit ertoe kan doen voor bedrijven

Voor bedrijven die klantvragen sorteren, documenten classificeren of AI-agents laten routeren, kan een beslismodel goedkoper en voorspelbaarder zijn dan een groot taalmodel. Omdat de open modellen via llama.cpp ook op een eigen server of laptop draaien, hoeven gevoelige gegevens zoals klantberichten niet naar een Amerikaanse cloud. Voor Nederlandse organisaties die met de AVG worstelen, is dat een praktisch voordeel. Een gezamenlijke standaard maakt het bovendien makkelijker om later van model te wisselen zonder je software om te bouwen.