Een AI-agent is zo goed als de informatie die hij kan vinden. Krijgt hij de verkeerde documenten, dan zoekt hij opnieuw, leest hij meer en kost elk antwoord meer rekenkracht. Op dat probleem richt Nvidia zich met vijf nieuwe open modellen in de Nemotron 3.5-reeks, aangekondigd op het blog van Hugging Face. Ze zijn gratis te downloaden en mogen commercieel worden gebruikt.

Drie soorten gereedschap

De modellen vormen samen de 'zoekmachine' onder een agent of een bedrijfschatbot:

  • Embed (8B en 1B, de kleine ook in een compactere NVFP4-variant): maakt documenten doorzoekbaar. Nieuw is dat het niet alleen tekst begrijpt, maar ook tabellen, grafieken, infographics en technische tekeningen als beeld.
  • Rerank (8B): bekijkt de gevonden resultaten opnieuw en zet het meest relevante bovenaan, zowel bij tekst als bij beeld.
  • Parse (631 miljoen parameters): zet gescande pagina's en pdf's om in gestructureerde tekst, met tabellen als rijen en kolommen en de juiste leesvolgorde.

Wat Nvidia belooft

Volgens Nvidia staat Embed 8B bovenaan een bekende ranglijst voor het doorzoeken van documenten met beeld (ViDoRe v3.1), en staat Parse op één bij modellen kleiner dan een miljard parameters op ParseBench, met ruim tien pagina's per seconde op één H100-chip. In Nvidia's eigen agenttest verbruikte een agent met de reranker erbij ongeveer 13 tot 14 procent minder tokens per vraag, terwijl hij betere bronnen vond. Dat zijn allemaal cijfers van Nvidia zelf; onafhankelijke metingen zijn er nog niet. Wel melden partners als Perplexity, Elastic en Turbopuffer goede resultaten in eigen tests.

Een praktisch detail voor wie al met de vorige generatie werkt: het taalgedeelte van Embed is niet veranderd. Volgens Nvidia kun je bestaande tekstindexen daarom blijven gebruiken.

Interessant voor Nederlandse organisaties

Veel bedrijfskennis zit in pdf's met tabellen, grafieken en scans, denk aan jaarverslagen, technische handleidingen of offertes. Juist daar lopen zoeksystemen vaak vast. Nvidia testte de tekstzoekfunctie in 34 talen, maar noemt in de aankondiging niet welke. Of het Nederlands goed werkt, kun je dus het best zelf uitproberen. Omdat de modellen open zijn, kun je ze op eigen servers draaien, wat helpt als je bedrijfsdocumenten om privacyredenen niet naar een Amerikaanse clouddienst wilt sturen.

Nvidia bouwt de afgelopen weken flink aan een open ecosysteem voor agents. Vorige week verscheen al het open model Nemotron 3.5 Super VL voor agents die beeld lezen; deze zoekmodellen zijn daar de aanvulling op.