# Nvidia's Nemotron Bolt laat een spraakagent in 4 GB geheugen draaien

- Rubriek: Modellen
- Gepubliceerd: 2026-10-24T05:56:29+02:00
- URL: https://aiweekblad.nl/artikel/nvidias-nemotron-bolt-laat-een-spraakagent-in-4-gb-geheugen-draaien
- Bron: MarkTechPost, [NVIDIA Releases Nemotron 3.5 Bolt E4B 4GB: An Open Small Language Model for Local Voice Agents, Game Characters and Robots](https://www.marktechpost.com/2026/10/23/nvidia-nemotron-3-5-bolt-e4b-4gb/)

> Nvidia brengt Nemotron 3.5 Bolt uit, een klein open model voor lokale spraakassistenten, gamepersonages en robots. Het past in zo'n 4 GB videogeheugen.

Nvidia heeft **Nemotron 3.5 Bolt E4B 4GB** uitgebracht, een klein taalmodel dat bedoeld is om gesprekken te voeren en tools aan te roepen zonder tussenkomst van de cloud. Denk aan een spraakassistent op een apparaat, een personage in een game dat terugpraat of een robot die opdrachten uitvoert. Het model is open: gewichten, data en trainingsrecepten staan online onder de OpenMDW-1.1-licentie.

## Gebouwd op Googles Gemma

Bolt is geen model vanaf nul. Nvidia nam Googles Gemma 4 E4B als basis en trainde dat verder, opvallend genoeg uitsluitend met reinforcement learning. De gebruikelijke stap waarin een model eerst voorbeelden leert nadoen, sloeg Nvidia over. Het model telt 8 miljard parameters, waarvan er effectief 4 miljard meedoen, en kan 64.000 tokens context verwerken.

Twee instellingen zijn gericht op spraak. Met een _conversational mode_ geeft het model korte antwoorden die geschikt zijn om hardop voor te lezen. Daarnaast kun je een denkbudget instellen, zodat het model niet te lang nadenkt en de reactietijd beperkt blijft.

## Wat "4GB" betekent

De naam verwijst naar het geheugen dat het model tijdens gebruik nodig heeft, niet naar de bestandsgrootte. In metingen van Nvidia gebruikte de gecomprimeerde versie 3,1 tot 4,3 GB videogeheugen. Het downloadbestand zelf is ruim 6 GB. Op een RTX 5070 haalde Nvidia ruim 130 tokens per seconde; op een kleine Jetson Orin Nano duurt het bijna zes seconden voor het eerste woord verschijnt. Wie het op een instapapparaat wil gebruiken, moet dus rekening houden met wachttijd.

Omdat het model zo weinig geheugen vraagt, blijft er op dezelfde kaart ruimte over voor een spraak- of beeldmodel. Nvidia laat dat zien met het robotje Reachy Mini van Hugging Face, waarin een apart beeldmodel ziet en Bolt praat en acties aanstuurt.

## Sterk op instructies, zwakker op langere taken

Volgens Nvidia's eigen tests wint Bolt op 15 van de 21 benchmarks van vergelijkbare kleine modellen als Gemma 4 E4B en Qwen3.5-4B. Vooral bij het volgen van instructies scoort het hoog. Bij een test met klantenservice-achtige taken (Tau2-Bench) en bij het werken met lange teksten blijft het juist ruim achter bij Qwen. Al die cijfers komen van Nvidia zelf; onafhankelijke metingen zijn er nog nauwelijks.

## Waar je het vindt

Het model staat op [Hugging Face](https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB) en is ook te gebruiken via Ollama en LM Studio, de bekende programma's om AI-modellen op je eigen computer te draaien. Nvidia biedt daarnaast een gratis testomgeving op build.nvidia.com. De technische details staan in de [aankondiging van Nvidia](https://research.nvidia.com/labs/nemotron/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB/).

Bolt is de volgende stap in Nvidia's reeks open Nemotron 3.5-modellen. Eerder deze maand verschenen al het grote beeldmodel [Nemotron 3.5 Super VL](https://aiweekblad.nl/artikel/nvidia-brengt-open-model-nemotron-35-super-vl-uit-voor-ai-agents-die-ook-beeld-lezen) en [zoekmodellen die ook grafieken en scans lezen](https://aiweekblad.nl/artikel/nvidia-brengt-open-zoekmodellen-uit-die-ook-grafieken-en-scans-lezen). Voor Europese bedrijven die liever geen gesprekken naar Amerikaanse servers sturen, zijn zulke lokale modellen interessant: alles blijft op het eigen apparaat, wat het voldoen aan de AVG een stuk eenvoudiger maakt.

_Met AI geschreven door AIweekblad op basis van [NVIDIA Releases Nemotron 3.5 Bolt E4B 4GB: An Open Small Language Model for Local Voice Agents, Game Characters and Robots](https://www.marktechpost.com/2026/10/23/nvidia-nemotron-3-5-bolt-e4b-4gb/) (MarkTechPost). Redactiebeleid: https://aiweekblad.nl/redactiebeleid_