Mistral AI, bekend van chatbot Le Chat en taalmodellen als Large 4, zet een stap buiten de wereld van tekst. Met Timestral brengt het Franse bedrijf modellen uit die niet schrijven of praten, maar getallen vooruit rekenen. Ze zijn gemaakt voor tijdreeksen: metingen die elkaar in de tijd opvolgen, zoals het elektriciteitsverbruik per kwartier, de dagomzet van een winkel of de temperatuur van een machine.

Wat doet Timestral?

Het model kijkt naar historische metingen en voorspelt hoe die zich gaan ontwikkelen. Volgens Mistral kan het meerdere reeksen tegelijk meenemen die elkaar beïnvloeden. Denk aan een fabriek waar een hogere temperatuur op zich niets zegt, maar samen met meer trillingen en een drukverandering kan wijzen op slijtage.

Timestral kan ook rekening houden met wat al over de toekomst bekend is, zoals een productieschema, gepland onderhoud of een weersverwachting. In plaats van één getal geeft het model een bandbreedte: 21 kwantielen die laten zien hoe zeker de voorspelling is en wat gunstige en ongunstige scenario's zijn.

Klein en snel

Er zijn vier varianten, van 5 miljoen tot 209 miljoen parameters. Dat is piepklein vergeleken met de taalmodellen waar Mistral bekend om staat. De modellen hebben geen speciale grafische kaart nodig. Volgens Mistral maakt de kleinste variant op een gewone serverprocessor in ongeveer 10 milliseconden een voorspelling voor een dag vooruit, op basis van drie weken aan kwartiermetingen. De grootste doet daar ongeveer 140 milliseconden over.

Mistral stelt dat de grootste versie bovenaan staat in drie openbare vergelijkingstests voor tijdreeksvoorspelling (GIFT-Eval, TIME en fev-bench) en daarbij grotere modellen als TimesFM-3 en Chronos-2 verslaat. Dat zijn cijfers van Mistral zelf. Een uitgebreid technisch rapport moet nog verschijnen, en hoe goed het model werkt op rommelige praktijkdata van een bedrijf, moet nog blijken.

Getraind op nepdata

Opvallend is de trainingsaanpak. In de eerste fase leerde Timestral vooral van kunstmatig gemaakte reeksen met seizoenspatronen, trends en ruis. Pas daarna kwam echte data erbij. Het idee is dat het model zo algemene patronen leert en direct bruikbaar is op gegevens die het nooit eerder zag, zonder eerst te worden bijgetraind. Wie toch wil bijtrainen op eigen data, kan dat via Mistrals dienst Forge.

Beschikbaarheid

De code staat op GitHub onder de Apache 2.0-licentie, de modelgewichten op Hugging Face onder een aangepaste MIT-licentie. De modellen verwerken tot 32.768 eerdere meetpunten en kunnen op eigen servers draaien, ook zonder internetverbinding.

Wat betekent dit?

Voor energiebedrijven, fabrieken en winkelketens die dagelijks duizenden voorspellingen maken, kan een klein model dat op gewone hardware draait goedkoper zijn dan een zwaar AI-systeem. Dat het een Europees en vrij te gebruiken model is, maakt het ook interessant voor organisaties die hun data niet buiten de deur willen hebben. Mistral noemt ook de combinatie met AI-agents, die bij een afwijking in sensordata zelf handleidingen en storingsrapporten doorzoeken. Dat is voorlopig een mogelijke toepassing, geen kant-en-klaar product.