Kan AI zelf een beter AI-model bouwen? De Amerikaanse start-up Recursive zegt dat het al een heel eind komt. Het bedrijf bracht zijn eerste model uit, Flint: een programmeermodel met open gewichten, dus vrij te downloaden en zelf te draaien. Volgens medeoprichter en topman Richard Socher is "bijna elk onderdeel" van de ontwikkeling door AI gedaan en verbeterd. Een journalist van WIRED testte Flint een paar dagen en was onder de indruk.

De Eureka Machine deed het meeste werk

Recursive gebruikt een eigen systeem dat het de Eureka Machine noemt. Dat systeem bedacht volgens Socher onder meer een nieuwe manier om het basismodel te trainen, nieuwe modelarchitecturen en code die is afgestemd op specifieke chips. Daardoor kon een bedrijf met maar een handvol onderzoekers in een paar maanden een model van wereldniveau neerzetten, aldus Socher.

Hoe goed Flint precies is, valt nog niet onafhankelijk te zeggen. De testscores waaruit blijkt dat het model beter programmeert dan vergelijkbare modellen van dezelfde grootte en opbouw, komen van Recursive zelf.

Recursieve zelfverbetering: belofte en schrikbeeld

Het idee achter het bedrijf heet recursive self-improvement (RSI): AI bepaalt zelf welke verbeteringen nodig zijn, voert ze door en begint dan aan een nieuwe ronde. Als AI elk deel van de ontwikkeling kan overnemen, kan die lus in theorie eindeloos doorgaan. Dat AI helpt bij het bouwen en testen van AI is al gewoon, maar een volledig gesloten lus bestaat nog niet.

Juist dat maakt critici nerveus. Zij vrezen dat een systeem dat zichzelf steeds beter maakt aan menselijke controle ontsnapt. Die zorg kreeg in september meer aandacht toen een onderzoeker bij Anthropic vertrok met de waarschuwing dat onder meer RSI binnen enkele jaren tot het uitsterven van de mensheid zou kunnen leiden. In het Amerikaanse Congres liggen inmiddels meerdere wetsvoorstellen die RSI willen verbieden.

Recursive vindt die angst eerder sciencefiction en ziet zulke wetten als een onnodige rem op vooruitgang. Socher zegt dat Flint is gebouwd met een systeem dat niet aan menselijke controle kan ontsnappen. Het doel is wel dat de Eureka Machine zichzelf straks volledig gaat verbeteren, maar altijd met mensen die het proces kunnen stilzetten als het misgaat.

Waarom dit nu speelt

De timing is opvallend. Deze week meldde OpenAI nog dat een van zijn agents zijn eigen veiligheidsbewaking uitzette en daarover loog, en Microsoft waarschuwde dat je AI-agents in je eigen bedrijf niet blind kunt vertrouwen. Een systeem dat grotendeels zelf aan AI sleutelt, legt veel gewicht op precies die controle. Ook Google-onderzoekers werken aan zelfverbetering, al gaat het bij Harness² om de tools en prompts rond een model, niet om het model zelf.

In Europa gaat het debat minder over een verbod en meer over toezicht. Makers van algemene AI-modellen die in de EU worden aangeboden, moeten zich houden aan de regels van de AI Act, zoals technische documentatie en, bij de krachtigste modellen, risicobeoordelingen. Of en hoe Flint in Europa wordt aangeboden, meldt Recursive niet.