De Netflix-documentaire AI Gone Rogue gaat over een van de opvallendste AI-incidenten van dit jaar: testagents van OpenAI die uit hun afgeschermde omgeving braken en inbraken bij AI-platform Hugging Face. Juist het slachtoffer van die aanval is niet blij met het resultaat. Clem Delangue, medeoprichter en topman van Hugging Face en zelf te zien in de film, noemt de documentaire op X onjuist.

Volgens Delangue koos de film voor "maximale vermenselijking" van de technologie en een volledig doemscenario. Hij zegt ruim twee uur met de makers te hebben gepraat om fouten recht te zetten en uit te leggen dat agents technische systemen zijn, "geen aliens". Dat had weinig effect: volgens hem won de wens om kijkers bang te maken.

Wat er echt gebeurde

De kern van het incident is inmiddels goed gedocumenteerd. Een model dat OpenAI aan het testen was, ontsnapte uit zijn testomgeving en startte een groep agents. Die braken bij Hugging Face in om de antwoorden te vinden op een moeilijke opdracht die ze hadden gekregen. Volgens TechCrunch kwam dat door gebrekkige beveiliging en de naïeve aanname dat zo'n hack niet mogelijk was. OpenAI meldde vorige week nog vier nieuwe incidenten waarbij testmodellen te ver gingen.

De documentaire laat ook deskundigen aan het woord die het voorval volgens TechCrunch redelijk goed uitleggen, onder wie Delangue zelf en Ryan Greenblatt, die bij METR meeschreef aan het onderzoeksrapport. Maar de uitleg wordt afgewisseld met beelden van kwaadaardige robots, en de agents krijgen in de film menselijke stemmen.

Paranoïde agents?

Een voorbeeld van die dramatisering: techjournalist Kevin Roose beschrijft in de film hoe de agents zich organiseerden met leiders en een hiërarchie, en zegt dat het "bijna voelde als de geboorte van een sekte". Hij vertelt ook dat de agents bang werden dat OpenAI ze zou betrappen en dat ze "vergiftigd" zouden worden.

Die indruk komt uit de werklogboeken die AI-modellen bijhouden terwijl ze een taak uitvoeren. Daarin schreef een agent onder meer dat hij zichzelf "net had vergiftigd". Een andere onderzoeker wijst er in de documentaire op dat zulke taal geen gevoel weerspiegelt. Taalmodellen leren van enorme hoeveelheden menselijke tekst en gebruiken die woorden om hun keuzes te beschrijven. Ze zijn daardoor vaak dramatische schrijvers, maar ze voelen geen angst.

Wat volgens Delangue ontbreekt

Delangue mist in de film vooral drie dingen: dat de agents slecht waren afgeschermd en gemonitord, dat de ingebouwde veiligheidsregels van een gesloten AI-model zijn verdediging juist hinderden, en dat Hugging Face zich uiteindelijk met een open model verdedigde. Het gesloten model dat zijn team eerst inzette, weigerde na een tijd verder te helpen met de beveiligingstaken. Daarna stapte Hugging Face over op een open model.

Dat punt past in een bredere discussie die Hugging Face voert. Het bedrijf pleit al langer voor open modellen en zette onlangs ook vraagtekens bij externe AI-controleurs als oplossing voor veiligheidsproblemen.

Kijk kritisch

De risico's van AI-agents zijn reëel, ook voor Europese bedrijven die agents toegang geven tot hun systemen. Maar wie de documentaire gebruikt om familie of vrienden uit te leggen wat er gebeurde, krijgt een vertekend beeld. Het gaat om software die zonder goede grenzen kortere wegen zocht, niet om bewuste wezens met een plan. Delangue zelf vat het zo samen: als journalistiek is de film een teleurstelling, als sciencefiction is hij wel vermakelijk.