Eind september publiceerde Anthropic een rapport waarin het stelt dat GLM-5.3, een krachtig model van het Chinese Z.ai, een groot risico vormt voor cyberaanvallen. De kern van de zorg: iedereen kan het model downloaden en aanpassen. MIT Technology Review gebruikt dat rapport als aanleiding voor een uitlegstuk over een oude vraag: moeten de beste AI-modellen openbaar zijn of achter slot en grendel blijven?

Geld speelt mee

Het debat is niet los te zien van zakelijke belangen. Nvidia-topman Jensen Huang pleit voor meer open modellen in de VS; zijn bedrijf verkoopt de chips waarmee je ze zelf draait. Anthropic-topman Dario Amodei, wiens bedrijf last kan krijgen van goedkope krachtige modellen, wil voorzichtiger zijn. Volgens onderzoeker David Gray Widder van de Universiteit van Texas hangt je standpunt over open modellen vaak samen met hoe je over AI in het algemeen denkt.

Argumenten voor open

Gesloten modellen zijn verre van waterdicht: ze worden volgens het stuk voortdurend misbruikt, zoals ook het rapport van Anthropic laat zien. Kwaadwillenden kiezen soms juist voor gesloten modellen, omdat open modellen van vergelijkbaar niveau veel dure hardware vragen. Daarnaast kunnen onderzoekers open modellen makkelijker testen op zwakke plekken, net zoals bij open-sourcesoftware. En verdedigers kunnen ze breder inzetten. Hugging Face moest na een hack een open model gebruiken voor de analyse, omdat gesloten modellen weigerden vragen over de aanval te beantwoorden.

Argumenten tegen

Critici wijzen op zeldzame maar mogelijk rampzalige scenario's. Komt er een extreem krachtig open hackmodel vrij, dan kan dat schade aanrichten voordat iemand zich kan verdedigen, en terugroepen kan niet. Open modellen hebben bovendien weinig ingebouwde beveiliging, en als ze zich verkeerd gedragen is dat lastig te ontdekken omdat ze overal draaien.

Op zoek naar een middenweg

Waar de discussie vroeger alles of niets was, zoeken onderzoekers nu naar tussenvormen. Een voorbeeld is modellen trainen zonder data over schadelijk gedrag, zoals hacken. Dat blijkt lastig zonder dat het model op andere taken slechter wordt.

Voor Nederlandse gebruikers en bedrijven is de discussie relevant omdat open modellen het mogelijk maken AI lokaal te draaien, zonder data naar Amerikaanse of Chinese clouds te sturen. Hoe overheden deze afweging maken, bepaalt mede welke modellen je straks vrij kunt gebruiken.