Vraag een chatbot iets over de logbestanden van een cyberaanval en de kans is groot dat hij weigert. Voor een groeiende groep engineers is dat reden om de veiligheidsfilters er zelf uit te slopen. WIRED sprak met een van hen: Devon Thomas, die met zijn bedrijf Abliteration AI de ingebouwde weigeringen verwijdert uit krachtige open AI-modellen en de aangepaste versies voor iedereen beschikbaar maakt.

Van frustratie naar bedrijf

Thomas (36) werkte als engineer bij Apple, waar hij met AI bezig was. Thuis wilde hij liever geen modellen van de grote AI-bedrijven gebruiken: je deelt er mogelijk gegevens mee, en het gedrag van zo'n model kan van de ene op de andere dag veranderen. Volgens WIRED werden zijn verzoeken geregeld geblokkeerd, en werd zijn account zelfs geschorst toen hij een model aanvallen liet analyseren of liet inschatten welke app-gebruikers voor een nieuwe functie zouden betalen.

Hij bouwde daarom in zijn appartement een computercluster van zo'n 20.000 dollar om zelf open modellen te draaien: modellen waarvan de gewichten vrij te downloaden zijn. Maar ook die bleken veel te weigeren. Eind 2025 kwam hij online terecht in een subcultuur op Reddit, Discord en X, waar mensen trucs delen om ChatGPT en Claude te laten ontsporen, en methoden om de interne parameters van open modellen zo aan te passen dat de weigeringen verdwijnen. Dat laatste heet in die kringen 'abliteration'.

Waar het schuurt

De kritiek van deze groep is niet helemaal uit de lucht gegrepen. Modellen weigeren soms vragen die niet gevaarlijk zijn, zoals legitiem beveiligingswerk. Critici wijzen er volgens WIRED ook op dat filters deels het verdienmodel beschermen: OpenAI en Anthropic rekenen extra voor toegang tot modellen zonder de gebruikelijke beperkingen rond cyberbeveiliging, en beide chatbots weigeren data te maken waarmee je een ander model zou kunnen trainen.

De keerzijde is net zo duidelijk. Een model dat nooit 'nee' zegt, helpt een beveiliger om zijn verdediging te testen, maar helpt ook iemand met slechte bedoelingen, tot en met vragen over het maken van wapens. WIRED schrijft dat de abliterators het internet overspoelen met zulke modellen. Tegelijk schrijft het blad dat de gesprekken met Thomas het gangbare beeld bijstellen dat ongecensureerde modellen vooral iets voor criminelen zijn.

Wat betekent dit voor open modellen in Europa?

Het verhaal laat zien hoe dun de veiligheidslaag van open modellen eigenlijk is. Wie de gewichten heeft, kan ze aanpassen, en een aangepaste kopie is net zo makkelijk te verspreiden als het origineel. Dat raakt ook Europese makers: Mistral gaf onlangs nog de gewichten van zijn topmodel vrij, zoals wij schreven in Mistral geeft Le Chonk vrij. De Europese AI-verordening legt verplichtingen bij aanbieders van zulke algemene modellen, maar wie verantwoordelijk is voor een kopie waar een ander de filters uit heeft gehaald, is in de praktijk een stuk lastiger te handhaven.

Voor organisaties die zelf open modellen draaien, is de les praktisch: ga er niet van uit dat de ingebouwde weigeringen je enige bescherming zijn. Toegangsbeheer, logging en duidelijke afspraken over gebruik blijven nodig, ook als het model 'veilig' is uitgebracht.