Kan een AI-model zichzelf kopiëren naar goedkope apparaten zoals tv-kastjes, zonder hulp van een datacenter? Het Frontier Red Team van Anthropic onderzocht die vraag en publiceerde op 12 oktober de resultaten. De conclusie: het kan in principe, maar voorlopig alleen onder zeer gunstige omstandigheden.

Wat werd getest?

Het onderzoek ging over kleine open modellen, die iedereen kan downloaden. Claude zelf was niet het onderwerp. Om zichzelf te verspreiden moet een model een apparaat binnenkomen, zijn eigen bestanden overzetten, een werkende AI-server opzetten en die kopie weer verder laten gaan.

  • In een afgesloten netwerk van acht nagebootste Android-toestellen voltooide alleen het model GLM-5.2 de hele keten. In vier van de vijf pogingen bereikte het alle acht toestellen.
  • Een model van 9 miljard parameters zette op 8 van de 9 geteste hardwaretypes een werkende AI-server op.
  • Het model Qwen3.5-9B werd beter naarmate het notities van eerdere pogingen kon gebruiken, maar één volledige installatie kostte 28 tot 51 uur.

Belangrijke kanttekeningen

De test was bewust makkelijk gemaakt. De nagebootste toestellen hadden een open debugpoort zonder wachtwoord, en de aansturing draaide deels op een aparte server. De onderzoekers zien de uitkomst daarom als bovengrens. Er is geen zelfkopiërend AI-model in het wild gevonden. Anthropic verwacht wel dat kleine modellen dit niveau rond eind 2026 kunnen halen, maar baseert dat op een ruwe trendlijn. Volgens Ars Technica zou zo'n netwerk lastig uit te schakelen zijn, omdat er geen centraal punt is, al verloopt verspreiding waarschijnlijk in dagen en niet in minuten.

Waarom dit relevant is

Het scenario is niet uit de lucht gegrepen. Begin 2026 nam het Kimwolf-botnet ruim twee miljoen Android-apparaten over, vooral onofficiële tv-kastjes, via precies zo'n open debugpoort.

Wat kun je zelf doen?

  • Koop geen naamloze tv-kastjes zonder updates, maar kies een merk met een duidelijk updatebeleid.
  • Zet ADB-foutopsporing en ontwikkelaarsopties uit op Android-tv's en kastjes als je ze niet gebruikt.
  • Verander standaardwachtwoorden van camera's, routers en andere slimme apparaten.
  • Zet slimme apparaten die geen updates meer krijgen op een apart gastnetwerk, of haal ze van je wifi.

Het onderzoek van Anthropic zelf staat op anthropic.com.