Wie een app voor iPhone, iPad of Mac bouwt, kan sinds vorig jaar het eigen taalmodel van Apple gebruiken via het Foundation Models-framework. Maar wat als je liever een ander model wilt, op het toestel of in de cloud? Daarvoor bouwde Hugging Face AnyLanguageModel, en dat project heeft na een jaar en tientallen tussenversies versie 1.0 bereikt.

Eén importregel, veel modellen

Het idee is eenvoudig. Ontwikkelaars schrijven hun code zoals ze dat voor Apples eigen model zouden doen, en veranderen alleen de importregel. Daarna werkt dezelfde code met:

  • het systeemmodel van Apple zelf;
  • open modellen die lokaal draaien via llama.cpp, MLX of Core ML;
  • clouddiensten: de API's van OpenAI, Anthropic en Google Gemini, Ollama, Apples Private Cloud Compute en de Inference Providers van Hugging Face.

Functies als het aanroepen van tools en gestructureerde antwoorden werken volgens Hugging Face bij elke aanbieder, en sinds dit jaar kun je ook afbeeldingen meesturen. De bibliotheek draait ook op Linux, zodat dezelfde code op een server kan lopen.

Kleine modellen passen op je telefoon

Hugging Face wijst erop dat kleine open modellen intussen bruikbaar zijn geworden. Als voorbeelden noemt het Gemma 4 E2B van Google (ongeveer 3,4 GB) en LFM2.5 2.6B van Liquid AI (ongeveer 1,7 GB), die allebei op een iPhone passen. Qwen3.8 27B van Alibaba vraagt zo'n 16 GB en draait op een Mac met minstens 32 GB geheugen.

Voor ontwikkelaars betekent dit dat ze per taak kunnen kiezen. Een korte samenvatting of een categorie bepalen kan op het toestel, zonder dat gegevens het apparaat verlaten. Een zware klus gaat naar een groot model in de cloud. Voor Europese app-makers is dat lokale deel interessant, omdat gegevens die op het toestel blijven minder vragen oproepen onder de AVG.

Wat er nog komt

Samen met AnyLanguageModel verschenen ook versie 1.0 van swift-huggingface en swift-xet, waarmee apps modellen sneller van de Hugging Face Hub downloaden. Volgens de makers volgen binnenkort ook modellen "die beslissen en die luisteren", al zegt Hugging Face nog niet wanneer.

Het project past in een bredere trend om grote modellen op Apple-hardware te krijgen. Meta werkte eerder samen met Apple om zijn open model Muse Spark Open op Macs te laten draaien.