# Lokale AI met één klik: de makers van llama.cpp bouwen eindelijk zelf een app

> Llama is de gratis app van de makers van llama.cpp om AI-modellen lokaal te draaien op Windows en Mac, zonder terminal. Wat de app doet, welke computer je nodig hebt, wat er lokaal blijft en waarom je de knop om te delen beter laat staan.

**Llama** is een gratis, open app van de makers van llama.cpp waarmee je AI-taalmodellen op je eigen computer draait, zonder terminal of commando's. Op 13 oktober 2026 stelde Hugging Face de versie voor Windows 11 voor, die in het systeemvak naast de klok zit; de Mac-versie zit in de menubalk. Je kiest een open model van de Hugging Face Hub, downloadt het met één klik en chat ermee in het venster van llama.cpp. Je vragen worden lokaal verwerkt, maar je hebt wel genoeg werkgeheugen nodig: 16 GB voor de kleinste aanbevolen modellen.

**In het kort**

1. Llama bestaat voor Windows 11 en voor Macs met een Apple-chip en macOS 15 of nieuwer; voor Linux is er alleen een versie voor de opdrachtregel. De app is gratis en open source onder de MIT-licentie.
2. De app toont aanbevolen modellen, downloadt ze van de Hugging Face Hub en start een lokale server die ook andere programma's kunnen gebruiken, via een API die werkt zoals die van OpenAI.
3. De server van llama.cpp heeft zelf geen wachtwoord: wie hem op het netwerk deelt, krijgt op Windows sinds versie 0.12.0 van 10 oktober 2026 automatisch een API-sleutel, en de Mac-versie raadt Tailscale aan als veiligste manier om te delen.


*Of: wat er gebeurt als de motorenbouwer zelf een auto aflevert*

Wie de voorbije drie jaar AI op zijn eigen computer liet draaien, had een grote kans dat llama.cpp het werk deed. Meestal zonder het te weten, want llama.cpp zat onder de motorkap van andere programma's. Wie de motor rechtstreeks wou gebruiken, kreeg een terminal en een lijst opties waar je als zaakvoerder niet vrolijk van wordt. Nu bouwen de makers zelf een auto, met een sleutel. En het eerste wat ze moesten bijbouwen, was een slot.

## Llama: lokale AI van llama.cpp, zonder terminal

### De motor die iedereen leende

llama.cpp begon in maart 2023 als het project van één ontwikkelaar, Georgi Gerganov, die een taalmodel wou laten draaien op een gewone laptop in plaats van in een datacenter.[^1] Het groeide uit tot wat Hugging Face "de meest gebruikte motor om open modellen lokaal te draaien" noemt. Het bestandsformaat dat llama.cpp invoerde, GGUF, is vandaag de standaard voor lokale modellen op de Hugging Face Hub.[^2] LM Studio draait er zijn GGUF-modellen mee, en Ollama begon als een schil eromheen.

Dat is het vreemde aan llama.cpp: iedereen reed ermee, bijna niemand had er de sleutel van. De makers leverden de motor af zoals een motorenbouwer dat doet: een blok op een palet, met een handleiding. Je startte hem in een terminal, met opties voor geheugen, contextlengte en poorten. Voor een ontwikkelaar is dat vrijheid. Voor een boekhouder met een vraag over een contract is het een verloren avond.

In februari 2026 trok het team van Gerganov naar Hugging Face, het platform waar de meeste open modellen staan. Een van de aangekondigde doelen: betere verpakking en meer gebruiksgemak, zodat ook gewone gebruikers lokale modellen kunnen draaien. Llama is daar het eerste zichtbare resultaat van.

### Een auto met een sleutel

Llama is een klein programma dat je bijna niet ziet staan. Op een Mac zit het in de menubalk, op Windows 11 in het systeemvak naast de klok. De Mac-versie bestond al eerder, onder de naam LlamaBarn; op 13 oktober 2026 stelde Hugging Face de Windows-versie officieel voor. Je hebt geen terminal nodig, niets om te compileren en, op Windows, zelfs geen beheerdersrechten.

Wat de app doet, past in vier stappen:

1. **Kiezen.** Llama toont een lijst aanbevolen modellen, met hun grootte en of ze ook beelden begrijpen. De Windows-versie schat bij elk model hoeveel geheugen het vraagt.
2. **Downloaden.** Eén klik, met een voortgangsbalk. Het model komt van de Hugging Face Hub en belandt in een gedeelde map, zodat ook andere programma's die het formaat kennen het kunnen gebruiken.
3. **Chatten.** Je opent het chatvenster van llama.cpp. Op Windows haal je het met Alt+Spatie overal naar voren.
4. **Vergeten.** Een model laadt pas als je het vraagt, en verdwijnt na vijf minuten niets doen weer uit het geheugen.

Achter de schermen start Llama zelf de motor van llama.cpp, of het gebruikt een versie die al op je computer staat. Op een Mac vraagt de app macOS 15 of nieuwer en een Apple-chip, en ze is na installatie 4 MB groot. Voor Linux is er alleen de versie voor de opdrachtregel, wat voor de meeste Linux-gebruikers, eerlijk gezegd, geen groot gemis zal zijn.

### Wat er thuis blijft, en wat niet

De belofte van lokale AI is eenvoudig: wat je typt, verlaat je computer niet. Llama maakt die belofte expliciet. Volgens de documentatie van de Windows-versie verstuurt de app geen telemetrie, "geen events, geen analyses, geen installatie-id", en blijven je vragen en de antwoorden volledig lokaal. Eens een model gedownload is, werkt alles zonder internet.

Lokaal is wel niet hetzelfde als volledig offline. Het model komt van Hugging Face, en de app kijkt of er updates zijn. Bij die verzoeken stuurt de Windows-versie de versie van de app, de Windows-build en het type processor mee. Je vragen gaan nergens heen, je downloads wel.

Dan is er de rekening, en die betaal je niet per maand maar in geheugen. De site van Llama koppelt de aanbevolen modellen aan het werkgeheugen van je computer: 16 GB voor Gemma 4, 24 GB voor gpt-oss, 32 GB voor Qwen 3.8. De bestanden zelf wegen in de voorbeelden tussen zo'n 4,6 en 19 GB. Een laptop met 8 GB valt dus af, en wie nu een toestel met meer geheugen wil kopen, botst op [de hoge prijzen voor RAM](/nieuws/ram-duurder-tot-2028/).

Verwacht ook geen wonderen. De modellen in die lijst tellen tot een paar tientallen miljarden parameters; de grote modellen van vandaag zitten daar ver boven, [Mistral Large 4 telt er 1.000 miljard](/nieuws/mistral-large-4/). Voor een mail herschrijven, een lange tekst samenvatten of een eerste versie van een offerte volstaat een klein model vaak. Voor een moeilijke juridische vraag zou ik er niet blind op vertrouwen, maar dat zou ik bij een groot model in de cloud ook niet doen.

### De knop om te delen

Llama start op je computer een kleine server, op het adres localhost:9931. Die spreekt dezelfde taal als de API van OpenAI, zodat andere programma's er ook mee kunnen praten: een plug-in in je teksteditor, een script, een eigen tooltje. Dat is handig. Het wordt riskant zodra je die server openzet voor andere toestellen.

Het probleem zit in de motor. De server van llama.cpp heeft zelf geen authenticatie: wie hem kan bereiken, kan hem gebruiken. Zolang hij alleen op je eigen computer luistert, is dat geen probleem. Zet je hem open voor het netwerk, dan wel. De twee apps lossen dat elk op hun manier op.

Op de Mac kies je sinds september 2026 tussen uit, Tailscale of "dit netwerk".[^3] De makers raden Tailscale aan als veiligste keuze, omdat andere toestellen op je lokale netwerk er dan niet bij kunnen. Kies je toch voor het hele netwerk, dan waarschuwt de documentatie zonder omwegen: de server heeft geen wachtwoord.

Op Windows kan de server sinds versie 0.12.0, van 10 oktober 2026, op het netwerk luisteren. De releasenotes zeggen er eerlijk bij dat de volledige API om de server te besturen anders open zou liggen. Daarom maakt de app automatisch een API-sleutel van 256 bits aan zodra de server verder reikt dan je eigen computer. Ze vraagt ook een bevestiging voor je die stap zet, en bewaart je Hugging Face-token versleuteld.

> **Kmo-Kristof:** Ik heb nu ChatGPT op mijn laptop. Gratis, en zonder internet.
>
> **Security-Sofie:** Je hebt een open model op je laptop. Dat is iets anders, maar goed. Wat doe je ermee?
>
> **Kmo-Kristof:** Offertes herschrijven. Met de echte namen van klanten erin, want het blijft toch op mijn laptop.
>
> **Security-Sofie:** Dat klopt. Zolang je die server niet deelt.
>
> **Kmo-Kristof:** Ah. Vorige maand heb ik hem op "dit netwerk" gezet. Zodat de collega's er ook bij kunnen.
>
> **Security-Sofie:** Op je Mac? Dan staat er nu een server zonder wachtwoord op jullie wifi.
>
> **Kmo-Kristof:** Wat kunnen ze daarmee? Er staat alleen een model op.
>
> **Security-Sofie:** Je laptop laten rekenen, zoveel ze willen. Je hebt een gratis AI-dienst opgezet voor iedereen op je wifi.
>
> **Kmo-Kristof:** Zo gezegd klinkt het bijna als een bedrijfsmodel.
{.dialoog}

### Wat het betekent voor je zaak

- **Goed voor gevoelige teksten.** Wat je in een lokaal model typt, gaat niet naar een externe dienst. Je blijft wel verantwoordelijk volgens de AVG: ook op je eigen laptop verwerk je persoonsgegevens. Het verschil met een cloudtool is dat er geen andere partij meeleest of meerekent.
- **Zet het in je AI-beleid.** Een lokaal model is een tool zoals een andere. Noteer in je [AI-beleid voor de kmo](/gidsen/gdpr-voor-bedrijven/ai-op-het-werk/ai-beleid/) welke modellen mogen en waarvoor. Gebruik je daarnaast ChatGPT of Copilot, kijk dan ook naar [hun privacy-instellingen op het werk](/gidsen/gdpr-voor-bedrijven/ai-op-het-werk/chatgpt-copilot-instellingen/).
- **Kijk eerst naar je geheugen.** 16 GB is het minimum voor de kleinste aanbevolen modellen. Kijk in de app wat past voor je iets downloadt.
- **Laat delen uit.** Moet een collega er toch bij, gebruik dan op de Mac Tailscale. Op Windows geef je de sleutel die de app aanmaakt alleen aan wie hem nodig heeft. En deel nooit op een netwerk waar ook gasten op zitten.
- **Stel updates niet uit.** De Windows-versie kreeg in één release een hele reeks beveiligingsverbeteringen. Dat is goed nieuws, en meteen een reden om te updaten zodra de app het vraagt.

### Een slot op de deur

Drie jaar lang was lokale AI een motor op een palet: krachtig, gratis, en alleen bruikbaar voor wie een terminal niet eng vond. Llama maakt er een auto van, met een sleutel en een stoel voor de chauffeur. Dat is een echte verbetering, zeker voor wie klantgegevens liever niet naar een cloud stuurt.

Alleen ontdekt elke autobouwer vroeg of laat hetzelfde: zodra gewone mensen met je auto rijden, heb je sloten nodig. De motor van llama.cpp heeft er nooit een gehad. De Windows-app zet er nu een op, de Mac-app raadt je een afgesloten garage aan. Het beste slot blijft wel een knop die je nooit aanraakt: die om te delen.

[^1]: De naam komt van LLaMA, het taalmodel van Meta dat Gerganov toen op een MacBook wou laten draaien. Bij de voorbeelden op de site van de app Llama staat vandaag geen enkel model van Meta: wel Gemma van Google, gpt-oss van OpenAI en Qwen van Alibaba. Namen blijven langer hangen dan modellen.

[^2]: GGUF is een bestandsformaat voor gecomprimeerde modellen. Een taalmodel is in de kern een enorme verzameling getallen. Door die getallen in minder bits op te slaan, kwantiseren heet dat, wordt het bestand vele keren kleiner, ten koste van een beetje nauwkeurigheid. Het is wat JPEG met een foto doet: je ziet het verschil zelden, je harde schijf wel.

[^3]: Tailscale is een dienst die je eigen toestellen met elkaar verbindt via een privé, versleuteld netwerk, ook als ze niet in hetzelfde gebouw staan. Een VPN tussen je eigen toestellen, zeg maar. Andere toestellen op hetzelfde wifi zien de server dan niet.