Ik ben gestopt met het vechten tegen LM Studio's model-UI en ben overgestapt op Ollama — de installatie duurde minuten in plaats van uren

Ik draai al geruime tijd lokale LLM's, en LM Studio is een van de beste apps om te genieten van de voordelen van een lokale LLM op je machine. Het is afgewerkt, heeft een mooie modelbrowser en het downloaden van modellen van Hugging Face voelt bijna moeiteloos—totdat het dat niet meer doet.

Modeldownloads kunnen soms vastlopen, en het frustrerende ritueel van handmatig het ene model ontladen, de GPU-lagen opnieuw configureren en een ander model opnieuw laden is geen plezierig proces om doorheen te gaan. Maar LM Studio is niet de enige lokale LLM-app die gemakkelijk te gebruiken is, en het opzetten van Ollama kan je misschien kostbare uren besparen.

De eenvoudigste manier om lokale AI uit te voeren

Wat Ollama is en waarom het in populariteit explodeerde

Ollama is een lichtgewicht, open-source runtime voor het lokaal uitvoeren van LLLM's. Terwijl LM Studio je een volledige desktop-GUI biedt met modelnavigatie, chattabs en serverbesturing, reduziert Ollama alles tot een overzichtelijke commandoregelworkflow en een lokale HTTP-API. Het draait een achtergrondserver op het moment dat je het installeert, en alles andere, van het downloaden van modellen, wisselen tussen modellen en het opvragen ervan, gebeurt via de terminal of via die API. Er is ook een minimalistische gebruikersinterface als je dat verkiest.

Als je eerder Docker hebt gebruikt, is het model bijna identiek. Je trekt een image of in dit geval een model, en runt het. Ollama pull [modelnaam] haalt het model op, ollama run [modelnaam] voert het uit, en brengt je direct in een interactieve chat. Het kan beperkend lijken, maar het hele proces van een verse installatie tot chatten met een 7B-model duurt minder dan vijf minuten bij een goede verbinding.

Ik was binnen enkele minuten operationeel

Een installatieproces dat de meeste gebruikelijke obstakels overslaat

Het installeren van Ollama is een enkele curl-opdracht op Linux. Op Windows kunt u de standaardinstaller van de website van Ollama gebruiken. Zodra de installatie is voltooid, start Ollama automatisch een achtergrondservice en bent u klaar om modellen te downloaden.

De modellenbibliotheek op de website van Ollama bevat alles wat je zou verwachten. Llama 3, Mistral, Gemma 3, Phi-4, DeepSeek, Qwen, en een groeiende lijst van anderen. Je kunt het uitvoeringscommando rechtstreeks van de pagina van een model kopiëren, in je terminal plakken, en Ollama regelt het downloaden en starten in één stap. Geen navigeren door een modelbrowser, geen aparte downloadwachtrij, geen wachten tot een app het bestand in zijn interne catalogus registreert.

Het wisselen van modellen is net zo moeiteloos. Er is geen handmatig uitladen dat je moet doen, en geen schuifregelaars voor geheugenbeheer om mee te prutsen. Je voert gewoon een andere modelnaam in, Ollama regelt de rest op de achtergrond.

De API is de echte killer feature

Waarom ontwikkelaars hele workflows rond Ollama bouwen

Voor mij is het belangrijkste onderdeel de API. Ollama biedt een OpenAI-compatibele Chat Completions-endpoint op http://localhost:11434/v1. Dat betekent dat elk hulpmiddel of script dat al is gebouwd voor de OpenAI API direct werkt met je lokale modellen. Je wijst de URL naar localhost, stelt de API-sleutel in op een dummy-waarde (aangezien deze lokaal niet wordt gevalideerd), en je bent klaar.

Dit is enorm als je iets aan het bouwen bent. Ik heb een aantal Python-scripts die de OpenAI API aanroepen voor testen. Het overschakelen naar Ollama kostte ongeveer 30 seconden van de hierboven genoemde bewerkingen. Verander de basis-URL en de modelnaam, en je hoeft verder niets aan de code te veranderen. Ter vergelijking, LM Studio heeft wel een lokale servermodus met vergelijkbare compatibiliteit, maar het juist configureren ervan voegt meerdere stappen toe en best wat GUI-navigatie die Ollama simpelweg niet vereist.

Je verliest een paar gemakken

De functies en de UI-afwerking die LM Studio nog steeds beter doet

Eerlijk gezegd is Ollama niet voor iedereen. Als je echt de voorkeur geeft aan het visueel doorzoeken van modellen, het lezen van hun metadata en het spelen met parameters via een gebruikersinterface, is het Ontdekken-tabblad van LM Studio een veel betere optie voor jou. Ollama geeft ook geen realtime statistieken over token-durchvoer of een ingebouwde chatinterface die zo gedetailleerd is als die van LM Studio.

De catalogus van LM Studio is ook uitgebreider als je puur naar modelbeheer kijkt. Het kan ook rechtstreeks van Hugging Face halen en ondersteunt GPTQ-formaten die Ollama niet native ondersteunt.

Lokale LLM's zijn om te gebruiken, niet om te configureren

Als je meer tijd besteedt aan het configureren van AI dan eraan werken, probeer dan Ollama

Dus daar ben ik geland: een terminalvenster, een klein achtergrondproces en modellen die gewoon werken wanneer ik ze aanroep. Geen draaiende programmawielen, geen half geladen modellen, geen mysterieuze instellingen drie menu’s diep verborgen. Ik vind LM Studio nog steeds geweldig voor beginners en voor mensen die een rijke GUI willen. Maar als je op zoek bent naar snelheid en zo min mogelijk gedoe bij het lokaal draaien van je LLM’s, is Ollama de juiste keuze. De oplossing voor lokale LLM’s was nooit een groter model; het was efficiëntie met de kleinere.

De schakelaar kost niets en geeft je uren terug die je anders gemakkelijk zou besteden aan worstelen met het laadgedrag van LM Studio. Voor iedereen die voornamelijk lokale modellen gebruikt om scripts, tools of integraties aan te sturen—in plaats van te chatten via een ingebouwde GUI—is Ollama het snellere, slankere en minder frustrerende pad. De terminal is helemaal niet intimiderend zodra je beseft dat de hele workflow in feite neerkomt op twee opdrachten. Alles volgt daar natuurlijk uit.