Ollama

Wat is Ollama?
Ollama is een tool die het installeren en draaien van AI-taalmodellen op je eigen computer zo eenvoudig mogelijk maakt. Met één commando in de terminal download en start je een volledig AI-model lokaal — geen cloud, geen API-kosten, geen data die je computer verlaat.
Hoe werkt het?
Installeer Ollama, typ een commando zoals “ollama run llama3” en het model wordt gedownload en gestart. Daarna kan je ermee chatten in de terminal of het aanspreken via een lokale API — compatibel met dezelfde tools die normaal OpenAI of Anthropic aanspreken. Ondersteunt tientallen modellen: Llama, Mistral, Gemma, Qwen en meer.
Waarom relevant?
Eenmaal geïnstalleerd zijn er geen kosten per gebruik, geen rate limits en geen abonnementsgeld. Gevoelige documenten verwerken zonder ze naar een externe server te sturen. Ideaal voor experimenten en prototyping. Nadeel: vereist een krachtige computer (bij voorkeur met GPU) en de lokale modellen zijn doorgaans minder capabel dan de beste cloud-modellen.