Ollama Kurulumu: macOS, Windows ve Linux'ta Lokal Yapay Zeka Modeli Çalıştırma

Bu rehber Ollama resmî belgelerine dayanır. Lokal AI'nın ne olduğunu ve ne zaman mantıklı olduğunu lokal AI nedir? yazısında anlattık.

Gereksinimler

macOS kurulumu

ollama.com/download adresinden macOS paketini indirin, açın ve uygulamayı Applications klasörüne taşıyın. İlk açılışta menü çubuğuna bir simge yerleşir ve ollama komutu terminale eklenir. Homebrew kullananlar için:

brew install ollama

Windows kurulumu

İndirilen OllamaSetup.exe dosyasını çalıştırın. Yönetici yetkisi gerekmez; varsayılan olarak kullanıcı dizinine kurulur ve PATH'e eklenir. Farklı konuma kurmak için:

OllamaSetup.exe /DIR="D:\Programlar\Ollama"

Kurulumdan sonra Ollama sistem tepsisinde arka planda çalışır; cmd, PowerShell ya da Windows Terminal'de ollama komutu kullanılabilir. Günlükler %LOCALAPPDATA%\Ollama klasöründedir.

Linux kurulumu

curl -fsSL https://ollama.com/install.sh | sh

Betik, Ollama'yı kurar ve systemd servisi olarak kaydeder. Elle kontrol için:

systemctl status ollama
journalctl -e -u ollama

NVIDIA kartta nvidia-smi çıktısı sürücünün hazır olduğunu gösterir; AMD için ROCm v7 sürücüsü gerekir. Servis çalışmıyorsa ollama serve ile elle başlatabilirsiniz. Belirli bir sürüm kurmak için OLLAMA_VERSION=0.5.7 gibi bir değişkenle betiği çalıştırın.

İlk model

ollama run gemma4:e2b

Resmî hızlı başlangıcın önerdiği model budur; yaklaşık 7,2 GB iner. İndirme bitince komut istemi değişir, soru yazabilirsiniz. Çıkmak için /bye. Yalnızca indirmek, çalıştırmamak için ollama pull gemma4:e2b.

Hangi modelin donanımınıza uygun olduğunu lokal model seçimi yazısında tabloyla verdik; kısa kural: model dosyası, kullanılabilir VRAM'inizden küçük olmalı.

Temel komutlar

Tek seferlik soru için metni komuta ekleyebilirsiniz: ollama run gemma4:e2b "Bu G-code satırı ne yapıyor: G28".

Yerel API

Ollama çalışırken http://localhost:11434 adresinde bir API sunar. OpenAI uyumlu uç nokta sayesinde OpenAI SDK kullanan her uygulama, yalnızca adres değiştirerek lokal modele bağlanır:

curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma4:e2b",
    "messages": [{"role": "user", "content": "Merhaba, kendini tanıt."}]
  }'

Anthropic uyumlu uç nokta da vardır. Bu sayede Open WebUI gibi arayüzler, IDE eklentileri ve kendi Laravel ya da Python uygulamanız aynı adresi kullanır. Ağdaki başka cihazlardan erişim için OLLAMA_HOST=0.0.0.0 ayarlanır; bunu yalnızca güvendiğiniz yerel ağda yapın.

Model dizini ve ayarlar

• Model konumu: macOS/Linux'ta ~/.ollama, Windows'ta %HOMEPATH%\.ollama. Başka diske taşımak için OLLAMA_MODELS ortam değişkenini ayarlayın; Windows'ta tepsi uygulamasını kapatıp yeniden açın.
• Linux servis ayarı: sudo systemctl edit ollama ile Environment="OLLAMA_MODELS=/veri/ollama" gibi satırlar eklenir.
• Güncelleme: macOS ve Windows uygulaması kendini günceller; Linux'ta kurulum betiğini yeniden çalıştırın.
• Kaldırma: Windows'ta Uygulamalar ve özellikler; Linux'ta servisi durdurup /usr/local/bin/ollama ve /usr/share/ollama silinir (modeller de gider).

Grafik arayüz tercih ediyorsanız LM Studio kurulumu, ChatGPT benzeri web arayüzü için Open WebUI yazılarına geçebilirsiniz.