3  Ollama Modellere giriş

3.1 Küçük Modeller ile başlama

Modelleri ollama web sayfasından arayabiliriz Ne yazık ki sıralama özellikleri çok iyi değil.

Biz öğrenme amaçlı olarak çalıştığımız için bizim için küçük modeller daha anlamlı olacaktır. Hem daha hızlı indirilir hemde hafızada çok yer tutmazlar.

Aşağıdaki modeller bu tanıma uyuyor.

ollama run llama3.2:1b
ollama run phi
ollama run deepseek-r1:1.5b
ollama run qwen2.5:0.5b

qwen 2.5 blog yazısı

3.2 Model kopyalama

Bu modeli çalıştırırken uzun uzun bu ismi yazmak zor. Bu modelin bir takma adını oluşturalım.

ollama cp deepseek-r1:1.5b ds15

Bu komut model ağırlık dosyalarını kopyalamaz. Docker mantığında bir sanal yeni model manifestosu yaratır. Ama asıl büyük dosyalar olan ağırlık dosyaları kopyalanmaz.

cd $OLLAMA_MODELS
tree
du -h

3.3 Pull vs Run

  • pull modeli kütükten çeker ama çalıştırmaz.
  • run modeli eğer yerelde yoksa kütükten çeker arkasından çalıştırır.

3.4 Show Info

/show info

  • architecture
  • parameters
  • context length
  • embedding length
  • quantization