Ollama ve LLM VDS Sunucu Boyutlandırma ve Maliyet Hesaplayıcı

Llama 3.1, Qwen 2.5 veya DeepSeek modellerini kendi kiraladığınız VDS / Dedicated sunucuda barındırmak için gereken RAM miktarını, KV önbellek yükünü ve DDR5 veri yolu üzerinden saniyedeki token üretim hızını (TPS) hesaplayın. OpenAI / Anthropic API faturalarıyla kendi sunucunuzun başabaş maliyetini karşılaştırın.

Model Boyutu (Parametre)

Kuantizasyon (GGUF / Ağırlık Formatı)

Sunucu Donanım & RAM Veri Yolu

Bağlam (Context Window)8.192 token

Eşzamanlı İstek (Concurrency)1 kullanıcı

Aylık Token Hacmi15 Milyon Token

Önerilen VDS RAM

16GB RAM

Model: 4.8 GB · KV Cache: 4 GB · İşletim Sistemi: 2.5 GB

Önerilen İşlemci

8vCPU Çekirdek

AVX-512 veya AMX destekli modern AMD EPYC / Intel Xeon işlemci.

Üretim Hızı (TPS)

9.5token / sn

Veri yolu: 70 GB/s (Akıcı okuma hızı)

Aylık Tasarruf / Kâr

-45₺ / ay

Bulut API: 1.155 ₺ vs VDS: 1.200 ₺

VDS Sanal Sunucuda Rahatça Çalışır

Model (llama3.1:8b q4_k_m) ve KV belleği toplam ~11.3 GB RAM ister. Modern bir 16 GB DDR5 VDS üzerinde CPU ile saniyede ~9.5 token hızında akıcı çalıştırabilirsiniz.

Başabaş Hacim: Ayda en az 15.6 milyon token tüketiyorsanız kendi sunucunuzu kiralamak API'den daha kârlıdır.

Tek Komutla Ollama Kurulum & Başlatma Kodu

# 1. Ollama veya vLLM Kurulumu
curl -fsSL https://ollama.com/install.sh | sh

# 2. Modeli Başlat (llama3.1:8b)
ollama run llama3.1:8b:q4_k_m

# 3. Context Length (num_ctx: 8192) ile API Başlat
curl http://localhost:11434/api/generate -d '{
  "model": "llama3.1:8b:q4_k_m",
  "prompt": "Merhaba! Sunucu altyapım hazır mı?",
  "options": {
    "num_ctx": 8192
  }
}'

2026 Altyapı Mimarisi: Neden API Yerine Kendi VDS Sunucunuzda LLM Barındırmalısınız?

KV Cache ve Bağlam Uzunluğu (Context Length) Darboğazı

Bir LLM modelini sunucuya yüklerken yapılan en yaygın hata, yalnızca model ağırlıklarını hesaba katmaktır. Örneğin 8 milyar parametreli Llama 3.1 modeli Q4 kuantizasyonda ~5.5 GB RAM kaplar; ancak 32.000 tokenlik bir bağlam penceresi ve eşzamanlı 3 kullanıcı eklendiğinde, KV önbelleği (Key-Value cache) ilave 4-6 GB RAM tüketir.

Bu nedenle üretim ortamında 8B modeller için en az 16 GB veya 32 GB RAM'e sahip bir VDS seçilmesi, işletim sistemi OOM (Out Of Memory) katilinin süreci sonlandırmasını engeller.

CPU RAM Veri Yolu vs GPU VRAM: Token Üretim Hızı

LLM metin üretim (generation/decoding) aşaması, işlemci gücünden (FLOPs) ziyade bellek bant genişliğine (Memory Bandwidth) bağımlıdır. Bir token üretmek için model ağırlıklarının tamamının RAM'den işlemci çekirdeklerine akması gerekir.

Çift kanallı modern bir DDR5 VDS sunucu (~70 GB/s bant genişliği), 8B Q4 modelinde saniyede 8-12 token hız sunar. Bu hız insan okuma hızına (ortalama 4-5 kelime/sn) denktir ve müşteri destek botları veya iç doküman aramaları için yeterlidir. 70B modellerde ise >900 GB/s bant genişliği sağlayan GPU VRAM (RTX 4090 veya A100) zorunludur.

Ollama ve LLM VDS Sunucu Boyutlandırma ve Maliyet Hesaplayıcı

# 1. Ollama veya vLLM Kurulumu curl -fsSL https://ollama.com/install.sh | sh # 2. Modeli Başlat (llama3.1:8b) ollama run llama3.1:8b:q4_k_m # 3. Context Length (num_ctx: 8192) ile API Başlat curl http://localhost:11434/api/generate -d '{ "model": "llama3.1:8b:q4_k_m", "prompt": "Merhaba! Sunucu altyapım hazır mı?", "options": { "num_ctx": 8192 } }'

2026 Altyapı Mimarisi: Neden API Yerine Kendi VDS Sunucunuzda LLM Barındırmalısınız?

KV Cache ve Bağlam Uzunluğu (Context Length) Darboğazı

Bu nedenle üretim ortamında 8B modeller için en az 16 GB veya 32 GB RAM'e sahip bir VDS seçilmesi, işletim sistemi OOM (Out Of Memory) katilinin süreci sonlandırmasını engeller.