Ollama ile Küçük Modeller İçin En Uygun VDS Paketi
Ollama, açık ağırlıklı dil modellerini tek komutla indirip yerel bir API üzerinden çalıştırmanızı sağlar. Sunucularımızda GPU yoktur; model işlemcide ve RAM'de çalışır. Bu yüzden yaklaşık 1-8 milyar parametreli, 4 bit nicemlenmiş küçük modeller uygundur ve yanıt süresi model boyutuna ve istem uzunluğuna göre değişir. Sınıflandırma, özetleme, metin düzeltme ya da veriyi dışarı göndermeden deneme yapmak gibi işlerde kullanılır.
Önerilen işletim sistemi: Ubuntu 24.04, Debian 13
En uygun paket
Xeon VDS 4
1-4 milyar parametreli modeller
- vCPU
- 4 Çekirdek
- RAM
- 8 GB ECC
- Disk
- 40 GB SSD
- Bağlantı
- 1 Gbps
Neden bu paket?
- Model tamamen RAM'e yüklendiği için belirleyici olan bellek miktarıdır; Xeon serisinde 32 GB'a kadar seçenek vardır.
- Çıkarım işlemcide yapıldığından 4 ve 6 çekirdekli paketler modele daha fazla işlem gücü ayırır.
- Modeller ve istemler sunucunuzda kalır; veriyi bir sağlayıcıya göndermeden deneme yapabilirsiniz.
- Küçük bir model dosyası birkaç GB tutar; 40 GB disk birkaç modele yeter, daha fazlası için siparişte ek disk ekleyebilirsiniz.
İhtiyacınıza göre paket
Küçük başlayın; büyüdükçe paketinizi yükseltebilirsiniz.
1-4 milyar parametreli modeller
4 bit nicemlenmiş 3B civarı bir model yaklaşık 2-3 GB RAM kullanır; 8 GB RAM ve 4 çekirdek sistem ve uygulamanız için pay bırakır.
Xeon VDS 4
4 Çekirdek · 8 GB ECC · 40 GB SSD · 1 Gbps
7-8 milyar parametreli modeller
4 bit nicemlenmiş 7-8B bir model yaklaşık 5-6 GB RAM ister; 16 GB RAM uzun bağlam penceresine de yer bırakır.
Xeon VDS 5
6 Çekirdek · 16 GB ECC · 40 GB SSD · 1 Gbps
Birden fazla model ya da 12-14B
Birkaç modeli aynı anda bellekte tutmak ya da 12-14B bir modeli denemek için 32 GB RAM.
Xeon VDS 6
6 Çekirdek · 32 GB ECC · 40 GB SSD · 1 Gbps
Nasıl başlarım?
- 1Siparişte Ubuntu 24.04 ya da Debian 13 seçin.
- 2curl -fsSL https://ollama.com/install.sh | sh ile Ollama'yı kurun; servis olarak otomatik başlar.
- 3ollama pull ile küçük bir model indirin (ör. llama3.2:3b ya da qwen2.5:3b) ve ollama run ile deneyin.
- 4Ollama API'si varsayılan olarak yalnız 127.0.0.1:11434 adresini dinler; uygulamanızı aynı sunucuda çalıştırın ya da erişimi Nginx arkasında parolayla sınırlayın.
- 5Bir arayüz isterseniz Open WebUI'yi Docker ile kurup Ollama'ya bağlayın.
Dakikalar içinde teslim
Ödeme sonrası otomatik kurulum; erişim bilgileriniz panelinize gelir.
İstanbul lokasyonu
Vodafone İstanbul veri merkezi, Türkiye'ye düşük gecikme.
DDoS koruması
Saldırı trafiği ücretsiz olarak süzülür.
7/24 Türkçe destek
Bağlantı sorunlarını çözer, istenirse işletim sistemini kurarız.
Taşıma desteği
Mevcut sunucunuzdan geçişte yardımcı oluruz.
Toplu alım
Birden fazla sunucu için indirim, destek talebiyle.
Sıkça sorulan sorular
Evet, küçük modeller işlemcide çalışır. Sunucularımızda GPU yoktur; yanıt süresi model boyutuna, istem uzunluğuna ve paketin çekirdek sayısına bağlıdır, bu yüzden önce küçük bir modelle deneyin.
4 bit nicemlenmiş, 1-8 milyar parametreli modeller bu sunucular için uygundur. Çok büyük modeller bu paketlerin RAM'ine sığmadığı için önerilmez.
Model dosyasının boyutu kadar RAM'e ek olarak sistem ve bağlam için pay bırakın. 3B bir model için 8 GB, 7-8B bir model için 16 GB'lık paketi öneririz.
Ollama'nın REST API'si ve OpenAI uyumlu bir uç noktası vardır; uygulamanızdan HTTP isteğiyle çağırabilirsiniz.
Benzer kullanım alanları
Aynı türdeki diğer işler için önerdiğimiz paketler.
OpenClaw kişisel asistan
OpenClaw VDS: kendi sunucunuzda 7/24 çalışan açık kaynak kişisel yapay zekâ asistanı. Mesajlaşma uygulamalarına bağlanır, model API anahtarı sizde.
n8n yapay zekâ ajanları
Yapay zekâ ajanı VDS: n8n'in AI Agent düğümüyle e-posta, destek ve CRM işlerini yürüten ajanları kendi sunucunuzda 7/24 çalıştırın. GPU gerekmez.
Flowise
Flowise sunucu: sürükle-bırak arayüzle LLM akışları ve sohbet botları kurduğunuz Flowise'ı kendi VDS'inizde 7/24 çalıştırın. GPU gerekmez, tam yetki.
Langflow
Langflow sunucu: görsel editörde yapay zekâ ajanları ve RAG akışları kurduğunuz Langflow'u kendi VDS'inizde çalıştırın. Python, Docker ve tam yetki.
Dify
Dify self-hosted: yapay zekâ uygulamaları, bilgi tabanı ve ajanları Docker Compose ile kendi VDS'inizde çalıştırın. Model API anahtarı sizde, tam yetki.
Open WebUI (API ile)
Open WebUI sunucu: ekibiniz için kendi yapay zekâ sohbet arayüzünüzü kurun; modeller API üzerinden, anahtar sizde. Docker ile kurulum, GPU gerekmez.