Bilgisayarda Yerel Çalıştırılabilen Yapay Zeka Modelleri
Bulut tabanlı AI servislerine sürekli bağlı kalmadan bilgisayarda çalışabilen yapay zeka modelleri. Llama, Qwen, Gemma, DeepSeek, Mistral, Phi ve GPT-OSS ailelerini donanım, model boyutu ve kullanım alanlarına göre karşılaştırıyoruz.
Yerel yapay zekada temel göstergeler
Resmî model katalogları ve çalıştırma araçlarının belgelerinden seçilmiş örnekler.
Yerel AI modellerinin dosya boyutları
Ollama kataloğundaki belirli model sürümlerinin yaklaşık indirme boyutları. Bunlar RAM tüketimi değil, model dosyası büyüklükleridir.
2026'da yerel çalıştırılabilen AI model aileleri
Llama
Llama 3.2'nin 1B ve 3B sürümleri hafif yerel kullanım için seçenekler sunar. Llama 3.1 ve 3.3 gibi ailelerde daha büyük modeller bulunur.
Qwen
Qwen3 ve sonraki ailelerde küçük ve büyük modeller bulunur. Genel sohbet, akıl yürütme, kodlama ve çok modlu kullanım için farklı sürümler sunulur.
Gemma
Gemma 3 ve Gemma 4, cihaz üzerinde çalıştırılabilen model seçenekleri içerir. Bazı sürümler metnin yanında görüntü ve ses girdilerini destekler.
DeepSeek-R1
Akıl yürütme odaklı model ailesidir. Distile edilmiş daha küçük sürümler yerel kullanım için uygundur. Tam boyutlu modeller çok daha yüksek kaynak gerektirir.
Mistral ve Ministral
Genel amaçlı metin işleme ve farklı uygulama senaryoları için modeller sunar. Ministral ailesinde 3B, 8B ve 14B seçenekleri bulunur.
Phi
Phi ailesi, görece küçük modellerle yerel çıkarım yapılmasına olanak tanır. Phi-4 Mini ve Phi-4 farklı donanım seviyelerine hitap eder.
GPT-OSS
20B ve 120B sürümleri bulunan açık ağırlıklı model ailesidir. Yerel ve özelleştirilmiş dağıtımlar için kullanılabilir. Donanım ihtiyacı sürüme göre önemli ölçüde değişir.
Granite
Kurumsal uygulamalar, metin işleme ve yazılım geliştirme senaryolarında değerlendirilebilen açık ağırlıklı modeller içerir.
RAM kapasitesine göre yerel AI seçenekleri
Aşağıdaki eşleştirmeler yaklaşık başlangıç rehberidir; kesin sistem gereksinimleri değildir. Quantization, bağlam uzunluğu, işletim sistemi ve GPU belleği sonucu değiştirebilir.
| Bilgisayar RAM'i | Başlangıç için model sınıfı | Örnek modeller | Beklenti |
|---|---|---|---|
| 8 GB | 1B–3B | Llama 3.2 1B/3B, Gemma 3 1B | Kısa görevler ve hafif sohbet |
| 16 GB | 3B–8B | Gemma 3 4B, Qwen3 8B, Llama 3.1 8B | Genel amaçlı yerel kullanım |
| 32 GB | 8B–14B; bazı daha büyük quantized modeller | Phi-4 14B, Gemma 3 12B | Daha geniş model seçenekleri |
| 64 GB+ | 14B–32B ve uygun yapılandırmalar | Gemma 3 27B, Qwen3 32B | Daha yüksek bellek gerektiren modeller |
RAM, VRAM ve model boyutu arasındaki fark
RAM
İşletim sistemi, uygulamalar, model ağırlıkları ve çıkarım işlemleri için kullanılan sistem belleğidir.
VRAM
Ekran kartının belleğidir. Modelin GPU üzerinde çalıştırılmasında önemli rol oynar. Yetersiz VRAM bazı işlemlerin RAM veya CPU'ya aktarılmasına neden olabilir.
Dosya boyutu
Model ağırlıklarının depolamada kapladığı alandır. Çalışma sırasında kullanılan toplam bellek bundan daha yüksek olabilir.
Nicemleme
Model ağırlıklarının daha düşük hassasiyetle saklanmasını sağlayabilir. Bellek ihtiyacını azaltırken kalite ve performans üzerinde farklı etkiler yaratabilir.
Yerel yapay zeka hangi işler için kullanılabilir?
| Kullanım alanı | Örnek model aileleri | Önemli kriter |
|---|---|---|
| Genel sohbet | Llama, Gemma, Qwen, Mistral | Dil kalitesi ve hız |
| Kod yazma | Qwen Coder, Devstral, Granite | Kod doğruluğu ve bağlam |
| Akıl yürütme | DeepSeek-R1, Qwen, GPT-OSS | Görev başarısı ve gecikme |
| Belge özetleme | Gemma, Llama, Qwen | Bağlam penceresi |
| Görsel inceleme | Gemma multimodal, Qwen-VL | Görsel giriş desteği |
| Yerel AI asistanı | Qwen, GPT-OSS, Llama | Araç kullanımı ve güvenlik |
Yerel yapay zeka çalıştırma araçları
Ollama
Modelleri indirme, çalıştırma ve yerel API üzerinden kullanma imkanı sunar. Windows, macOS ve Linux ortamlarını destekler.
LM Studio
Modelleri grafik arayüzle aramaya, indirmeye, belleğe yüklemeye ve sohbet etmeye olanak tanır.
llama.cpp
Özellikle GGUF modelleri çalıştırmak için kullanılan yerel çıkarım altyapısıdır. CPU ve desteklenen hızlandırıcılarda çalışabilir.
vLLM
Özellikle GPU tabanlı model sunumu, yüksek iş hacmi ve API servisleri için kullanılan çıkarım altyapısıdır.
Ollama ile yerel AI modeli çalıştırma
Ollama kurulduktan sonra aşağıdaki komutlardan biri terminalde çalıştırılabilir. İlk çalıştırmada model dosyası indirilir.
# Hafif Llama modeli ollama run llama3.2:1b # Llama 3.2 3B ollama run llama3.2 # Google Gemma 3 4B ollama run gemma3 # Qwen3 8B ollama run qwen3:8b # Microsoft Phi-4 ollama run phi4 # Mistral 7B ollama run mistral
LM Studio ile yerel AI kurulumu
İşletim sisteminizle uyumlu sürümü resmî siteden kurun.
Discover bölümünden Llama, Qwen, Gemma veya diğer model ailelerini inceleyin.
Model boyutu, quantization seviyesi ve mevcut bellek kapasitesini değerlendirin.
İndirilen modeli Chat bölümünden seçerek yükleyin.
Model hazır olduğunda internet tabanlı çıkarım API'sine ihtiyaç duymadan sohbet edin.
Yerel ve bulut tabanlı AI karşılaştırması
| Özellik | Yerel AI | Bulut AI |
|---|---|---|
| Model çıkarımı | Kullanıcının cihazında | Uzak sunucuda |
| İnternet gereksinimi | İndirme sonrası temel kullanımda gerekmeyebilir | Genellikle gerekir |
| Donanım ihtiyacı | Kullanıcıya aittir | Çoğunlukla sağlayıcıya aittir |
| Veri kontrolü | Yerel yapılandırmayla daha fazla kontrol | Sağlayıcının veri politikasına bağlı |
| Maliyet | Donanım, elektrik ve bakım | Abonelik veya API kullanımı |
| Model güncellemesi | Kullanıcı yönetebilir | Sağlayıcı yönetebilir |
| Performans | Yerel donanıma bağlı | Sunucu ve servis altyapısına bağlı |
Yerel yapay zekanın avantajları ve sınırlamaları
Veri üzerinde kontrol
Uygun yapılandırılmış yerel çıkarım sisteminde kullanıcı girdileri harici model API'sine gönderilmeden işlenebilir.
Çevrimdışı kullanım
Model ve gerekli bileşenler indirildikten sonra birçok temel görev internet bağlantısı olmadan yapılabilir.
Donanım kapasitesi
Büyük modeller yüksek RAM, VRAM ve işlem gücü gerektirebilir. Bazı bilgisayarlarda performans sınırlı kalabilir.
Güncellik ve bakım
Yerel modeller güncel internet bilgisine otomatik olarak erişmez. Güncelleme, güvenlik ve entegrasyon süreçleri ayrıca yönetilmelidir.
Yerel AI kullanırken nelere dikkat edilmeli?
Açık ağırlıklı olması her modelin sınırsız ticari kullanıma izin verdiği anlamına gelmez.
Mümkün olduğunda resmî model depolarını ve güvenilir dağıtımları tercih edin.
Model ağırlıkları dışında bağlam belleği ve uygulama yükü de kaynak tüketir.
Model servislerini gereksiz yere internete açık hale getirmeyin. Ağ erişimi ve kimlik doğrulama ayarlarını kontrol edin.
Küçük modelin hızlı çalışması, karmaşık görevlerde yeterli doğruluk sağlayacağı anlamına gelmez.
Araştırmanın sonucu: Yerel yapay zeka, artık yalnızca yüksek kapasiteli sunucularla sınırlı değil. Küçük modeller dizüstü bilgisayarlarda, daha büyük modeller ise yeterli RAM ve GPU kapasitesine sahip masaüstü sistemlerde çalıştırılabiliyor. Ancak model parametre sayısı, indirme boyutu, bellek gereksinimi ve gerçek çalışma hızı birbirinden ayrı değerlendirilmelidir.
Sık sorulan sorular
Yapay zeka modelleri bilgisayarda internetsiz çalışır mı?
Evet. Model ağırlıkları ve gerekli yazılımlar indirildikten sonra birçok model yerel olarak çalıştırılabilir.
8 GB RAM ile yerel yapay zeka kullanılabilir mi?
Bazı küçük ve quantized modeller kullanılabilir. Performans, işletim sistemi, CPU ve bağlam ayarlarına bağlıdır.
16 GB RAM için hangi AI modelleri uygundur?
Gemma 3 4B, Llama 3.2 3B ve uygun quantization ile bazı 7B–8B modeller başlangıç seçenekleri olabilir.
32 GB RAM ile büyük dil modeli çalıştırılabilir mi?
Evet. Bazı orta ve büyük modeller uygun quantization ve bağlam ayarlarıyla çalışabilir. Ancak hız ve uyumluluk donanıma bağlıdır.
Yerel AI için ekran kartı şart mı?
Her zaman değil. Bazı modeller CPU üzerinde çalışabilir. GPU kullanımı çoğu durumda çıkarım hızını artırabilir.
Ollama ücretsiz mi?
Ollama'nın yerel model çalıştırma yazılımı ücretsiz kullanılabilir. Ancak seçilen modelin lisansı ve ek hizmet koşulları ayrıca incelenmelidir.
LM Studio ne işe yarar?
Yerel modelleri grafik arayüz üzerinden indirmeyi, yüklemeyi ve sohbet etmeyi kolaylaştırır.
ChatGPT'nin kullandığı tüm modeller bilgisayara indirilebilir mi?
Hayır. OpenAI'ın GPT-OSS gibi açık ağırlıklı modelleri yerel olarak kullanılabilir. ChatGPT'de sunulan tüm modellerin ağırlıkları indirilebilir değildir.
DeepSeek modelleri yerel çalıştırılabilir mi?
Evet. Özellikle DeepSeek-R1 ailesinin distile edilmiş küçük sürümleri yerel çalıştırma araçlarıyla kullanılabilir.
Yerel AI modelleri Türkçe destekliyor mu?
Birçok çok dilli model Türkçe girdi ve çıktı üretebilir. Ancak Türkçe kalitesi model ailesine, sürüme ve göreve göre değişir.
Model dosyası 5 GB ise 5 GB RAM yeterli midir?
Hayır. Model ağırlıkları dışında çalışma zamanı ve bağlam belleği gerekir.
Yerel AI modelleri tamamen gizli midir?
Yerel çıkarım veri kontrolünü artırabilir. Ancak uygulamanın telemetri, güncelleme, ağ erişimi ve ek entegrasyon ayarları ayrıca değerlendirilmelidir.
Yerel AI ile yazılım geliştirilebilir mi?
Evet. Kodlama odaklı modeller kod tamamlama, açıklama, hata analizi ve geliştirme süreçlerinde kullanılabilir.
En iyi yerel yapay zeka modeli hangisi?
Tek bir model her bilgisayar ve görev için en iyi değildir. Donanım, dil desteği, kalite, hız ve lisans koşulları birlikte değerlendirilmelidir.
İçerik tarihi: 15 Kasım 2026. Kapsam: Yerel çalıştırılabilen açık ağırlıklı model aileleri, örnek dosya boyutları ve donanım seçenekleri.
Ollama: Model etiketleri, örnek indirme boyutları ve komut satırı çalıştırma bilgileri.
Google: Gemma 3 ve Gemma 4 ailelerinin model boyutları ve hedef cihaz sınıfları.
LM Studio: Yerel model kataloğu, uygulama gereksinimleri ve kurulum iş akışı.
Ollama — Model Kütüphanesi
Ollama — Resmî GitHub
LM Studio — Model Kataloğu
LM Studio — Sistem Gereksinimleri
LM Studio — Başlangıç Rehberi
Google — Gemma Modelleri
Qwen — Resmî GitHub
llama.cpp — Resmî GitHub
OpenAI — Hugging Face Modelleri
Editoryal sınırlılık: Bu makaledeki RAM sınıfları kesin üretici gereksinimleri değil, yaklaşık seçim rehberidir. Model dosyası büyüklüğü çalışma anındaki bellek tüketimini göstermez. Model sürümleri, lisanslar ve donanım uyumluluğu değişebilir.





