İçerik
- 1 En İyi 7 Milyar Yerel Yapay Zeka Modeli
- 1.0.1 Llama-3-8B-Instruct-32k-v0.1-GGUF
- 1.0.2 Mistral-7B-Instruct-v0.3-GGUF
- 1.0.3 Meta-Llama-3-8B-Instruct-GGUF
- 1.0.4 Parable-Granite-4.1-8B-Claude-Fable-5-GGUF
- 1.0.5 Üçlü-Bonsai-8B-gguf
- 1.0.6 Qwen3.5-9B-DeepSeek-V4-Flash-GGUF
- 1.0.7 Parable-Qwen3-8B-Claude-Fable-5-GGUF
- 1.0.8 Qwen2.5-7B-Instruct-GGUF
- 1.0.9 Qwen2.5-VL-7B-Instruct-GGUF
- 1.0.10 Qwen2.5-Coder-7B-Instruct-GGUF
- 1.0.11 Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF
- 1.0.12 Meta-Llama-3.1-8B-Instruct-GGUF
- 1.0.13 Qwen3-8B-GGUF
- 1.0.14 Qwythos-9B-v2-GGUF
- 1.0.15 Qwen3.5-9B-Sansürsüz-HauhauCS-Agresif
- 1.0.16 Qwen3-VL-8B-Instruct-abliterated-GGUF
- 1.0.17 Flux2-Klein-9B-True-V2
- 1.0.18 UI-TARS-1.5-7B-GGUF
- 1.0.19 vntl-llama3-8b-v2-gguf
- 1.0.20 Qwen3.5-9B-GGUF
- 1.0.21 Qwythos-9B-Claude-Mythos-5-1M-GGUF
- 1.0.22 Ornith-1.0-9B-GGUF
- 1.1 Merhaba, tanıştığımıza memnun oldum!
En İyi 7 Milyar Yerel Yapay Zeka Modeli
7B-9B aralığındaki kompakt modeller, dizüstü bilgisayar veya tek bir tüketici GPU'su üzerinde çalıştırmak için ideal aralıktır.
Llama-3-8B-Instruct-32k-v0.1-GGUF
Yerel yapay zeka çıkarımı için MaziyarPanahi'den 8B açık ağırlıklı model.
Mistral-7B-Instruct-v0.3-GGUF
Yerel yapay zeka çıkarımı için MaziyarPanahi'den 7B açık ağırlıklı model.
Meta-Llama-3-8B-Instruct-GGUF
Yerel yapay zeka çıkarımı için MaziyarPanahi'den 8B açık ağırlıklı model.
Parable-Granite-4.1-8B-Claude-Fable-5-GGUF
AnkitAI'den yerel yapay zeka çıkarımı için 8B açık ağırlıklı model.
Üçlü-Bonsai-8B-gguf
Yerel yapay zeka çıkarımı için prism-ml'den 8B açık ağırlıklı model.
Qwen3.5-9B-DeepSeek-V4-Flash-GGUF
Jackrong'dan yerel yapay zeka çıkarımı için 9B açık ağırlıklı model.
Parable-Qwen3-8B-Claude-Fable-5-GGUF
AnkitAI'den yerel yapay zeka çıkarımı için 8B açık ağırlıklı model.
Qwen2.5-7B-Instruct-GGUF
Alibaba'dan yerel yapay zeka çıkarımı için 7B açık ağırlıklı model.
Qwen2.5-VL-7B-Instruct-GGUF
Alibaba'dan yerel yapay zeka çıkarımı için 7B açık ağırlıklı model.
Qwen2.5-Coder-7B-Instruct-GGUF
Qwen'den yerel yapay zeka çıkarımı için 7B açık ağırlıklı model.
Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF
Yerel yapay zeka çıkarımı için DavidAU'dan 9B açık ağırlıklı model.
Meta-Llama-3.1-8B-Instruct-GGUF
Meta'dan yerel yapay zeka çıkarımı için 8B açık ağırlıklı model.
Qwythos-9B-v2-GGUF
Empero-ai'den yerel yapay zeka çıkarımı için 9B açık ağırlıklı model.
Qwen3.5-9B-Sansürsüz-HauhauCS-Agresif
Yerel yapay zeka çıkarımı için HauhauCS'den 9B açık ağırlıklı model.
Qwen3-VL-8B-Instruct-abliterated-GGUF
Qwen3-VL-8B-Instruct-abliterated-GGUF, Alibaba tarafından geliştirilen ve temel yeteneklerini korurken tescilli kısıtlamaları ortadan kaldırmak için tamamen basitleştirilmiş 8 milyar parametreli bir görüntü-dil modelidir. Bu model, konuşma çerçevesinde karmaşık görsel akıl yürütme ve çok adımlı görevleri ele almada mükemmeldir ve bu da onu ABD bölgesinde açık uçlu analiz ve yaratıcı üretim için ideal hale getirir. Bu GGUF nicelleştirilmiş sürümünü yerel olarak çalıştırmak, orta seviye GPU'lara sahip kullanıcılar için oldukça pratiktir ve özel kurumsal donanım gerektirmeden hızlı çıkarım hızları sunar.
Flux2-Klein-9B-True-V2
Wikeeyang'ın yerel yapay zeka çıkarımı için geliştirdiği 9B açık ağırlıklı model.
UI-TARS-1.5-7B-GGUF
Yerel yapay zeka çıkarımı için mradermacher'den 7B açık ağırlıklı model.
vntl-llama3-8b-v2-gguf
vntl-llama3-8b-v2-gguf, lmg-anon tarafından geliştirilen ve yüksek kaliteli çeviri ve konuşma görevlerinde uzmanlaşmış 8B parametreli bir dil modelidir. Akıcı yanıtlar sunmak için VNTL-v5-1k veri setini işlemede mükemmeldir ve bu da onu çok dilli sohbet uygulamaları ve yerelleştirilmiş içerik üretimi için ideal hale getirir. Bu modeli yerel olarak çalıştırmak, 8B parametre ağırlığını verimli bir şekilde işleyebilecek yeterli VRAM'e sahip bir GPU gerektirir ve gerçek zamanlı diyalog için duyarlı performans sağlar.
Qwen3.5-9B-GGUF
Qwen3.5-9B-GGUF, Alibaba tarafından geliştirilen ve 9 milyar parametre içeren kompakt bir büyük dil modelidir. Konuşma tabanlı görevlerde ve görüntüden metne dönüştürmede üstün performans göstererek, verimli ABD bölgesi dağıtımı gerektiren hafif uygulamalar için idealdir. Bu modeli yerel olarak çalıştırmak, küçük boyutu sayesinde tüketici sınıfı donanımlarda pratiktir ve Unsloth gibi optimizasyon kütüphaneleriyle eşleştirildiğinde, mütevazı GPU'larda bile hızlı çıkarım hızları sunar.
Qwythos-9B-Claude-Mythos-5-1M-GGUF
Empero-ai'den yerel yapay zeka çıkarımı için 9B açık ağırlıklı model.
Ornith-1.0-9B-GGUF
Ornith-1.0-9B-GGUF, ornith-ai tarafından geliştirilen ve ABD bölgesindeki konuşma etkileşimleri için tasarlanmış 9 milyar parametreli bir dil modelidir. Doğal diyalog üretme ve gündelik sohbet görevlerini yerine getirme konusunda üstün performans gösteren bu model, hafif sanal asistanlar veya basit müşteri destek botları için idealdir. Bu modeli yerel olarak çalıştırmak, mütevazı donanım kaynakları gerektirir ve bu sayede büyük veri merkezlerine ihtiyaç duymadan tüketici sınıfı GPU'larda hızlı bir şekilde çalışabilir.
