tartalom
- 1 A legjobb 7B helyi mesterséges intelligencia modellek
- 1.0.1 Llama-3-8B-Instruct-32k-v0.1-GGUF
- 1.0.2 Mistral-7B-Instruct-v0.3-GGUF
- 1.0.3 Meta-Llama-3-8B-Instruct-GGUF
- 1.0.4 Parable-Gránit-4.1-8B-Claude-Fable-5-GGUF
- 1.0.5 Ternary-Bonsai-8B-gguf
- 1.0.6 Qwen3.5-9B-DeepSeek-V4-Flash-GGUF
- 1.0.7 Parable-Qwen3-8B-Claude-Fable-5-GGUF
- 1.0.8 Qwen2.5-7B-Instruct-GGUF
- 1.0.9 Qwen2.5-VL-7B-Instruct-GGUF
- 1.0.10 Qwen2.5-Coder-7B-Instruct-GGUF
- 1.0.11 Qwen3.5-9B-A-Dacoló-Mese-Cenzúrázatlan-Eretnek-NEO-IMATRIX-MAX-MTP-GGUF
- 1.0.12 Meta-Llama-3.1-8B-Instruct-GGUF
- 1.0.13 Qwen3-8B-GGUF
- 1.0.14 Qwythos-9B-v2-GGUF
- 1.0.15 Qwen3.5-9B-Cenzúrázatlan-HauhauCS-Agresszív
- 1.0.16 Qwen3-VL-8B-Instruct-abliterated-GGUF
- 1.0.17 Flux2-Klein-9B-True-V2
- 1.0.18 UI-TARS-1.5-7B-GGUF
- 1.0.19 vntl-llama3-8b-v2-gguf
- 1.0.20 Qwen3.5-9B-GGUF
- 1.0.21 Qwythos-9B-Claude-Mythos-5-1M-GGUF
- 1.0.22 Ornith-1.0-9B-GGUF
- 1.1 Szia, örülök, hogy megismerhettelek!
A legjobb 7B helyi mesterséges intelligencia modellek
A 7B-9B sorozat kompakt modelljei – ideális választás laptopon vagy egyetlen fogyasztói GPU-n történő futtatáshoz.
Llama-3-8B-Instruct-32k-v0.1-GGUF
8 milliárd nyílt súlyú modell a MaziyarPanahitól a lokális AI következtetéshez.
Mistral-7B-Instruct-v0.3-GGUF
7 milliárd nyílt súlyú modell a MaziyarPanahitól a lokális AI következtetéshez.
Meta-Llama-3-8B-Instruct-GGUF
8 milliárd nyílt súlyú modell a MaziyarPanahitól a lokális AI következtetéshez.
Parable-Gránit-4.1-8B-Claude-Fable-5-GGUF
AnkitAI 8B nyílt súlyú modellje lokális AI következtetéshez.
Ternary-Bonsai-8B-gguf
8B nyílt súlyú modell prizma-ml-ből lokális mesterséges intelligencia következtetéshez.
Qwen3.5-9B-DeepSeek-V4-Flash-GGUF
9B nyílt súlyú modell a Jackrongtól a lokális AI következtetéshez.
Parable-Qwen3-8B-Claude-Fable-5-GGUF
AnkitAI 8B nyílt súlyú modellje lokális AI következtetéshez.
Qwen2.5-7B-Instruct-GGUF
7B nyílt súlyú modell az Alibabától a lokális AI következtetéshez.
Qwen2.5-VL-7B-Instruct-GGUF
7B nyílt súlyú modell az Alibabától a lokális AI következtetéshez.
Qwen2.5-Coder-7B-Instruct-GGUF
7B nyílt súlyú modell a Qwen-től a lokális AI következtetéshez.
Qwen3.5-9B-A-Dacoló-Mese-Cenzúrázatlan-Eretnek-NEO-IMATRIX-MAX-MTP-GGUF
9B nyílt súlyú modell a DavidAU-tól a lokális AI következtetéshez.
Meta-Llama-3.1-8B-Instruct-GGUF
8B nyílt súlyú modell a Metától a lokális AI következtetéshez.
Qwythos-9B-v2-GGUF
9B nyílt súlyú modell az empero-ai-ból lokális MI következtetéshez.
Qwen3.5-9B-Cenzúrázatlan-HauhauCS-Agresszív
9B nyílt súlyú modell a HauhauCS-től lokális AI következtetéshez.
Qwen3-VL-8B-Instruct-abliterated-GGUF
A Qwen3-VL-8B-Instruct-abliterated-GGUF egy 8 milliárd paraméteres, az Alibaba által fejlesztett vizuális nyelvi modell, amelyet teljesen abliteráltak a saját korlátozások eltávolítása érdekében, miközben megőrizték az alapvető képességeket. Ez a modell kiválóan kezeli az összetett vizuális érvelést és a többlépéses feladatokat egy párbeszédes keretrendszeren belül, így ideális a nyílt végű elemzéshez és a kreatív generáláshoz az Egyesült Államokban. A GGUF kvantált verziójának helyi futtatása rendkívül praktikus a közepes méretű GPU-kkal rendelkező felhasználók számára, mivel gyors következtetési sebességet kínál speciális vállalati hardver nélkül.
Flux2-Klein-9B-True-V2
9B nyílt súlyú modell a wikeeyangtól a lokális AI következtetéshez.
UI-TARS-1.5-7B-GGUF
7B nyílt súlyú modell az mradermachertől a lokális AI következtetéshez.
vntl-llama3-8b-v2-gguf
A vntl-llama3-8b-v2-gguf egy 8 bites paraméteres nyelvi modell, amelyet az lmg-anon fejlesztett ki, és amely kiváló minőségű fordítási és társalgási feladatokra specializálódott. Kiválóan képes feldolgozni a VNTL-v5-1k adathalmazt a gördülékeny válaszok biztosításához, így ideális többnyelvű csevegőalkalmazásokhoz és lokalizált tartalomgeneráláshoz. A modell helyi futtatásához elegendő VRAM-mal rendelkező GPU szükséges a 8 bites paraméter súlyának hatékony kezeléséhez, biztosítva a valós idejű párbeszédek reszponzív teljesítményét.
Qwen3.5-9B-GGUF
A Qwen3.5-9B-GGUF egy kompakt, nagyméretű nyelvi modell, amelyet az Alibaba fejlesztett ki, és 9 milliárd paramétert tartalmaz. Kiválóan teljesít a párbeszédes feladatokban és a kép-szöveg átalakításban, így ideális olyan könnyű alkalmazásokhoz, amelyek hatékony régió-US telepítést igényelnek. A modell lokális futtatása praktikus fogyasztói szintű hardvereken kis helyigényének köszönhetően, és gyors következtetési sebességet kínál még szerény GPU-kon is, ha optimalizáló könyvtárakkal, például az Unsloth-tal párosítják.
Qwythos-9B-Claude-Mythos-5-1M-GGUF
9B nyílt súlyú modell az empero-ai-ból lokális MI következtetéshez.
Ornith-1.0-9B-GGUF
Az Ornith-1.0-9B-GGUF egy 9 milliárd paraméteres nyelvi modell, amelyet az ornith-ai fejlesztett ki az amerikai régióban folytatott társalgási interakciókhoz. Kiválóan képes természetes párbeszédek generálására és alkalmi csevegési feladatok kezelésére, így ideális könnyű virtuális asszisztensek vagy egyszerű ügyfélszolgálati botok számára. A modell helyi futtatása szerény hardveres erőforrásokat igényel, így gyorsan működik fogyasztói szintű GPU-kon, hatalmas adatközpontok nélkül.
