Contents [show]
- 1 Beste 7B Plaaslike KI Modelle
- 1.0.1 Llama-3-8B-Instruksies-32k-v0.1-GGUF
- 1.0.2 Mistral-7B-Instruksie-v0.3-GGUF
- 1.0.3 Meta-Llama-3-8B-Instruksies-GGUF
- 1.0.4 Parable-Granite-4.1-8B-Claude-Fable-5-GGUF
- 1.0.5 Ternêre-Bonsai-8B-gguf
- 1.0.6 Qwen3.5-9B-DeepSeek-V4-Flash-GGUF
- 1.0.7 Gelykenis-Qwen3-8B-Claude-Fabel-5-GGUF
- 1.0.8 Qwen2.5-7B-Instruksie-GGUF
- 1.0.9 Qwen2.5-VL-7B-Instruksies-GGUF
- 1.0.10 Qwen2.5-Koder-7B-Instruksie-GGUF
- 1.0.11 Qwen3.5-9B-Die-Uitdagende-Fabel-Ongesensureerde-Ketter-NEO-IMATRIX-MAX-MTP-GGUF
- 1.0.12 Meta-Llama-3.1-8B-Instruksies-GGUF
- 1.0.13 Qwen3-8B-GGUF
- 1.0.14 Qwythos-9B-v2-GGUF
- 1.0.15 Qwen3.5-9B-Ongesensureerd-HauhauCS-Aggressief
- 1.0.16 Qwen3-VL-8B-Instruksies-verwyder-GGUF
- 1.0.17 Flux2-Klein-9B-True-V2
- 1.0.18 UI-TARS-1.5-7B-GGUF
- 1.0.19 vntl-llama3-8b-v2-gguf
- 1.0.20 Qwen3.5-9B-GGUF
- 1.0.21 Qwythos-9B-Claude-Mythos-5-1M-GGUF
- 1.0.22 Ornith-1.0-9B-GGUF
- 1.1 Hallo, lekker om jou te ontmoet!
Beste 7B Plaaslike KI Modelle
Kompakte modelle in die 7B-9B-reeks - die ideale keuse vir gebruik op 'n skootrekenaar of 'n enkele verbruikers-GPU.
Llama-3-8B-Instruksies-32k-v0.1-GGUF
8B oopgewigmodel van MaziyarPanahi vir plaaslike KI-inferensie.
Mistral-7B-Instruksie-v0.3-GGUF
7B oopgewigmodel van MaziyarPanahi vir plaaslike KI-inferensie.
Meta-Llama-3-8B-Instruksies-GGUF
8B oopgewigmodel van MaziyarPanahi vir plaaslike KI-inferensie.
Parable-Granite-4.1-8B-Claude-Fable-5-GGUF
8B oopgewigmodel van AnkitAI vir plaaslike KI-inferensie.
Ternêre-Bonsai-8B-gguf
8B oopgewigmodel van prisma-ml vir plaaslike KI-inferensie.
Qwen3.5-9B-DeepSeek-V4-Flash-GGUF
9B oopgewigmodel van Jackrong vir plaaslike KI-inferensie.
Gelykenis-Qwen3-8B-Claude-Fabel-5-GGUF
8B oopgewigmodel van AnkitAI vir plaaslike KI-inferensie.
Qwen2.5-7B-Instruksie-GGUF
7B oopgewigmodel van Alibaba vir plaaslike KI-inferensie.
Qwen2.5-VL-7B-Instruksies-GGUF
7B oopgewigmodel van Alibaba vir plaaslike KI-inferensie.
Qwen2.5-Koder-7B-Instruksie-GGUF
7B oopgewigmodel van Qwen vir plaaslike KI-inferensie.
Qwen3.5-9B-Die-Uitdagende-Fabel-Ongesensureerde-Ketter-NEO-IMATRIX-MAX-MTP-GGUF
9B oopgewigmodel van DavidAU vir plaaslike KI-inferensie.
Meta-Llama-3.1-8B-Instruksies-GGUF
8B oopgewigmodel van Meta vir plaaslike KI-inferensie.
Qwen3.5-9B-Ongesensureerd-HauhauCS-Aggressief
9B oopgewigmodel van HauhauCS vir plaaslike KI-inferensie.
Qwen3-VL-8B-Instruksies-verwyder-GGUF
Qwen3-VL-8B-Instruct-abliterated-GGUF is 'n 8-miljard parameter visietaalmodel wat deur Alibaba ontwikkel is en volledig ablitereerd is om eie beperkings te verwyder terwyl kernvermoëns behoue bly. Hierdie model blink uit in die hantering van komplekse visuele redenasie en veelstaptake binne 'n gespreksraamwerk, wat dit ideaal maak vir oop-einde analise en kreatiewe generering in die VSA-streek. Om hierdie GGUF gekwantiseerde weergawe plaaslik te gebruik, is hoogs prakties vir gebruikers met middelreeks GPU's, wat vinnige afleidingspoed bied sonder om gespesialiseerde ondernemingshardeware te benodig.
UI-TARS-1.5-7B-GGUF
7B oopgewigmodel van mradermacher vir plaaslike KI-inferensie.
vntl-llama3-8b-v2-gguf
Die vntl-llama3-8b-v2-gguf is 'n 8B-parametertaalmodel wat deur lmg-anon ontwikkel is en spesialiseer in hoëgehalte-vertaal- en gesprekstake. Dit blink uit in die verwerking van die VNTL-v5-1k-datastel om vloeiende reaksies te lewer, wat dit ideaal maak vir veeltalige klets-toepassings en gelokaliseerde inhoudgenerering. Om hierdie model plaaslik te laat loop, vereis dit 'n GPU met voldoende VRAM om die 8B-parametergewig doeltreffend te hanteer, wat responsiewe werkverrigting vir intydse dialoog verseker.
Qwen3.5-9B-GGUF
Qwen3.5-9B-GGUF is 'n kompakte groot taalmodel wat deur Alibaba ontwikkel is en 9 miljard parameters bevat. Dit blink uit in gesprekstake en beeld-na-teks-omskakeling, wat dit ideaal maak vir liggewig-toepassings wat doeltreffende streek-VSA-ontplooiing vereis. Die gebruik van hierdie model plaaslik is prakties op verbruikersgraad-hardeware danksy sy klein voetspoor, wat vinnige afleidingspoed bied, selfs op beskeie GPU's wanneer dit gepaard gaan met optimaliseringsbiblioteke soos Unsloth.
Qwythos-9B-Claude-Mythos-5-1M-GGUF
9B oopgewigmodel van empero-ai vir plaaslike KI-inferensie.
Ornith-1.0-9B-GGUF
Ornith-1.0-9B-GGUF is 'n 9-miljard parameter taalmodel wat deur ornith-ai ontwikkel is en ontwerp is vir gespreksinteraksies binne die VSA-streek. Dit blink uit in die genereer van natuurlike dialoog en die hantering van informele kletstake, wat dit ideaal maak vir liggewig virtuele assistente of eenvoudige kliëntediensrobotte. Om hierdie model plaaslik te laat loop, vereis dit beskeie hardewarehulpbronne, wat dit toelaat om vinnig op verbruikersgraad-GPU's te werk sonder om massiewe datasentrums te benodig.
