Разгледайте модели с отворен код, хардуерни изисквания, бенчмаркове и команди с едно щракване на Ollama и LM Studio.
Какво мога да тичам?
Преместете плъзгача до наличната RAM памет и вижте кои модели са подходящи.
Тенденции в моделите
Орнит-1.0-9B-GGUF
9B модел с отворено тегло от deepreinforce-ai за локално извеждане с изкуствен интелект.
Орнит-1.0-35B-GGUF
35B модел с отворено тегло от deepreinforce-ai за локално извеждане с изкуствен интелект.
Qwen3.6-27B-MTP-GGUF
27B модел с отворено тегло от Alibaba за локално извеждане с изкуствен интелект.
Бонсай-27B-gguf
27B модел с отворено тегло от prism-ml за локално извеждане с изкуствен интелект.
Qwen3-Coder-30B-A3B-Instruct-GGUF
30B модел с отворено тегло от Alibaba за локално извеждане с изкуствен интелект.
nemotron-3.5-asr-streaming-0.6b-gguf
0.6B модел с отворено тегло от handy-computer за локално извеждане с изкуствен интелект.
Разглеждане по размер
Малки модели S
До 7B параметри - работи на повечето лаптопи
Средни модели S
8B-34B параметри - изисква солиден графичен процесор
Големи модели S
35B+ хардуер от клас „параметри на работната станция“
Работи с вашите инструменти
✓ Работи с Ollama
✓ Работи с LM Studio
✓ GGUF формат, готов за работа
