Holo-3.1-35B-A3B-GGUF

Hcompanyによる

HcompanyによるローカルAI推論用の35Bオープンウェイトモデル。

技術パラメータ 35B
必要なRAM 48 GB
コンテキスト 4,096

このモデルのベンチマークスコアはまだ検証されていません。

⇩ HuggingFaceでのダウンロード数は255,265回

このモデルを入手する方法

オラマ ollama pull holo-3.1-35b-a3b:35b
LMスタジオ LM Studioの「Discover」タブで「Holo-3.1-35B-A3B-GGUF」を検索するか、上記のGGUFファイルをダウンロードしてください。