VRAM別ベンチマーク
VRAM 12GB で動くモデル
VRAM 12GB のGPUで実測したローカルLLMを、生成速度や量子化方式から比較できます。
← 全ベンチマークへ戻る生成速度グラフ
比較表
列見出しで並べ替え、backend と GPU の選択欄で絞り込みができます。
| Mistral 7B | Q4_K_M | RTX 3060 | 12 | lm-studio | 37.9 | 8,192 | 2026-03-18 | — |
| Llama 3.1 8B | Q4_K_M | RTX 3060 | 12 | ollama | 33.6 | 8,192 | 2026-02-21 | — |