VRAM別ベンチマーク

VRAM 16GB で動くモデル

VRAM 16GB のGPUで実測したローカルLLMを、生成速度や量子化方式から比較できます。

← 全ベンチマークへ戻る

生成速度グラフ

VRAM 16GB の tokens/sec 比較
tokens/secPhi-3.5-mini (Q4_K_M) — RTX 4060 Ti / ollama78.2rnj-1:8b (Q4_K_M) — RTX 4060 Ti / ollama41.8

比較表

列見出しで並べ替え、backend と GPU の選択欄で絞り込みができます。

ローカルLLMの実測ベンチマーク比較表
Phi-3.5-miniQ4_K_MRTX 4060 Ti16ollama78.28,1922026-04-19—
rnj-1:8bQ4_K_MRTX 4060 Ti16ollama41.88,1922026-02-14ウォームアップ後の3回平均（暫定値）