LM Studio + CPUメモリが64GB以上で gpt-oss-120B 動作
くまごろう
2025/8/13
2026/9/26
「大きなモデルは高価なGPUが必須?」という疑問から、gpt-oss-120bの動作を自分のWindows PCで試しました。
きっかけは中村様のXのポストでした。下の表は、この環境で測った生成速度です。
Core i7-10700K 64GB RTX 3060 12GB | ガードレールオフ | 5.34トークン/秒 |
Core i9-12900 128GB RTX 5060Ti 16GB | ガードレールはデフォルト | 10.02トークン/秒 |
Ollama + OpenWebUIも試しました
この条件ではLM Studioの方が速い結果でした。ただし、設定やモデルの読み込み方が同一とは限らないため、ソフト全体の優劣はこの測定だけでは決められません。
Core i9-12900 128GB RTX 5060Ti 16GB | 5.4トークン/秒 |

コメント
コメントはまだありません。