LM Studio + CPUメモリが64GB以上で gpt-oss-120B 動作

くまごろう
2025/8/13
2026/9/26


「大きなモデルは高価なGPUが必須?」という疑問から、gpt-oss-120bの動作を自分のWindows PCで試しました。

きっかけは中村様のXのポストでした。下の表は、この環境で測った生成速度です。


Core i7-10700K 64GB RTX 3060 12GB

ガードレールオフ

5.34トークン/秒

Core i9-12900 128GB RTX 5060Ti 16GB

ガードレールはデフォルト

10.02トークン/秒


Ollama + OpenWebUIも試しました

この条件ではLM Studioの方が速い結果でした。ただし、設定やモデルの読み込み方が同一とは限らないため、ソフト全体の優劣はこの測定だけでは決められません。


Core i9-12900 128GB RTX 5060Ti 16GB

5.4トークン/秒



コメント

コメントはまだありません。

このサイトの内容について質問してください。