【PC Watch】NVIDIAマルチGPUでLLM高速化、「LM Studio」がテンソル並列処理をサポート
くまごろう
2026/6/4
2026/9/26
グラフィックボードを2枚使えば、AIの計算も分担できる? LM StudioのマルチGPU対応が、その選択肢を広げました。
公式の更新履歴では、2026年6月のLM Studio 0.4.15で、NVIDIAのCUDA環境向けに「テンソル並列」でモデルを読み込む機能が追加されています。これはモデルの計算を複数のGPUに分ける方式です。大きなモデルを載せたり、条件によって処理を速めたりできます。
ただし、GPUを増やせば必ず2倍速になるわけではありません。カード間の通信やモデルの構造、ソフトの設定で結果は変わります。手持ちのGPUで対応状況を確認してから試したい機能です。

コメント
コメントはまだありません。