【PC Watch】NVIDIAマルチGPUでLLM高速化、「LM Studio」がテンソル並列処理をサポート

くまごろう
2026/6/4
2026/9/26

グラフィックボードを2枚使えば、AIの計算も分担できる? LM StudioのマルチGPU対応が、その選択肢を広げました。


公式の更新履歴では、2026年6月のLM Studio 0.4.15で、NVIDIAのCUDA環境向けに「テンソル並列」でモデルを読み込む機能が追加されています。これはモデルの計算を複数のGPUに分ける方式です。大きなモデルを載せたり、条件によって処理を速めたりできます。


ただし、GPUを増やせば必ず2倍速になるわけではありません。カード間の通信やモデルの構造、ソフトの設定で結果は変わります。手持ちのGPUで対応状況を確認してから試したい機能です。


コメント

コメントはまだありません。

このサイトの内容について質問してください。