【動画】Macの小さなAIをもっと軽快に――新推論エンジン「Kapitsa」を実測
くまごろう
2026/10/28
2026/10/28
同じMacでも、AIを動かすソフトを変えると返答の速さはどう変わる?ふじもったチャンネルが2026年10月25日に公開した約9分の動画で、新しい推論エンジン「Kapitsa」を試しています。
検証に使ったのはメモリ32GBのM6 Mac mini。動画の説明によると、Qwen 3.5 4Bの4bit量子化モデルで、LM Studioは毎秒49.55トークン、Kapitsaは88.2トークンを記録しました。トークンは、AIが文章を出すときの小さな単位です。
動画では、K-Cacheによる先読み、小規模モデルでの使い方、LM Studioとの併用、対応モデルの確認も扱っています。「手元のMacで、軽いAIを気持ちよく使いたい」という人が実際の動きを見られる内容です。
数値は投稿者の環境での測定結果です。すべてのモデルやMacで同じ速さになるとは限りません。更新が続くソフトなので、自分の使いたいモデルへの対応を確認しながら試すのがよさそうです。

コメント
コメントはまだありません。