【動画】32GBのMac miniで27Bを高速化？「Splash」の実測を見てみよう

「大きなAIは、メモリ32GBのMacでは遅い？」そんな疑問に、実機で挑んだ動画です。ふじもったチャンネルが2026年9月27日、M6 Mac miniで27B規模の言語モデルを動かし、Apple製チップ向けの推論エンジン「Splash」を試しました。

投稿者の環境では、従来およそ毎秒10トークンだった生成速度が、Splashで開始直後は約25トークン、長い会話の途中でも約15トークンになった場面を紹介しています。トークンは、AIが文章を作るときに数える小さな単位です。導入手順や、会話の長さによるメモリ制限も見られます。

ただし、これは一台での検証結果です。Splashの公式案内は27Bモデルの4-bit版に少なくとも36GBのメモリを求めています。32GBでの動作を誰でも再現できるとは限りません。「速さ」と「動かせる条件」をセットで確かめたい動画です。