【動画】32GBのMacで大きなAIを動かす――Strataの速度改善と常用の課題を検証

メモリ32GBの小さなMacで、大きなAIと会話できる？ふじもったチャンネルが2026年10月14日に公開した約13分の動画は、Macに対応した推論エンジン「Strata v0.1.44」をM6 Mac miniで試す実機検証です。AIを動かす楽しさと、毎日使うための課題を紹介しています。

使ったのはメモリ32GB、内蔵SSD 256GBに外付けSSDを組み合わせた環境。Qwen3.8-Flash-Nextの圧縮モデルを動かし、データをどこに置くか、メモリをどう配分するかで速度が変わる様子を確かめます。

投稿者の測定では、最初は約2.5トークン／秒だった生成速度が、一部のデータを内蔵SSDに置く工夫で約10に改善。さらにメモリ配分を調整し、15.6トークン／秒を記録したと説明しています。トークン／秒は、文章を細かく区切った単位を1秒にいくつ生成できるかという目安です。

一方、長い入力を読み込む待ち時間や、途中で話しかけた際の会話データ再利用などにも課題が残るとしています。数値はこの機器・設定での検証結果です。大きなモデルを動かす仕組みに興味がある人に、設定を変えて試す過程まで楽しめる一本です。