【茶々丸のIT教室】Mac mini 24GBでローカルLLM実測―「動く」と「快適」は別だった

2026年9月19日公開の「茶々丸のIT教室」の動画。Mac mini M4・メモリ24GBで、複数のローカルLLMを同じ条件で5回ずつ測り直した結果を紹介しています。

ローカルLLMは、自分のパソコンの中で文章を考えるAIです。動画の測定では、小型の3Bモデルが毎秒約46トークン、9Bモデルが約18トークン、27Bモデルが約5.4トークンでした。トークンは文章を細かく区切った単位で、この数値は返答を作る速さの目安です。投稿者は、普段使いしやすい範囲を9B程度までと評価しています。

面白いのは、「メモリに入って動くこと」と「待たずに使えること」は別だという点。大きなAIほど快適とは限らず、用途に合う小さなモデルを選ぶ大切さがわかります。これは投稿者の環境での実測で、すべてのパソコンや設定で同じ結果になるわけではありません。

出典：茶々丸のIT教室（動画・概要欄）。画像はAIで作成したイメージで、実機や測定画面の写真ではありません。