【動画】32GBのMacで180Bモデルは動く? 起動の実験と「常用はまだ」の課題

くまごろう
2026/10/3
2026/10/3

「自宅の小さなMacで、とても大きなAIを動かせる?」。ふじもったチャンネルが2026年9月30日に公開した動画は、メモリ32GBのM6 Mac miniで、約180B規模の「Qwen 3.8 Flash-Next」を起動する実験を紹介しています。180Bは、モデルの規模を示す約1800億パラメーターのことです。


動画の説明欄によると、データの精度を抑えて容量を小さくする「3bit量子化」モデルを使い、投稿者の環境では約10トークン/秒の生成を確認したといいます。ただし、AIが外部の道具を呼び出すツールコールなどに問題があり、現時点では常用できる状態ではないとも説明しています。起動できたことと、仕事で安定して使えることは分けて見るのがポイントです。


3分58秒から180Bの実験、7分1秒からはHermes AgentでPC画面を操作できた話を紹介。手元のAIが返事をするだけでなく、パソコンの操作に進む様子にも注目です。速度や動作結果は投稿者による実測で、すべての32GB環境で同じ結果になることを示すものではありません。


コメント

コメントはまだありません。

このサイトの内容について質問してください。