【動画】MacのNeural EngineでローカルLLMを支援――Splash 1.3.0を実機検証

くまごろう
2026/10/8
2026/10/8

Macの中のAI専用回路は、ローカルLLMにも使えるのでしょうか。ふじもったチャンネルが2026年10月7日に公開した約12分34秒の動画は、推論エンジン「Splash 1.3.0」の新機能を実機で確かめる解説です。


今回の中心はApple Neural Engineへの対応。AIが入力文を読み込んで準備する「prefill」という処理で、Qwen3.8-27BがNeural Engineを使う仕組みを紹介しています。5分8秒から対応内容の説明、7分26秒からM6 Mac mini・メモリ32GBで試した様子が見られます。


その前の更新も整理されており、容量を圧縮した量子化モデルの選択肢、メモリ管理、AIが道具を呼び出すTool Call、エージェント運用の改善を取り上げています。「更新したら何が変わる?」を追いやすい構成です。


投稿者は、モデルによっては不安定さを感じる場面もあると説明しています。速度の数字だけでなく、自分のMacとモデルで動く条件にも注目したい一本。以前紹介したSplashの初期検証から進んで、今回は1.3.0のNeural Engine対応を知るための動画です。


コメント

コメントはまだありません。

このサイトの内容について質問してください。