【GIGAZINE】AMDのドライバ更新でAI処理能力が大幅強化され109BのLlama 4 Scoutをローカル実行可能に

大きな言語モデルを、机の上のPCで動かす一歩。AMDのドライバー更新によって、Ryzen AI MAX+ 395でLlama 4 Scoutをローカル実行できるようになったという記事です。

AMDの発表が対象にするのは、128GBのメモリを積んだ機器など、条件を満たす構成です。Llama 4 Scoutは総パラメータ数が約1090億ですが、一度に使う部分は約170億の「専門家を切り替える」モデル。数字の大きさだけで速さや回答の質は決まらないので、必要なメモリや実際の速度も合わせて見たいですね。