【情報の灯台チャンネル】【世界初】AMD、ローカルPC上で1280億パラメータのLLMを実行可能に

巨大なAIをクラウドではなく手元のPCで動かす――情報の灯台チャンネルが取り上げたのは、AMDのRyzen AI MAX+に関する発表です。

AMDによると、128GBメモリを備えたRyzen AI MAX+ 395に対応するドライバーとソフトを組み合わせ、最大1280億パラメータ級の言語モデルを実行できます。モデルをメモリに載せられることと、どんな作業も快適に速くできることは別。必要な構成や速度を確かめると、このニュースのすごさがより具体的に見えてきます。