【テックナビ】GLM-4.5 AirをM3 Ultraで試してみた🔥

「大きなAIをMacで動かすと、どんな感触？」テックナビがAppleのM3 Ultra搭載機でGLM-4.5 Airを試した動画です。開発元のZ.aiは、GLM-4.5 Airを推論やコード作成などに対応する公開モデルとして紹介しています。

「Air」という名前でも、総パラメータ数は約1060億。回答を作る際には、その一部にあたる約120億を使う方式です。動画の動作例はM3 Ultraという特定の機器での検証なので、普通のMacでも同じ速さになるとは限りません。