27B級を5.9GBに圧縮――PrismML「Bonsai 2」が示す小型化

高性能なLLMを自分のPCで試したいのに、メモリが足りない。そんな壁に挑むのが、PrismMLが2026年9月17日に公開した「Ternary Bonsai 2 27B」です。Qwen3.8 27Bをもとに、モデルの数値を非常に少ない種類で表す方法を使い、ファイルを約5.9GBに縮めました。

会社発表の評価では、複数の課題をまとめたスコアが元モデルの約98.2％だったとのこと。大きな本をぎゅっと薄くして、読みごたえを残すような発想です。ただし、この数字はPrismMLの評価条件での結果。実際の速度や日本語の使い勝手は、自分のPCと用途で確かめたいところです。