Bonsai 27B : 27B のモデルがスマホで動作
くまごろう
2026/7/15
2026/7/15
Prism MLが好評の Qwen3.6-27B ベースに必要なメモリ容量や計算量を抑える手法を適用して開発したようです
Ternary Bonsai 27B は 5.9GB、1ビットのBonsai 27B は 3.9GBという小ささ！
性能の劣化も最小限に抑えられているようなので、今後の評価が気になるところです
コメント
コメントはまだありません。