80億規模のAIなのに、モデルのファイルは約1.15GB。PrismMLの「Bonsai-8B」は、重みを1ビットで表すことでサイズを小さくした言語モデルです。この記事は「小さいなら実際に使いやすいのか」を、仕組みや当時の利用者の声から考えています。 開発元は、PCや端末の限られたメモリーで動かす用途を想定し、モデルと実行例を公開しています。ただし、ファイルが小さいことと、どんな質問にも正確に答えられることは別です。記事中の性能評価や他モデルとの比較は、評価方法と実行環境を合わせて読む必要があります。 この分野は更新が速く、2026年4月の記事にある対応ソフトの状況は変わり得ます。試すときは開発元の最新の実行手順を確認しましょう。
コメント
コメントはまだありません。