VRAM 16GB のモデル gpt-oss-20b は 16GB で動くように作られているというだけあってサクサクいけます 40トークン/秒以上出ると思う。きもちぇー グラボ、ピカピカ光るし ( ´ㅁ`; )
コメント
コメントはまだありません。