OpenAI のオープンソースモデルがリリースされました
OpenAIからgpt-oss-120bとgpt-oss-20bのモデルがApache 2.0 licenseでリリースされました
MoE の Reasoningモデルで MXFP4 で量子化されています
gpt-oss-120b — for production, general purpose, high reasoning use cases that fit into a single H100 GPU (117B parameters with 5.1B active parameters)
gpt-oss-20b — for lower latency, and local or specialized use cases (21B parameters with 3.6B active parameters)
HuggingFaceからダウンロードできます
LMStudio や Ollama からもダウンロードできます
Ollamaで動かす時はOllamaを最新版にアップデートして
ollama run gpt-oss:20b
又は
ollama run gpt-oss:120b
を実行します
gpt-oss-20b をさくっと試したところ、速度的には使いやすそうな感じです。
Core i7-770 + GTX 1080(8G) + LMStudio | 8.6 トークン/sec |
最近は中国製オープンソースモデルの性能が上がってきていたので、アメリカ勢の巻き返しなるか!?

コメント
コメントはまだありません。