OpenAI のオープンソースモデルがリリースされました

OpenAIからgpt-oss-120bとgpt-oss-20bのモデルがApache 2.0 licenseでリリースされました

MoE の Reasoningモデルで MXFP4 で量子化されています


gpt-oss-120b — for production, general purpose, high reasoning use cases that fit into a single H100 GPU (117B parameters with 5.1B active parameters)
gpt-oss-20b — for lower latency, and local or specialized use cases (21B parameters with 3.6B active parameters)


HuggingFaceからダウンロードできます

LMStudio や Ollama からもダウンロードできます


Ollamaで動かす時はOllamaを最新版にアップデートして

ollama run gpt-oss:20b

又は

ollama run gpt-oss:120b

を実行します


gpt-oss-20b をさくっと試したところ、速度的には使いやすそうな感じです。

Core i7-770 + GTX 1080(8G) + LMStudio

8.6 トークン/sec


最近は中国製オープンソースモデルの性能が上がってきていたので、アメリカ勢の巻き返しなるか!?


コメント

コメントはまだありません。