Docker を使用した LLM のローカル実行: モデル ランナーのクイックスタート ガイド

Dockerを使っているなら、AIモデルも同じような操作で試せる？ Docker公式のこの入門記事は「Model Runner」を使い、小さな言語モデルを手元のPCで取得して動かす流れを紹介します。

例ではSmolLM2を使い、モデルの取得、質問、アプリからの呼び出しまで進みます。OpenAI形式のAPIを通じて、別のプログラムとつなぐ方法も示されています。

記事は2025年公開時の手順なので、対応するOSや操作方法は現行の公式ドキュメントも確認してください。小さなモデルの答えにも間違いはあり得る、と記事自身が注意を促しています。