LLM-jp のモデルを Ollama で実行

日本発のLLM研究プロジェクト LLM-jp のモデルを、手元のPCで動かしてみたくなりませんか？

LM Studio なら簡単にモデルを検索してダウンロードできるのですが、Ollama で実行したい時にどうやってモデルを指定すれば良いのかわかりにくかったので動画にしました

gguf 形式のモデルなら Ollama で hugging face からダウンロードして利用できるらしいので、mmngaさんが公開されている gguf 形式のモデルを探して、ollama run 書き方をサイトでコピーするところまで収録

ここでコピーしたコマンドを Ollama がインストールされているコンピューターで実行すれば、モデルがダウンロードされて使えるようになります。

商用利用できるかは、選んだLLM-jpモデルとGGUF変換版それぞれのライセンス表示を確認してください。モデルごとに条件が異なる場合があります。

日本産のモデルで日本の会社を効率化できたらいいな

みなさまもぜひ LLM-jp を活用してみてくださいね

もし、もっと良い方法や間違いがあったらコメント欄でご指摘くださいませ。