ローカルLLM(自分専用生成AI)はいかが?(14:プログラム開発)

読者の皆様こんにちは。


本日のテーマは"プログラム開発"ということで、今まで利用してきたローカルLLMをプログラム開発にも使ってみようというお話です。


皆様LLM(ローカルかどうかに関わらず)には様々な質問を投げるでしょう。調べた情報をある程度的確に返してくれて表まで作ってくれたり。こんなことができるとわかれば、プログラムを書く際にコードに関する質問をしてみたり、コードを書かせたくなるのは自然な流れになるでしょう。

しかしコードを書く際に、いちいちLLMを開いて質問を投げかけるのは面倒な上に、チャットを新たに始めるたびにプログラムに対する事前情報を伝えてやらなければならないのも面倒でしょう。


そこで今回は有名テキストエディタであるVisual Studio CodeにAIコーディングアシスタントであるClineを追加しLM Studioと組み合わせて使用する方法をお伝えしましょう。


まずはVisual Studio Codeの準備なのですが、ここについては他記事にも使用方が掲載されているため今回は割愛します。


続いて下準備として、LM Studioの起動とモデルロード時のパラメータの設定を変更して行きます。


原則は以前ローカルLLM(自分専用生成AI)はいかが?(12:OpenWebUIで社内共有(LM Studio編))でご紹介した方法と同様にLM Studioの準備を進めていくのですが、ここで注意点があります。LM Studioでモデルのロードを行う際、loadタブよりコンテキスト長が設定できます。この値が初期設定では4096になっていますが、Clineで利用する場合、この値が最低16000ほど必要になります。


LM Studioを動かしているマシンの性能によって、設定できる上限値が異なるため(性能不足の場合はモデルのロードに失敗します)各々の環境に応じて設定してください。参考としてRTX5060Ti(16GB)を使用した当ブログの環境で18000程度、以前当ブログに登場したM4 Mac Book Air 32GBで上限の131072まで設定できました。ここではいつも利用しているgemma-3-12bを設定しています。




次のステップとしてClineの追加です。Visual Studio Codeの拡張機能で"Cline"を検索し追加します。



追加すると再度バーに人型のアイコンが追加されます。これをクリックするとClineにアクセスできます。ただしClineは以前ご紹介したOpen WebUIと同じく、それ単体では機能できないので接続先のAIを設定してやる必要があります。


Clineの画面内右上の歯車のアイコンをクリックし、設定に入ります。続いて、画面中程にあるAPIプロバイダーからLM Studioを選択。選択できたら、ここで一度LM Studioを開きます。通常であればこの時点で、Cline設定内のベースURLがデフォルトの値に設定されLM Studioに追加しているモデルが一覧で表示されるので、好きなモデルを選択することで利用可能な状態になります。

ここでデフォルトの設定以外を利用する場合は以前の記事"ローカルLLM(自分専用生成AI)はいかが?(12:OpenWebUIで社内共有(LM Studio編))"で確認した接続先設定などを参考にし設定を行なってください。




設定が完了したら、右上”Done”をクリック。

これで準備は完了です。


準備ができたら実際に利用してみましょう。今回はサンプルとして以下の画像のようなprint文2行の簡単なPythonのプログラムを用意しました。Clineにはこの2行目に当たる"hello world"を消してもらおうと思います。そこで入力欄に"2行目のhello worldを表示したくない"と入力してみました。

結果は以下の画像のように見事2行目だけを削除してくれました。この状態から左下のsaveをクリックすることで実際にコードを変更してくれます。


このようにLM StudioとClineを組み合わせることで簡単にコードをAIに修正してもらえます。プロジェクトファイルが大きくなった場合、プログラムの行数が長い場合、より大きなモデルを利用する場合には、LM Studioを動かすマシンにパワーが要求されるので、実際に利用する環境に適する条件を探してみてはいかがでしょうか?


コメント

コメントはまだありません。