ローカルLLM(自分専用生成AI)はいかが？（17：difyをローカルで使う）

読者の皆様こんにちは

本日のブログのお題は......"dify"についてです。

皆様AIアプリケーションやチャットボットといった機能を日常的にどれほど活用しておられますか？ゴリゴリ使われている方もいれば、ハードルが高そうで導入していないという方もおられると思います。今回は割と簡単に導入ができるチャットツールであるdifyについてご紹介します。

difyとは？

ものすごく簡単に説明するとChat GPTと同じです(笑)。"それならChat GPTでいいやろっ"って言われてしまいそうなのですが、もちろん違いがあります。1番のメリットとしては、当ブログで長らく推し続けている"ローカルで動作する"というポイントになります。difyというのはあくまで"チャットをするためのアプリ"であってチャットの中身はさまざまに設定できます。difyそのものを個人や社内のコンピュータにインストールし、接続先を以前ご紹介したollamaやLM Studioにすることで完全にローカルで動作します。

difyのメリット

前述の通り完全にローカルで動くため情報を完全にオフラインで使用することができます。またチャットツールを簡単に作ることに重きを置いているため、社内資料を読み込ませたチャットを簡単に公開(社内での他の利用者などに向けて)できます。もちろん使用ログも管理者から確認できますし、ユーザーごとにアクセスできるプロジェクトを変更することもできます。

今回使うもの

difyにはn8n同様クラウド版とオンプレミス版があります。クラウド版は無料プランが準備されているものの制限がある上にオンラインで利用しなければならないことから、今回はオンプレミス版をdockerにインストールしています。

dify...いいの？？

以前チャットツールとしてOpen WebUIをご紹介しました。鋭い方なら、Open WebUIとdifyの差も気になっているところでしょう。今回利用した範囲での感想としては、双方似たような機能があるもののdifyの方がインターフェースがわかりやすく、コンピューターに不慣れな人間でも、RAGの作成やユーザー管理がしやすそうといったところになります。特段制限を設けなければ、RAGの設定完了後にチャットツールが即座に専用のwebアプリとして利用できる状態になる点などはユーザーフレンドリーなように感じました。プロジェクトごとにユーザーが異なる場合や、情報を明確に分けたい場合などに使ってみてはいかがでしょうか？