ローカルLLM(自分専用生成AI)はいかが？（18：AnythingLLMをローカルで使う）

読者の皆様こんにちは

今日はAnything LLMについてのお話です。

まずAnything LLMが何かというお話ですが、要するにチャットツールです。基本的には今までに当ブログで登場したOpen WebUIやdifyと同じ類のアプリケーションです。そんなAnything LLMについて今日は深掘っていきましょう。余談ですが、Anything LLMについて情報収集するためにChat GPTに"Anything LLMについて教えて"などと投げました。ところがどっこい、Chat GPTは"Anything LLM"ではなく"Anything"+"LLM"だと勘違いするようで、LLMについてのAnythingな解説が出てきました。ちょっぴりめんどくさかったです(笑)。

今回使うもの

もはや恒例になってきましたが、Anything LLMもクラウド版とオンプレミス版があります。例に倣って当ブログではローカルでAIを使用することに重きを置いているため、Dockerを使用してサクッとローカルの仮想環境にサクッとインストールしちゃいます。その他の構成もいつも通りですが、M1 Mac miniに仮想環境が入っており、別途OllamaをパワーのあるWindowsマシンで動かしています。

使用を踏まえてAnything LLMについてもう少し詳しく

Anything LLM、正直にいうとOpen WebUIやdifyとベースは同じような機能でした。なので基本的な機能については割愛させていただくのですが、やはりAnything LLM特有の機能もいくつかあったのでご紹介します。

スラッシュコマンド

まずはスラッシュコマンドです。自身がよく利用する特定の機能を事前にプロンプトと共に名前をつけて保存しておくことで、チャット中に"/+保存したコマンド名"で機能を呼び出すことができます。例えば、チャットに送った内容を元に単語カードを作る趣旨のスラッシュコマンドを"/単語カード"と名づけて保存しておくと、チャット内で"/単語カード"と入力することでいつでもチャットの内容から単語カードが作れます。

Agent SkillsとAgent Flow

Agent Skillsはnode.jsでコードを書くことで、戻り値がstring型のみという制約はあるもののさまざまな機能を実行できます。これをノーコードで作れるようにしているのがAgent Flowです。ただしオンプレミス版の場合はflowを作る際に必要なノードが不足しているためあまり使い勝手がいいとは言えなさそうでした。またAgent Skillsはコミュニティハブからテンプレートを引っ張ってくることもできるのですがインストール時にdockerの設定に追加項目が必要であり、これまた後出し感があって少し使いにくいように思いました。

見た目の機能

"見た目の機能ってなんだよっ？？"て、話なのですが文字通り見た目の機能が充実しています。具体的には、ファビコンが設定できる、ログイン画面に独自の画像(会社のロゴを使うとか！？)が簡単に設定できます。またUIも割とわかりやすいのでそう言った意味では非常に使い勝手がいいと言えそうです。

最後に

今回は割と主観ゴリゴリな感じのブログになってしまいましたが、もちろんAnything LLMは優れたアプリケーションの一つです。用途やニーズに合わせてぜひLLMを動かすソフトを選定してみてください。