ローカルLLM(自分専用生成AI)はいかが？（18：AnythingLLMをローカルで使う）

読者の皆さん、こんにちは。今回は、手元の環境で使えるAIチャットアプリ「AnythingLLM」を試します。以前紹介したOpen WebUIやDifyと同じく、AIモデルと会話するための画面を用意し、資料を使った質問などにも活用できる道具です。

【今回の構成】

AnythingLLMをDockerでM1 Mac mini上に動かし、回答を作るAIモデルは別のWindows PCのOllamaで動かしました。どちらも自分の管理する機器ですが、2台の間ではネットワーク通信をします。「画面をローカルに置くこと」と「AIの処理を外部へ送らないこと」は分けて確認する必要があります。AnythingLLM自体は、設定次第でクラウドのAIサービスにも接続できます。

【使って気づいたこと】

チャット画面は分かりやすく、ロゴやログイン画面の見た目も変更できます。よく使う指示を名前付きで保存し、チャットから呼び出せるスラッシュコマンドも便利でした。たとえば「単語カードを作る」という指示を登録すれば、毎回長い説明を書かずに済みます。

エージェントの機能には、コードで動きを作るAgent Skillsと、画面上で処理をつなぐAgent Flowsがあります。ただし、私が試した当時のオンプレミス構成では、Flowで使いたいノードがそろわず、思ったほど自由に組めませんでした。使える機能は版や構成で変わるので、導入前に公式ドキュメントと実際の画面を確認してください。コミュニティからスキルを追加する場合も、必要な設定を先に調べておくと安心です。

【まとめ】

AnythingLLMは、チャットを中心にローカルAIを試したい人にとって有力な選択肢です。一方で、Open WebUIやDifyとの優劣は、資料の扱い方、拡張機能、管理のしやすさなど、何をしたいかで変わります。まず小さく試し、自分の作業に合う道具を選ぶのがよさそうです。