とほほのローカルAI入門

「ローカルAIって何？ まず何を入れればいいの？」という人に向けた、とほほのWWW入門の解説ページです。自分のPCやサーバーでAIを動かす基本から、代表的な道具の使い方まで、順を追って読めます。

ページではHugging Faceでモデルを探す方法に加え、llama.cpp、Ollama、LM Studio、Foundry Local、vLLMなどを紹介しています。同じローカルAIでも、手軽に試す道具と複数人向けの運用に使う道具では役割が違うことがわかります。

手元で動かすと入力内容を外部のAIサービスに送らずに済む構成を作れます。ただし、モデルのダウンロードや更新には通信が必要な場合があり、利用条件とPCの性能も確認しましょう。