【適材適所】果たして「サーバー型LLM」と「ローカル型LLM」のどちらが良いのか...？ / 両者を比較してそれぞれの有用性を考える【基本的にサーバー一択だと思いきや...？】

AIを使うなら、会社のサーバーやクラウドにある大きなモデル？ それとも自分のPCで動くローカルモデル？ 趣味のプログラミングChが、両方の特徴と使い分けを考える動画です。

大きなモデルを使えるサービスは、手元に高性能な機器を用意しなくても始めやすい一方、利用条件や料金を確認する必要があります。ローカル型は機器やモデルを自分で選べますが、導入と管理の手間もあります。速さ、費用、扱う情報の種類を比べると、自分に合う選択が見えてきそうです。