ローカルLLM(自分専用生成AI)はいかが？（１：概要）

ChatGPTをはじめ、生成AIが花盛りです。ものすごい勢いで進化を重ねているので行く末が恐ろしくも感じます。そんな昨今ではありますが、社内にメモリが16GBのM1 Mac mini やメモリーが8G乗っている nVidia のグラボひっそりと放置されていることを僕は見逃してはいません。

「こいつを使って以前から興味のあるローカルLLM(自分のパソコンの中で動くAI)の実験に使ってみよう」と思いたったのが、ローカルLLM情報局の発端です。

自分専用AIという響きは、シャア専用とかジョジョのスタンドみたいでかっこいいですね。手持ちの少し古い機器では実用になる性能が出せそうな気がしませんが、これからローカルでAIを活用しようという動きも活発化しそうですし、人柱になればとの思いです。（調査・実験です！）

ローカルAIとChatGPTやGeminiとの大きな違い

今、多くの方が使っているのはChatGPTやGeminiといったAIと思います。これらはクラウドにある大きなコンピューターで動いています。（インターネット接続されたどこかにあるデータセンターに本体がある）めちゃくちゃ高性能なコンピューターなのでめちゃくちゃ賢いAIが動かせて、それをみんなが使っている状態です。

一方、これから試そうとしているローカルAIは、さほど高性能でもない自分のパソコンでAIを動かしてみよう！という挑戦的な取り組みになります。2025/５の時点では私のパソコンではChatGPTのような超かしこい実用的なAIは動かないと思いますが、「へー、わりとちゃんと動くじゃん」的な性能AIならなんとかなると予想しています。

ローカルAIのメリット、デメリット

使うコンピューターの性能によりますが、普通のパソコンで実行できるローカルAIの性能はまだ実用的とは言えません。一方で大きな利点もわかっています。

1. 個人情報や機密情報が外に出ない
2. 自分のパソコンの中で動くので、大事なデータがネットに流れません。お客様情報などの社外秘の情報を扱う時にも安心です。
3. 追加料金がかからない
4. AI自体はChatGPTのサブスクのようにお金を払う必要はなく使い放題です。
5. ネットがなくても動く
6. インターネットに接続できない職場などでも使えます。

ローカルだからこそのデメリットもあります。

1. コンピューター（パソコン）が必要
2. 自分のパソコンで動かすためには当たり前ですがパソコンが必要。しかも、できるだけ高性能な物が必要です。
3. 性能が低い
4. 現時点では高性能AIを動かすにはパソコンの性能が足りません。パソコンでも使える程度に性能を下げたAIを動かすことになります。

今回はざっと状況の説明をさせてもらいましたが、次回はもう少し具体的な話ができれば、と思います。