【uepon日々の備忘録】8GBメモリでOK！Raspberry Pi 5で使える日本語対応ローカルLLM一覧

小さなRaspberry Pi 5でも、日本語のAIと会話できる？ この記事は8GBメモリの機種を想定し、軽量な言語モデルの候補と、Ollamaやllama.cppで動かす方法をまとめています。

記事ではGemma、Qwen、TinySwallowなどの小型モデルを挙げ、モデルの大きさや保存容量、動作速度の目安を比べています。大きなモデルほど賢くなる可能性はありますが、この小型PCではメモリと速度が制約になります。7B級は動かせても遅くなりやすい、という点も押さえています。

表の数値は設定やモデルの形式、冷却、保存装置で変わる目安です。「8GBならどれでも快適」という意味ではありません。初めてなら小型モデルから試し、使うモデルの配布元とライセンスも確認しましょう。