MacOSに最適化したローカルLLM実行基盤「Swama」

MacでAIを自分の手元で動かすなら、専用に作られた道具はどこまで速い？ 東京のTrans-Nが2025年に公開した「Swama」は、SwiftとAppleの機械学習向け技術MLXで作った、Apple Silicon搭載Mac向けのオープンソース実行基盤です。

同社は、検証したMacとモデルの組み合わせではOllamaより生成速度が約1.5〜2倍だったと報告しています。すべての環境で同じ差が出るとは限りません。対応OSやモデル、利用条件は公式の案内とGitHub（https://github.com/Trans-N-ai/swama）で確認できます。