MacでLLMを動かすとメモリやGPUを大量に使うので、どれくらい使われているのか気になりますよね top コマンドやアクティビテモニタでもわかるといえばわかるのですが、asitop を使えば視覚的にもわかりやすく表示できます ターミナルで動作するので、ssh で別の mac にログインして状態を確認するのも簡単 インストール(brewからもできました) pip install asitop 詳しくは、このページにある github のURLを参照ください
コメント
コメントはまだありません。