とことんDevOps | 日本仮想化技術のDevOps技術情報メディア

DevOpsに関連する技術情報を幅広く提供していきます。

日本仮想化技術がお届けする「とことんDevOps」では、DevOpsに関する技術情報や、日々のDevOps業務の中での検証結果、TipsなどDevOpsのお役立ち情報をお届けします。
主なテーマ: DevOps、CI/CD、コンテナ開発、IaCなど
読者登録と各種SNSのフォローもよろしくお願いいたします。

LM Studioでモデルのダウンロードが超遅い時はHugging Face CLIをつかおう

ローカルLLMを手もとの環境で動かすのに私は普段LM Studioを使っています。 LM StudioはGUIアプリが使いやすい点、こまかなチューニングができる点が気に入っているからです。

さて、ローカルLLMを始めるに当たって重要なのがLLMモデルのダウンロードなのですが、なんか最近、遅いのですよね。モデルのダウンロード速度。

モデルのダウンロードが終わる頃にはやりたかったことを忘れている...くらいに遅いです。

LM Studioはモデルを検索してダウンロードボタン一個押すだけでモデルを入手できるので楽なのですが、いざ使おうと思うとモデルのダウンロードに時間がかかってもどかしいこと、もどかしいこと。

LM Studioで利用できるモデルは、Hugging Faceというリポジトリーからダウンロードして使うものがほとんどです。 Huggingfaceは「モデル用のGitHub」みたいなもので、LLMのモデルやちょっと前はAIを使った画像生成何はやって、画像生成用のモデルをHugging Faceからダウンロードしたことがある方も多いかと思います。

LLMのモデルはHugging Faceが一番標準的に使われています。

はじめの一手

まず、LM Studioを開いて、次の設定をオンにしたりオフにしたりして、高速にダウンロードされるようにならないかチェックしてみてください。

ただ、正直言うとCLIでダウンロードしたほうが高速です。

困った時はAIに相談だ

次にHugging FaceからCLIを使ってモデルを効率的にダウンロードする方法を調べましょう。

そんなときは今だと、「困った時はAIに相談だ」となると思うのですが、AIに実際聞いてみると次のような回答を得ました。

  • HF CLIをインストール
  • HF CLIでHugging Faceアカウントにログイン
  • 該当のモデルをダウンロード
  • 該当のモデルをLM Studioをインポート

では、試してみましょう。

HF CLIをインストール

基本的には公式の情報通りインストール します。今回はuvを使ってインストールしました。

brew install uv
uv tool install "huggingface_hub[cli]"

HF CLIでHugging Faceアカウントにログイン

次にHugging Faceアカウントにログインします。まだアカウントを作っていない場合は、作成したあとにログインします。

コマンドを実行するとブラウザーを使ってトークンを設定する方法とCLIを使って設定する方法を選べます。ブラウザーを使ったほうが簡単なので、ブラウザーを選択したあと、指示されたURLにアクセスして表示されている文字列をブラウザー側に入力します(コピペでもOK)。上手くいけばログイン完了です。

hf auth login

該当のモデルをダウンロード

いよいよ本番なのですが、ダウンロードしたいモデルをHugging Faceの検索で探すか、LM Studioで探します。

すると上の方にモデルの識別子が表示されます。たとえば以下の場合「lmstudio-community/Ministral-3-3B-Instruct-2512-GGUF」が識別子。その横のコピーボタンを押すと、モデルダウンロード用のURLをコピーできます。

準備ができたら、これをダウンロードするだけです。AIにはモデルをダウンロードしたあとインポートするように言われましたが、モデルをLM Studioだけでしか使わない場合は、~/.lmstudio/modelsのようなパス(OSによって異なりますが、設定を開いてApp home directoryを見ればどのディレクトリーか分かります)にモデルが保存されます。適切なパスにダウンロードするだけでLM Studioから利用可能になるようです。

では実際に手順をご紹介します。

% tree ~/.lmstudio/models 
.
├── google
│   └── gemma-4-E4B-it-qat-q4_0-gguf
│       └── gemma-4-E4B_q4_0-it.gguf
└── lmstudio-community
    ├── gemma-3n-E4B-it-MLX-4bit

~/.lmstudio/modelsのディレクトリーにはいくつかのディレクトリーが作られており、その下の階層にモデルのディレクトリーとモデルのファイルなどがダウンロードされます。

次のように実行するとダウンロードできます。--local-dirはモデルのファイル一式をダウンロードするパスを指定すれば良いですが、ディレクトリーが存在しない場合は自動的に作られるので、あらかじめ作る必要はありません。

% cd  ~/.lmstudio/models/lmstudio-community

# Xetを無効化
% export HF_HUB_DISABLE_XET=1

% hf download \
   lmstudio-community/Ministral-3-3B-Instruct-2512-GGUF \
  --local-dir ~/.lmstudio/models/lmstudio-community/Ministral-3-3B-Instruct-2512-GGUF

後は待つだけなのですが、予想以上に時間がかかると思います。その理由として、他のウェイトも一括でダウンロードしてしまうためです。ダウンロードが終わったあといらないウェイトは削除しても良いですが、ダウンロード時間の無駄なので、次のようにダウンロードするファイルを指定したほうが良いみたいです。

たとえばQ4_K_M量子化モデルだけをダウンロードしたい場合は次のように実行できます*1

% hf download \ 
  lmstudio-community/Ministral-3-3B-Instruct-2512-GGUF \ 
  Ministral-3-3B-Instruct-2512-Q4_K_M.gguf mmproj-Ministral-3-3B-Instruct-2512-F16.gguf \ 
  --local-dir ~/.lmstudio/models/lmstudio-community/Ministral-3-3B-Instruct-2512-GGUF

hf downloadコマンドを使ったほうが、ダウンロード速度は速いと思います。ダウンロードが完了すると、LM Studioのモデル一覧に認識されます。

この方法では「該当のモデルをLM Studioをインポート」は不要でした。これは多分別のディレクトリーにダウンロードしたものを適切なディレクトリーにインポートすると気にするんでしょうね。今回は省略。

まとめ

まとめると次の通りです。

  • Hugging Face CLIを使う場合はHugging Faceアカウントを作っておく
  • Hugging Faceからのモデルダウンロードは未認証状態だと遅い
  • LM Studioで「モデルのダウンロードが遅い」と感じたらHF CLIを使うと良い
  • 指定すれば、必要な量子化(Q4_K_Mなど)だけをダウンロードできる

*1:mmprojから始まるモデルは、画像も入力したい場合に必要