とことんDevOps | 日本仮想化技術のDevOps技術情報メディア

DevOpsに関連する技術情報を幅広く提供していきます。

日本仮想化技術がお届けする「とことんDevOps」では、DevOpsに関する技術情報や、日々のDevOps業務の中での検証結果、TipsなどDevOpsのお役立ち情報をお届けします。
主なテーマ: DevOps、CI/CD、コンテナ開発、IaCなど
読者登録と各種SNSのフォローもよろしくお願いいたします。

LM Studio BionicとLM Studioの違い

LM Studio とは

LM Studioとは、ローカルLLMモデルを手元のコンピューターで動かすことができるソフトウェアです。 同じ用途ではOllamaも使われますが、Ollamaと比べると次のような特徴があります。

  • モデルをGUIで検索できる
  • 配布されているモデルは複数の量子化フレーバーから選べる
  • 開発者モードを使うと、作業中の状態がログで確認できる
  • CLIを追加インストールするとGUIとCLIでLM Studioを操作可能

LM StudioはローカルLLMモデルを使ってチャットを使うのが主な使い方です。 LM StudioはOllamaと同様にOpenAI互換APIを備えており、これを使うことで外部アプリケーションからLM Studioを呼ぶことが可能です。 この方法でサードパーティーのAI AgentソフトウェアでLM Studio上のLLMモデルを使って、コーディングなどの作業が行えます。

LM Studio Bionicとは

LM StudioがLLMモデルを使ったチャット環境を提供していたのに対して、LM Studio Bionic(以降、Bionic)はAI Agentソフトウェアという位置付けです。 Bionicが他のAI Agentソフトウェアと異なる点として、LM Studioの基本機能であるLLMモデルを利用する為の機能も備えている点があります。

基本的にAI Agent的な使い方をするものではありますが、Bionicを使ってチャットを使うことももちろんできます。

LM Studio Bionicを使って外部AI Agentソフトウェアと連携する

たとえばBionicを起動するとローカルAPIサーバーがデフォルトの設定で立ち上がります。 また、デフォルトのコンテキスト長も16Kに設定されています。これはAI Agentソフトウェアの多くは10K以上のコンテキストを初期で消費することがあるので、その対応のためだと思われます。つまり、LM Studioをサポートする外部ソフトウェアからの利用もBionicでも同様にできるので安心です。

たとえばVSCodeの場合、互換性があるため当然ながら同じようにGitHub Copilotのローカルモデルとして、LM Studioのモデルが使えるようになります。

VSCodeのLM Studioプロバイダーとの接続にはLM Studio for Copilot Chatを使っています。 marketplace.visualstudio.com

OpenCodeの場合も、LM Studioを使っていた頃と同様に使えます。 例はCUI版ですが、GUIデスクトップ版も設定は同じパスのものをみているため、GUIデスクトップ版も同様に使えます。

Anything LLMの場合も同様です。

このように、LM Studioベースで動かしていた時と同様に外部ソフトウェアから、利用できるのが確認できます。

LM Studioとモデルの保管パスが共通

LLMモデルはLM Studioと同様に~/.lmstudio/modelsに保管するため、LM Studio Bionic用にLLMモデルを別にダウンロードする必要もありません。 すでにダウンロードしたモデルをそのままBionicでも使えます。 逆に言えば、ダウンロードしたLLMモデルをtarballで固めておけば、展開するだけですぐ他の環境でも使えます。

LM Studioと共通している部分

新たなモデルを検索、ダウンロードする場合はLM StudioのようにExploreからGUIを使ってモデルの検索ができます。 デフォルト設定ではそのマシンで動くであろうモデルだけが表示される設定になっているのも、LM Studioと共通しています。 あえてその設定を外す方法もLM Studioと共通です。

Libraryでは、ダウンロード済みのモデルの管理ができます。細かいパラメーター(モデルごとのコンテキスト長、プロンプトテンプレートの設定、モデルのパラメータなど)調整などができます。

モデルを選んで設定を開くと、LM Studioにあったようなパラメータ調整が可能です。

Local Model APIでは、ローカルAPIサーバーの入/切、Base URLや直近イベントのログ表示などができます。

Local Model Defaultsではデフォルトのコンテキスト長の設定と、LM Studioにもあるガードレール機能が設定できます。

Runtimeでは、アップデートの確認とランタイムごとの利用するバージョンの指定ができるようになっています。

ちなみにBionicでもLMLinkに対応していますので、多デバイスでLM Studioを使っていたユーザーも引き続きBionicでも同様に使うことができます。 LM StudioでCLIを追加インストールして使っていた場合は、Bionicでも同様にCLIで色々な操作や情報の取得が可能です。

LM Studio Bionic独自の機能

LM Studio Bionic独自の機能の一つとして、クラウドモデルの利用ができることが挙げられます。 本機能は現在、従量課金で利用できるようです。サイトを確認すると、さらなるプランも準備中とのことです。

lmstudio.ai

LM Studio Bionicの注意点

唯一の注意点としてはLM StudioとLM Studio Bionicは同時に起動できないところでしょうか。 LM Studio BionicはLM Studioをベースとしているため、機能が重複しているために同時起動不可になっています。

起動するのはいずれか一つだけです。

一方で、両方のインストールを一つのマシンにインストールはできますので、両方を触ってみてLM Studio Bionicが使いやすそうであれば移行すれば良いですし、しばらく平行で使ってみて使いやすい方を継続して使えばいいと思います。

LM StudioをLLMモデルのエンジンとして使っていた場合は、Bionicに乗り換えても良いのでは?と思います。 筆者はしばらくはLM Studio Bionicを使ってみようかなと思っています。