最近、SNSなどでLLMモデルの解説をする動画をよく観ます。 特にOrnith 9BとQwythos 9Bについてはモデルの評価が高く、気になっていました。 カタログスペックはモデルの配付ページのグラフを見ればわかりますが、実際使えるモデルなのかどうかは実際触ってみ…

本日は小ネタです。 これまでこのブログではいくつかのAIエージェントコーディングソフトウェアを取り上げてきました。 今回は最近知ったGooseのオプションについて紹介します。 Gooseはオープンソースで開発されているソフトウェアで、LLMプロバイダーを設…

以前次のようなブログ記事を書きました。 「2026年2月2日に、OpenAIがmacOS向けに「Codex app」っていう新しいアプリを発表」というような記事だったと思います。 devops-blog.virtualtech.jp そして今日、従来のCodexアプリが新しいChatGPTアプリとなり、こ…

このブログではAnyThingLLMについて何回か取り上げましたが､今回はAnyThingLLM APIを使ってRAGによるドキュメント検索を試してみます。 なお､LLM ServerはOllamaを使っていますが､基本的にAnyThingLLMが利用できるLLM Serverであれば何でも構いません。 AnyT…

CodexはOpenAIのAIエージェントコーディングソフトウェアで､ChatGPTアカウントで利用できます。OpenAIのモデルを利用する場合は、対応するChatGPTプランが必要です。 Codex CLIではローカルLLMモデルも利用できます。ローカルLLMを利用すれば、OpenAIの推論…

少し出遅れた感はありますが､LLMのMTPを試すことにしました。 次のOllama公式アカウントの投稿を見たのが､LLMのMTPを試そうと思ったきっかけです。 Gemma 4 is now nearly 90% faster on Apple Silicon with Ollama using MLX!The speedup comes from improv…

ローカルLLMというと、「ChatGPTやClaude､Geminiの代わりになるもの」と思われがちですが、私は少し違う考えを持っています。 現在のSaaSのLLMは巨大なGPUクラスタの上で動いており、同じ性能を個人が手元のPCで再現するのは現実的ではありません。ローカルL…

AnythingLLMは、ローカルLLMやクラウドLLMとチャットできるオープンソースのAIアプリケーションです。RAG（ドキュメント検索）、AIエージェント、MCP、Web検索など多くの機能を備えています。今回は、その中でも用途に応じて使用するLLMを自動で切り替えられ…

最近はローカルLLMを使って、様々なAIエージェントやツールの動作検証を続けています。以前と比べると小型モデルでもかなり実用的になってきており、「これは普段使いできそうだな」と感じる場面が増えてきました。 そんな時、ギズモード・ジャパンさんで、O…

Ministral 3B/8BモデルをOpenCodeで使っていると､まれにjinja templateエラーが発生して処理が止まってしまいます。出てくるエラーは次のようなものです。 "Error rendering prompt with jinja template: \"After the optional system message, conversation…

ローカルLLMを手もとの環境で動かすのに私は普段LM Studioを使っています。 LM StudioはGUIアプリが使いやすい点､こまかなチューニングができる点が気に入っているからです。 さて､ローカルLLMを始めるに当たって重要なのがLLMモデルのダウンロードなのです…

AnythingLLMを使って簡単にRAGが試せると言うことで試してみたのですが､モデルによってRAGを上手く取り扱えるものと､取り扱えないものがあることを知りました。 AnythingLLMにはチャットモードが3つあって､それぞれの設定次第で回答が変わってくるようです。…

Visual Studio Code (以降 VSCode) 1.125に「Install model providers」と言う機能が実装されました。 VSCodeのGitHub Copilot Chatには､外部モデルを追加する機能が実装されていましたが､この設定を簡単にするために「モデルプロバイダーのインストール」ボ…

LLMはLLMを使うためのソフトウェア（たとえばLM StudioやOllamaなど）をインストールしたあと､何らかのモデルをダウンロードして使います。 チャット形式のインターフェース上でユーザーが質問を投げるとLLMモデルが思考した結果が返ってくるのですが､返って…

Qwen3.5 9Bを使ってOpenCodeを使ってみたところ､ローカルLLMでコーディングができることは分かりました。 ただ､もう少し小さいモデル(SLM)でもコーディングできないかなと思って､今回試してみることにしました。 Qwen3.5 4Bを試す 一つ目は「Qwen3.5 4B」で…

今回は小ネタです。 以前､GPT-5.4で作成したNode.jsベースで作成したカンバンボードアプリを､CodexのGPT-5.5モデルを使ってGolangで実装するのを試してみました。 きっかけ Node.jsは便利なんですが､最近狙われすぎですよね。 で､最近Golangを使って色々やっ…

AIは非常に便利ですが、その利用にはセキュリティ上の注意が必要です。 私は現在、ChatGPT、Claude、Gemini、Grok、Codex、ローカルLLMなど、様々なAIエージェントツールをコーディングや日常の課題解決に活用しています。 最近では、AIに対してコーディング…

先日、久しぶりにCopilot CLIを起動した際、モデル選択肢に「GPT-4o」が追加されていることに気づきました。 以前はCLI版にはGPT-4oは提供されていませんでした。一方で、VSCodeのCipilotでは「GPT-4o」が使えていました。 おそらくですが、6月1日にGPT-4.1…

以前vLLMとGooseでローカルLLMコーディングの話を書きました。 devops-blog.virtualtech.jp これは任意のエディター、Gooseを介してSaaSのAIやローカルのAIを使ったLLMコーディングを実現すると言う話でした。 私はそこまで知らなかったのですが、VSCode使い…

先日このような記事を書きました。 devops-blog.virtualtech.jp これはOllamaとGooseをすべてローカルの環境にインストールして、アプリ開発に使うのを想定しました。 最近のクライアントは性能が高く、すべてローカルに閉じても十分活躍してくれると思いま…