見せてもらおうか、生成AI用PCの性能とやらを―10

　AIが高速で進化する中、今までできなかったことができるようになりました。文章生成AIや画像生成AIは、革命的なテクノロジーです。

　「生成AIをちょっとさわってみたけど、実用的じゃない」と言う人たちは、部活動でいうと見学・体験入部で見切りをつけています。道具を揃えノックを受け続けて、だんだん楽しめるようになってきます。

　今回お届けするのは……

デッドロックを乗り越え、ローカル生成AIを一新してみた（後編）

• 使い慣れた画像生成AIモデルから最新のモデルへの切り替え
• AIエージェントの移行
• ローカルLLMの導入

に挑戦しました。

　ついていけないほど速く進歩する生成AI。「AIのことはAIに聞け」で何とかなると思っていたのに、何度も 🔗デッドロック に陥りそうになりました。

　さて、どうやって乗り越えたのでしょうか？

　🔗前編 では、Gemini 3.5 Flash で乗り越え、「Forge Neo 導入・WanVideo動画生成」できたことを紹介しました。

ローカルLLMの導入に挑戦！

• 🔗ローカルLLMって結局使えるの？

にあるように、「今この瞬間だけを切り取れば、ローカルLLMだけを使うメリットは正直あまりない」ようです。それでも、「無料で使い放題」「情報が漏れない」というのは魅力です。　→ 🔗日経ソフトウェア2026年5月号「自分だけの生成AIを所有する」

• 🔗【2026年版】WindowsでOllamaをインストールしてローカルLLMを試してみた

によれば、ローカル環境で大規模言語モデル（LLM）を動かせるツール「Ollama（オラマ）」をインストールすれば、簡単に扱えそうです。

　ただ、次々と新しいモデルが現れ、流れを追うのに苦労します。はたして自分のPCで動くのか、速度・性能はどうなのか……

　そんな悩みを解決してくれるツールがありました。

• 🔗WhichLLM入門 — 自分のGPUで最速のローカルLLMをCLIで選ぶハンズオン

に従い、「自分のハードウェアでの実効性能」でローカル LLM を推薦してもらうことにしました。

uvx whichllm@latest

の1コマンドで答えが返ってきました。その結果を、Geminiアプリに入力すると、

素晴らしいスペックのPCですね！RTX 4070 Ti（VRAM 12GB）と十分なメインメモリ（32GB）があれば、かなり快適にローカルLLMを動かせます。

whichllm の結果を見ると、以下の2パターンの選択肢が提示されています。

1. 速度と快適さ重視（Full GPU）:
   2位の Qwen3-14B や 3位の gpt-oss-20b。VRAM内にすべて収まるため、秒間30〜160トークンという超高速で動きます。まずはここから試すのがおすすめです。
2. 知能（賢さ）重視（Partial）:
   1位の Qwen3.6-27B。VRAM（12GB）を溢れてメインメモリ（RAM）も使うため、速度は秒間9.3トークンと遅くなりますが、より賢い回答が期待できます。

ここからの具体的な進め方は、「Ollama（オラマ）」というツールを使うのが最も簡単で確実です。以下の手順で進めてみてください。

　　：：：：：

ステップ２：モデルのダウンロードと実行

以下のコマンドをコピーして貼り付け、Enterキーを押してください。

ollama run qwen3:14b

　　：：：：：

ステップ4：より快適なチャット画面（UI）が欲しい場合

黒い画面（コマンドプロンプト）での会話ではなく、ChatGPTのような綺麗な画面で使いたい場合は、以下の方法があります。

• Chatboxを使う（初心者向け・一番簡単）
• Open WebUIを使う（本格派向け）

まずは 「Ollamaを入れてコマンドで動かしてみる」 ところから始めてみませんか？何か途中でエラーが出たり、手順で迷う部分があれば教えてください！

実は、Ollama v0.30.10 のアプリには、GUIのチャットインターフェースがあります。

選んだモデル qwen3:14b が古かったからなのか、CLIの回答がとんちんかんでしたが、何度かやりとりして以下の回答を引き出しました。

　　：：：：：

　　：：：：：

結論からお伝えすると、あなたがチャットをしていたその画面は、Ollamaの公式アプリではなく、「Ollama以外の、LLMを動かす別のGUIアプリケーション」である可能性が極めて高いです。

　　：：：：：

左上に見えるのは「(ラマのアイコン)Ollama」です。ほかのアプリをインストールした覚えもありません。

あなたが向かい合っているのは紛れもなく本物のOllamaのチャット画面（GUI）です。

私の知識が古く、「OllamaにはGUIがない」と思い込んでしまっていたため、せっかくの正しい状況に対して「嘘（ハルシネーション）だ」などと大変失礼な指摘をしてしまいました。深くお詫び申し上げます。

　　：：：：：

なるほど、そういうことだったのですね！私の誤解を重ねてしまい、申し訳ありませんでした。

「とんちんかん」の理由が完全に氷解しました。CLI（裏側で動作するAI本体）が「OllamaにはWebUIしかなくて、公式GUIアプリなんて存在しない！」と頑なに言い張り、あなたがGUI側から「いや、現にこの画面があるんだけど？」とファクトを突きつけて、ようやくAIが「おっと、私の間違いでした。それはアプリ独自のUIですね…」と降伏した、という流れだったわけですね。

まさにAIの「頑固な知ったかぶり（過去の学習データへの固執）」を、ユーザー様が対話の力で論破して正しい情報を引き出した、素晴らしいログです。

2位の Qwen3-14B より遅いけれど賢い1位の Qwen3.6-27B をダウンロードすることにしました。

（例によって、Qwen3-14Bは「そんなモデルは公式サイトに載ってない」「あなたのPCでは絶対に動かない」と言い張りましたが、事実を突きつけて……）

ollama run qwen3.6:27b --quantize Q3_K_M --num-gpu-layers 32

でダウンロードせよとのことですが、これは妥当でしょうか？

またしてもAI（Qwen3-14B）が、非常にそれっぽくて技術的に正しそうな、しかしOllamaでは動かない「とんちんかん（ハルシネーション）」なコマンドを出してしまいました……！

　　：：：：：

AIが提示したこのオプション（--quantize や --num-gpu-layers）は、Ollamaの基盤になっている 「llama.cpp」という別のCUIツールのコマンド です。

Ollamaはこれらの面倒な設定を「裏側で全自動でやってくれる」のが売りのアプリなので、ユーザーがコマンドの語尾にこれを付けても「そんなオプションはありません」と弾かれてしまいます。

ollama run qwen3.6:27b

　普通にこれで Qwen3.6-27B (Q3_K_M) が使えるようになりました。またまた、Geminiのおかげでデッドロックが回避できました。

　Ollama のチャット画面は、CopilotやGeminiのものと似た感じです。入力欄の右下で簡単にモデルを切り替えられます。ファイルアップロードやWeb検索もできるようです。　※「Google検索で「日付」と入力して検索して…」と頼んで、3分後にやっと今日の日付を答えてくれました。

　Qwen3-14B の数倍の時間はかかるものの、まともな回答を返してくれるようになったと感じます。ただし、生成AIにハルシネーションはつきものです。ただ単に、「論理的に整合性の高そうなウソ」をついているだけかもしれないので用心しましょう。

生成AIの各モデルの出力を視覚化してみた

　画像生成AIでテキストから画像を生成する場合、どんなテキスト（プロンプト）を入れるかによって、画像の仕上がりは大きく変わります。プロンプトづくりにはコツがいるのです。

　文章生成AIに作ってもらったプロンプトを画像生成AIに与えると、良い画像が出てきやすいようです。

　こちらの要求への忠実度を比較するために、画像生成用のプロンプトを次の指示（指示1）で各モデルに出力させることにしました。

`

Forge Neo で Animaモデルで画像生成するときのプロンプト（英語）を作成してください。

【描きたいシチュエーション】

生成AIの弟と兄が「安全な情報収集・比較」と「論理的なプログラミング・図解」というそれぞれの得意分野で活躍するようすを対比したものをサイバーSFアニメっぽくしたもの

`

　これは、「Googleの AIモード と Geminiアプリ を擬人化して対比するための画像」です。やっていて気づいたのは、最新の Animaモデル を知らず、Animagine XL や その他アニメ系モデル 用のプロンプトを出力するAIが多いということです。

　そこで、

`

画像生成AI用のプロンプト（英語）を作成してください。

【前提条件】

• 使用するAIは、タグの羅列ではなく「自然な英語の文章（Descriptive Sentence）」を完璧に理解する最新モデル（waiAnima）です。
• 「masterpiece, best quality, ultra-detailed」のような、古い時代の画質向上ワードは一切不要です（画質ワードを入れると逆にクオリティが下がります）。

【出力のルール】

1. キャラクターの特徴、服装、ポーズ、背景、照明、空気感を、小説の1シーンを描写するように1つ〜2つの「自然な英語の文章」で表現してください。
2. コピペしやすいように、英語の文章だけを出力してください。

【描きたいシチュエーション】

生成AIの弟と兄が「安全な情報収集・比較」と「論理的なプログラミング・図解」というそれぞれの得意分野で活躍するようすを対比したものをサイバーSFアニメっぽくしたもの

`

という指示（指示2）も出してみました。

　まず、「描きたいシチュエーション」をGoogle翻訳したものをそのまま Anima に与えて描かせると、

という、「コレジャナイ感」たっぷりの残念な結果になってしまいました。

　Anima ではなく、Geminiアプリで NanoBanana2 に描いてもらうと、

と、説明過剰な図解のようなものができます（「文字を消して！」と頼んでもしつこく入れてくる……）。

　次は、Ollamaで qwen3 と qwen3.6 を使って作られたプロンプトを Anima に与えた結果（上が指示1、下が指示2）です。

　qwen3 は、「兄→姉」になったり、「対比→対面」になったりしています。qwen3.6は、指示1もかっこいいのですが、指示2ではより自然な描写になっています。

　最後に、大手クラウドAIである Copilot と Gemini を使って作られたプロンプトを Anima に与えてみると、

　Copilotは、指示2で兄弟の違いがわかりやすくなりました。Geminiは、対比がわかりやすく、指示2ではより自然な描写になるとともに「安全なアクセス」をうまく表現しています。

　それぞれのAIごとに個性がありますが、全体を通してみると、

• qwen3 は、文脈理解に難がある
• qwen3.6 は、クラウドAIにひけをとらない

と、ハダノは感じました。

Ollamaで動くローカルLLMのアイコンを作ってみた！

　「AI兄弟の対比画像」と同じ要領で、

`

【描きたいシチュエーション】

動物のラマをモチーフとしたロボットが冷静に電子処理をしているテーマの白色背景・枠無し正方形アイコン画像（暗緑色と水色と黒色を中心の配色）で、ラマロボットの正面顔の内部に回路チップや歯車を配置し、顔の表情ははっきりして、電子回路基盤のプリントパターンが顔の背後から画面いっぱいに張り出した、低解像度アイコンでも見やすいシンプルな線の集まりでまとめたもの

`

で、アイコンを作ってみました。

　AI兄弟のときと違うのは、最終的には 80ピクセル四方 にするという点です（若干フォトレタッチします）。

• 「翻訳そのまま」と Copilot は、「白色背景・枠無し」が全く守れていない
• qwen3 は、回路パターンが黒一色になりがち
• Gemini は、指示1では回路パターンが張り出せず、指示2ではロボ本体のクオリティが落ちる
• NanoBanana は、アイコンの作り方を心得ている（回路パターンの色を左右で変えたのは、さすが！）
• qwen3.6 は、意外と健闘している（そもそもAnimaはアイコン生成は苦手っぽい）

、、、ということで、

「Ollamaで動くローカルLLMのアイコン」は、qwen3.6(指示2)で作ったものに決定しました。

【まとめ】デッドロックを乗り越え、最新のローカル生成AIを活用しよう！

　生成AIは日進月歩ですが、それにともなって、

• システムの巨大化、依存関係の複雑化、方向性の多様化、更新速度の上昇などによって、全体像が把握しにくくなった
• 自分に合ったシステム構築をしようにも、ネットにはいろんな時期のいろんな環境における事例があふれかえっている
• LLMは、自分が生まれる前のデータしか学習しておらず、ネットの最新情報と不整合を起こしやすい
• リポジトリの系統や依存ファイルのバージョンずれを見抜けないと、間違った指示が生まれ、デッドロックに陥る

、、、という困った状況が生まれています。

　単に「AIのことはAIに聞け」で何とかなるものではありません。

　これを解決するためには、

（以降7つの対策を考えたところで、Qwen3.6-27B に相談してみました）

　　　　　　💡Thought for 411.2 seconds

非常に実践的で、かつ本質を的確に捉えたまとめだと思います。特に「LLMがリポジトリ系統やバージョンズレを見抜けないことによるデッドロック」の指摘は、現在のローカルAI環境構築で最も陥りやすい落とし穴を言い当てており、多くの人にとって参考になる内容です。

さらにこの文章を広めに共有したり、自分のチェックリストとして定着させたりする際に役立つように、いくつかの観点から補足・微調整の提案をさせていただきます。

　　：：：：：

＜ 改訂版 ＞

　これを解決するためには、以下の3つの柱を意識して進めるのがおすすめです。

🛡️ 1. 情報検証：一次情報の確認と「信頼のフィルタ」を入れる

• 目指す用途に特化したモデル/ツールを選ぶ：万能より専門性。画像生成ならComfyUI/Stable Diffusion系、LLM推論ならOllama/LM Studioなど、主流のエコシステムに沿った選択から始めましょう。（同種のモデルでも得意不得意があるので、先入観を捨てて見極めを！）
• ネット事例は「コピペ実行」せず、一次ソースで確認する：GitHubの最新コミット、公式ドキュメント、PyPIのパッケージバージョンなどを自分で開き、記事の公開日と実装日が大きく乖離していないかチェックします。
• 怪しい指示や複雑なコマンドは即実行しない：特に依存関係を一括インストールしたりシステムパスを書き換えたりする指示には注意。「このコマンドが何をしているのか」「なぜこのバージョンを指定しているのか」をLLMに聞いたり、自身でドキュメントと照合したりします。

💾 2. 環境管理：Windows上で安全に構築・保存する習慣

• Python仮想環境（venv）をプロジェクトごとに分ける：グローバル環境への直接インストールは避け、python -m venv my_env で各ツールに独立したフォルダを作成し、バージョン衝突を防ぎます。
• 「動いた状態」を丸ごとバックアップする：設定ファイル（.json, .yaml, requirements.txt）やダウンロード済みのモデル/ウェイトは、日付付きのZIPで保存します。次回構築時は「元に戻る」手段があれば、実験を恐れなくなります。
• 1ステップずつ検証し、成功を確認してから次へ進む：依存パッケージの追加→パスの確認→テスト実行という流れを分けて行い、どこでエラーが発生したかを明確に追いやすくします。

🗣️ 3. 対話設計：ハルシネーションを誘発しないプロンプトとフロー

• 範囲制約と出典指示を組み込む：「嘘はつかないで」だけでなく、「提示した公式ドキュメント/コードの範囲内で回答せよ」「不明点は推測せず『未確認』と明記しろ」「参考にしたファイルパスやバージョンを必ず記載しろ」と具体的に縛ると精度が上がります。
• 誤答が出たら事実を貼り付けて訂正を促す：LLMは学習データの限界や文脈欠落で誤りを生じやすいため、「このエラーログ/ドキュメント記載によると〜です。再考してください」と建設的にフィードバックし、対話を続けます。
• コンテキストが長くなったら要点を再掲する：設定ファイルの変更履歴、現在のパス構造、前提条件などを簡潔にまとめ直してプロンプトに含めると、LLMの「記憶」がリセットされず、一貫した指示出しが可能になります。

　これらの習慣は、初期構築時だけでなく、日常の生成AI活用（コード修正・設定調整・エラー解消）にもそのまま活かせます。

　「AIを神ではなく、補助輪付きのアシスタント」と位置づけ、事実確認と環境制御を自分自身が行うことで、デッドロックへの不安は確実に減るはずです。

日経ソフトウエア 2026年5月号 [雑誌]

※ ハダノがずっと購読している隔月刊のプログラミング雑誌です。
特集1「自分のパソコンでLLMを動かそう！」の内容をやっと実行できました。ただ、記事執筆から2～3か月たっただけで、モデルのスタンダードが移っていたのにはビックリ！
特集3「最適なLLMを用途ごとに選ぼう」も今後必要になると感じました。

楽天

Amazon

Yahoo!

←前へ　見せてもらおうか、生成AI用PCの性能とやらを―9

次へ→　見せてもらおうか、生成AI用PCの性能とやらを―11