最近話題になっている、インターネットに接続しないでも自分のパソコンで対話型AIを使うことができるローカルLLMというものがあります。
AIに聞いてみたら、こんな説明をしてくれました。
ローカルLLMとは、外部のクラウドサーバーではなく、自分のPCや社内サーバー上で直接動かす大規模言語モデル（AI）のことです。
＊主な特徴とメリット
• 高いセキュリティ・プライバシー: 入力したデータや社内機密が外部に送信されないため、情報漏洩のリスクを抑えられます。
• オフライン利用が可能: インターネット接続がない環境でも動作します。
• コストの予測が容易: APIの従量課金ではなく、一度ハードウェアを揃えれば何度使っても追加料金がかかりません。
• カスタマイズ性: 用途に合わせてモデルの微調整（ファインチューニング）や設定変更が自由にできます。
主なデメリット・注意点
• 高いハードウェア要件: 快適に動かすには、高性能なGPUや大容量のVRAM（ビデオメモリ） / 統合メモリを搭載したPCが必要です。
• 性能の限界: 個人PCで動く軽量モデルは、最新の大型クラウドLLM（ChatGPTやClaudeなど）の複雑な推論能力には及びにくいです。
• 自己責任の運用保守: モデルのアップデートやトラブル対応、環境構築をすべて自分（自社）で行う必要があります。
代表的な実行ツール
• Ollama: コマンドやDockerなどで手軽にモデルを管理・実行できるデファクトスタンダードのツール。
• LM Studio: GUI（画面操作）で分かりやすくモデルのダウンロードやチャットができるアプリ。
• llama.cpp / vLLM: より細かいパラメータ調整や高速化を求める上級者向けの実行環境。
2026年現在の人気・おすすめモデル
• 汎用・日本語バランス: Qwen3.6-35B-A3B や Gemma 4 シリーズなどが、日本語対応や処理速度のバランスから広く使われています。
＝＝＝
私は、能力的にGUI（画面操作）ができるLM Studioを使ってみることにしてダウンロードして、インストールしました。
実際に使う前には、使うためのモデルをインストールする必要があります。
自分のパソコンの能力によって使えるモデルが決まります。
＊LM Studioは、ローカルLLMを画面操作だけで動かせる無料のデスクトップアプリで、コマンドに不慣れな方の入口に向いています。
＊使い方は、公式サイトからインストールし、検索機能でモデルをダウンロードして、チャット画面で対話する流れです。
＊画面は既定で英語表示ですが、設定から日本語表示に切り替えられます。
＊日本語で使うなら、日本語に対応したモデルを検索して選び、回答を比べて絞り込みます。
＊LM Studio自体は業務利用でも無償で使えますが、動かすモデルごとのライセンス確認は別途必要です。
＊ローカルサーバー機能を使うと、OpenAI互換のAPIを立ち上げ、既存プログラムの接続先を差し替えるだけで手元のモデルを呼び出せます。
＊メモリ16GB以上が推奨され、扱えるモデルの大きさは機材の性能に左右されます。
＊業務での本格利用には、サーバー構成・セキュリティ・RAGなどの環境設計が別途必要になります。
＝＝＝＝
2026年現在、ローカルLLMモデルとしては、Qwen（Qwen3.6 / Qwen3.8）やGemma 4などが日本語性能・速度・実務タスクのバランスで主流となっているようなので、それを試しています。
画面にあるModel Searchで探すことができるので、見つかったらダウンロードしてそのモデルを起動します。
あとは、ChatGPTなどと同じように、AIと対話ができます。
自分のパソコン脳能力により、スピードも違うようですし、扱える容量もあるようです。
Qwen3.8ー２７ｂを入れて使ってみました。
下の写真をアップして説明をしてもらいました。
この写真は、手のひらの上に座る小さな白いウサギを主役に据えた、柔らかく愛らしい一枚です。
ウサギ
画面の中央やや右寄りに、毛並みがふわふわで純白の小さなウサギが正面を向いて座っています。両耳はピンと上に立ち、内側には淡いピンク色が覗いています。目は黒く丸く、光を受けてキラりと輝き、無邪気で優しい表情を与えています。鼻は小さくピンク色で、その口元からは細長い橙色のニンジン（ミニニンジンのような形）をくわえています。ニンジンの先端はやや下向きにカーブしており、ウサギの顔立ちを引き立てています。顔の両側からは白い長いひげがほっそりと伸びています。
手
ウサギは、右側から差し込まれた人の手のひらの上に乗っています。指が左下に向かってゆるやかに並べられ、手のひらが「台座」のように役割を果たしています。肌の色は自然で、指先や手の甲の質感まで穏やかに描写されています。ウサギと手が密接に接していることで、小ささと愛おしさが強調されています。
背景と写真の印象
背景は緑色で完全にボケており、草や木など自然の中での撮影を思わせます。被写界深度が浅く、ウサギと手だけがくっきりと際立っているマクロ的な構図です。緑の背景と白くふわふわのウサギ、そして鮮やかな橙色のニンジンがきれいな色彩のコントラストを生み、全体に穏やかで温かみのある雰囲気が漂っています。
総じて、「手のひらサイズの白いウサギがニンジンをくわえている」という、かわいさと優しさが伝わる静かな瞬間を捉えた作品です。
ーーー
との説明でした。
今度はモデルをGemma 4-e4bに変えて同じ質問をしてみました。こちらは、ものすごく速いスピードで答えてくれました。
私のパソコンの能力にあっているようです。
この写真も前回と同じ非常に素敵な一枚ですね。同じ構図で、その魅力をより深く掘り下げて描写させていただきます。
写真の全体的な印象
この写真は、「無垢な可愛らしさ」と「自然な穏やかさ」が凝縮されたポートレートです。極めて浅い被写界深度（背景を大きくぼかす処理）を用いることで、手元にいるウサギの存在感を最大限に引き出し、見る人に優しさと温かさを伝える、静かで心和む瞬間を捉えています。
主要な要素ごとの詳細描写
1. 主役：白いウサギ (The Rabbit)
外見: 毛並みはまるで雪のように純粋な白で、ふっくらとした丸みを帯びた体がとても愛らしいです。両耳はピンと立っており、生き生きとした警戒心を感じさせると同時に、その可愛らしさが増しています。
表情: 大きく黒い瞳は好奇心に満ちており、見る人に対して穏やかな視線を送っています。鼻周りや目元が非常にデリケートな印象を与えます。
アクション: ウサギの口元には、鮮やかで生命力あふれるオレンジ色のニンジン（あるいは野菜）がくわえられています。この白とオレンジというコントラストが、写真全体の色彩にリズムと活気を与えています。
2. 台座：人の手 (The Hand)
ウサギは、優しく広げられた人の手のひらの上に乗っています。手は画面の下部から差し込み、まるで舞台を支えるかのように役割を果たしています。
この「手」の存在が、写真に人間的な温かみと親密さ（アニマルとの触れ合い）を与え、ウサギという生き物に「保護されている」「守られている」という感情的な文脈を追加しています。
3. 背景と雰囲気 (Background and Mood)
背景は均一で美しい緑色にボケています（ボケ効果）。このソフトなグリーンが、白い毛並みとオレンジ色のニンジンを際立たせるキャンバスの役割を果たしています。具体的な場所や物形が判別できないため、見る人は邪魔されることなく、ウサギの表情だけに集中することができます。
光の表現: 全体的に柔らかな自然光（ソフトライティング）の下で撮影されていることが伺えます。影の出方が強くなく、優しく包み込むようなトーンが支配的です。
まとめ
この写真は、単に可愛い動物を写しただけでなく、「触れ合い」「信頼」「穏やかな日常」といった感情的な価値を描き出しています。白いウサギの無垢さ、手による温かい支え、そして自然な背景が一体となり、「平和で愛おしい瞬間」を見事に切り取った作品と言えます。
ーーー
画像を作ってはくれませんが、画像をほかのプログラムで作るためのpromptは作ってくれるとのことでした。
上記二つのモデルでは、ファイルのアップもできるようですが、わたしとしては、現在のところ、本当にネットを介して外部に情報を流しているのかどうかは、わかっていませんから、個人情報は書いたりアップしないつもりです。
他にJanというプログラムも試していますが、こちらは、英語表示のままでも、日本語での質問に答えてはくれましたが、画像をアップはできませんでした。ドキュメントファイルのアップはできるようです。
もっと試してから、またレポートします。
