不正アクセス急増背景に“中国製LLM”台頭、AIが自動で偵察→侵入→情報奪取「情報漏れていない人の方が珍しい」専門家が警鐘
私： この記事にある中国企業が開発したLLMとは具体的に何のことですか？
Copilot said:
この記事では「中国企業が開発したLLM」と書かれていますが、ページ内では具体的なモデル名は挙げられていません。専門家コメントでは「オープンウェイトのモデルを積極的に提供しているのは中国企業が多く、性能も高い」と説明されています。
現在、中国企業が開発した代表的なLLMとしては次のようなものが知られています。
DeepSeek（DeepSeek社）
DeepSeek-V3
DeepSeek-R1
Qwen（阿里巴巴/Alibaba）
Qwen 2.5シリーズ
Qwen 3シリーズ
Hunyuan（Tencent/テンセント）
ERNIE（Baidu/百度）
GLM（Zhipu AI）
Yi（01.AI）
InternLM（上海AI研究所系）
この記事の文脈から考えると、特に近年サイバーセキュリティ分野で話題になることが多いのは、オープンウェイトとして公開されているDeepSeek系やQwen系のモデルを指している可能性があります。
ただし、記事自体は特定企業や特定モデルを名指ししていないため、「DeepSeekのことだ」と断定はできません。
なお、記事中の「中国製LLMは危険な指示をそのまま実行する」という表現はやや単純化されています。実際には、
中国製LLMでも安全対策を実装しているものはある
米国製LLMでも改変されたオープンソース版は安全制限を回避できる場合がある
問題は「中国製か米国製か」よりも、「そのモデルやサービスにどの程度のガードレール（安全制限）が組み込まれているか」 という見方が、セキュリティ業界では一般的です。
私： DeepSeekやQwenはLLMを使うためのモデル名ではないのでしょうか？
例えばLM StudioのようなローカルLLMに中国のDeepSeekやQwenをモデルとして入れて使うという意味なんですか？
Copilot said:
はい、その理解でほぼ正しいです。
DeepSeekやQwenは「LLMそのものの名前（モデル名・モデルファミリー名）」です。 LM Studioはそれらのモデルを実行するための**プラットフォーム（ランタイム）**です。
イメージとしては、
Windows → OS
Word → アプリ
DOCX → 文書ファイル
の関係に少し似ています。
LLMでは、
LM Studio → 実行環境
Ollama → 実行環境
GPT4All → 実行環境
DeepSeek-R1 → モデル
Qwen3 → モデル
Llama 3.3 → モデル
Gemma 3 → モデル
という関係です。
例えばLM StudioでローカルLLMを動かす場合、
LM Studio
└─ Qwen3-14B
または
LM Studio
└─ DeepSeek-R1-Distill-Qwen-14B
を読み込んで使います。
つまり「中国製LLM」というと、
DeepSeek社のDeepSeekシリーズ
AlibabaのQwenシリーズ
BaiduのERNIEシリーズ
TencentのHunyuanシリーズ
などのモデルそのものを指していることが多いです。
一方で、記事が問題視しているのは、
攻撃者
↓
DeepSeekやQwenなどのオープンモデル
↓
自動攻撃ツール作成
↓
偵察・侵入・情報窃取
のような使い方です。
特にDeepSeekやQwenは、
重み（Weights）が公開されている
ローカル実行できる
APIを借りなくても動く
改変しやすい
という特徴があります。
例えばChatGPTやClaudeは、
利用者
↓
OpenAI/Anthropicのサーバー
↓
モデル実行
ですが、
DeepSeek-R1の公開版なら、
利用者
↓
LM Studio
↓
自宅PC
↓
DeepSeek-R1
という形で完全ローカル実行できます。
そのため研究者だけでなく攻撃者も、
安全制限を削除する
ハッキング支援向けに再学習させる
マルウェア開発補助に使う
ことが技術的には可能になります。
実際にLM Studioで見ると、
DeepSeek-R1
DeepSeek-V3
Qwen3-8B
Qwen3-14B
Qwen3-32B
Llama-3.3
Gemma-3
Mistral
のように並んでいて、ユーザーが好きなモデルをダウンロードして使います。
ですので、あなたの言う
「LM StudioのようなローカルLLMに中国のDeepSeekやQwenをモデルとして入れて使う」
という理解でその通りです。
ちなみに現在、ローカルLLM愛好家の間では、Qwenシリーズは中国製でありながら日本語性能がかなり高いため、LM StudioやOllamaで動かしている人が非常に多いです。
一方、ニュースで「中国製LLM」として話題になる場合は、性能面で衝撃を与えた DeepSeek-R1 を指しているケースがかなり多いです。
私： 要するに企業はネットに接続しないで使えると誤解してローカルでLLMを使っていると、外部からの侵入を補助する可能性があるという理解でいいのでしょうか？
Copilot said:
はい、ただし少し整理した方が正確です。
結論から言うと、
「DeepSeekやQwenをローカルで使うこと自体が外部侵入を助ける」のではなく、攻撃者がそれらを使って攻撃を自動化しやすくなった、というのが本質です。
企業側のリスクは主に3つあります。
① ローカルだから安全という誤解
例えば会社内で
LM Studio
↓
Qwen
↓
社内PC
として使っている場合、
モデルは外部サーバーに問い合わせない
会話内容は社外に送られない
という意味では安全性が高いです。
しかし、
インターネット接続あり
+
脆弱なPC
+
漏洩した認証情報
があれば、従来通り侵入される可能性があります。
LLMがローカルだからといって、 社内システム全体が安全になるわけではありません。
② 攻撃者がLLMを利用している
記事で問題視されているのはむしろこちらです。
昔の攻撃者
人間が偵察
↓
人間が攻撃コード作成
↓
侵入
現在
LLM
↓
脆弱性情報収集
↓
攻撃コード生成
↓
フィッシングメール作成
↓
自動攻撃
という流れです。
従来なら数日かかる作業を数分で行えるようになります。
そのため
「中国製LLMが侵入する」
というより
「中国製LLMを攻撃者が利用している」
という理解の方が近いです。
③ 社内で動かすAIエージェントの危険
今後はこちらの方が重要かもしれません。
例えば企業が
社内AI
↓
メール閲覧
↓
ファイル操作
↓
社内DB参照
を許可するとします。
すると攻撃者は人間を直接狙う代わりに、
AIへ悪意ある指示
↓
AIが権限を使って操作
↓
情報流出
を狙う可能性があります。
これは
Prompt Injection
Agent Hijacking
などと呼ばれる問題です。
現在のセキュリティ業界では、こちらをかなり警戒しています。
この記事を一言でいうと
記事タイトルから受ける印象は
「中国製LLMが勝手に侵入してくる」
ですが、
実態は
「DeepSeekやQwenのような高性能なオープンモデルが広く公開された結果、攻撃者がAIを使って攻撃を大規模・自動化できるようになった」
という話です。
そのため企業側の対策としては、
DeepSeekを禁止する
Qwenを禁止する
だけでは不十分で、
MFA（多要素認証）
パスワード管理
EDR導入
OS更新
AIエージェントの権限管理
機密情報を扱うPCの分離
といった従来のセキュリティ対策の方が実は重要です。
ちなみに、記事の「情報漏れていない人の方が珍しい」という専門家の発言からすると、脅威の中心はLLMそのものではなく、過去の情報漏洩で流出したID・パスワードと、それをAIで効率的に悪用する攻撃者だと読んだ方が実態に近いと思います。
私： モデルをGemma 4-e4bのような中国ではないモデルなら安全性は増しますか？
Copilot said:
結論から言うと、
「Gemma 4-E4Bだから安全」「DeepSeekだから危険」という単純な話ではありません。 ただし、企業利用の観点ではGemma系の方が安心材料は多いと言えます。
理由は大きく3つです。
1. 開発元の安全性への取り組み
GemmaはGoogle DeepMindが開発しており、「責任あるAI（Responsible AI）」を重視していることを公表しています。Gemma向けには安全性評価用のShieldGemmaなども提供されています。
一方で、DeepSeekやQwenも安全対策はありますが、オープンウェイトモデルである以上、第三者が改変した派生版も多数存在します。
そのため、
公式Gemma
↓
比較的厳格な安全設計
公式Qwen
↓
安全設計あり
改変版Qwen
↓
安全制限が弱い場合あり
改変版DeepSeek
↓
安全制限が弱い場合あり
``
という状況が起こります。
2. ローカル実行なら情報漏洩リスクは主に別の場所にある
多くの人が誤解しやすいのですが、
LM Studio
↓
Gemma 4-E4B
↓
完全ローカル
なら、
Googleへ会話内容が送信されない
中国企業へ送信されない
OpenAIへ送信されない
という意味で、情報流出リスクはかなり低くなります。
この場合のリスクは
PCのマルウェア感染
Windowsの脆弱性
漏洩した認証情報
社員の操作ミス
の方がずっと大きいです。
3. 本当に気にすべきは「モデルの出所」
実は中国製かどうかよりも、
どこからダウンロードしたか
の方が重要です。
例えば
Hugging Face公式
↓
Google公開Gemma
は比較的安心できます。
しかし
誰かが再配布したGemma
↓
改変済み
↓
不審な実行コード付き
なら危険です。
企業では通常、
Hugging Face公式
Google公式
Microsoft公式
Meta公式
などから取得します。
LM Studio
+
Gemma 4-E4B
+
ローカル実行
+
社外に送信しない設定
で使うなら、
記事で話題になっている
「中国製LLM経由でデータが抜かれる」
という種類の心配はかなり小さいです。
むしろ
PC自体のセキュリティ
保存したチャットログ
モデル取得元の信頼性
を気にする方が現実的です。
一言でまとめると、
Gemma 4-E4Bは企業利用の安心感は高いですが、真の安全性を決めるのは「中国製かどうか」より、「ローカル実行か」「取得元は公式か」「PC自体が安全か」です。
私： Jan-v3.5-4Bモデルは中国製ですか？ 安全でしょうか？
Copilot said:
はい、Jan-v3.5-4Bは厳密には「中国製ではない」が、中国企業が開発したQwen3をベースにしたモデルです。
構造としては、
Alibaba（中国）
↓
Qwen3-4B
↓
Jan AI / Menlo Research
↓
Jan-v3-4B-base-instruct
↓
Jan-v3.5-4B
という流れです。Jan-v3.5-4Bの公式説明には「Qwen3-4Bアーキテクチャをベースにした4Bモデル」と明記されています。
なので分類すると、
モデル 開発元
Gemma Google（米国）
Qwen Alibaba（中国）
DeepSeek DeepSeek社（中国）
Jan-v3.5-4B Jan AI / Menlo ResearchがQwen3をファインチューニング
となります。
安全か？
ここは「何を安全と呼ぶか」で答えが変わります。
情報漏洩の観点
もし
LM Studio
↓
Jan-v3.5-4B
↓
完全ローカル実行
なら、
Alibabaへ送信されない
Jan AIへ送信されない
外部サーバーへ送信されない
ため、情報漏洩リスクはかなり低くなります。
この場合、
Jan-v3.5-4Bだから情報が中国へ送られる
とは言えません。
ローカル実行なら、通信しない限りデータは基本的にPC内に残ります。
サプライチェーンの観点
一方で、慎重な企業では
Google純正Gemma
Meta純正Llama
を好む場合があります。
理由は、
学習データの由来
モデル開発プロセス
法的リスク
将来のサポート
などを評価するためです。
この観点では、
Gemma
↓
Google純正
Jan-v3.5
↓
Qwenベースの派生モデル
なので、ガバナンス面ではGemmaの方が説明しやすい場合があります。
あなたが個人で使うなら
私なら優先順位はこう見ます。
1. Gemma
2. Llama
3. Qwen
4. Jan-v3.5
5. DeepSeek
``
ただしこれは「安全性ランキング」ではありません。
実際のリスクは、
モデルそのもの
＜
ダウンロード元
＜
LM Studio設定
＜
PCのセキュリティ
です。
例えばHugging Faceの公式配布元から取得したJan-v3.5を、通信しないLM Studioで使うなら、多くの人が想像するような「中国製AIだから危険」というレベルの心配はあまり現実的ではありません。
むしろ会社で使うなら、
モデル取得元が公式か
自動アップデートを許可しているか
インターネット検索機能を有効にしているか
AIに社内機密を入力しているか
の方が重要です。
なお、Jan-v3.5-4BはQwen3ベースなので、「完全に中国系技術を避けたい」という方針ならGemmaやLlama系を選ぶ方が明確です。逆に「ローカルで手軽に高性能な4Bモデルを使いたい」という目的なら、Jan-v3.5-4Bを危険モデル扱いする必要はないと思います。
私： GLM-5.3モデルが話題ですが、解説願います。
Copilot said:
GLM-5.3は、最近AI界隈で話題になっている**中国のZhipu AI（智譜AI、Z.ai）が開発した最新の大規模言語モデル（LLM）**です。特に「コーディング」「AIエージェント」「サイバーセキュリティ」分野に強いモデルとして注目されています。
あなたのこれまでの関心（ローカルLLM、DeepSeekやQwenとの比較）に合わせると、GLM-5.3は次のように理解すると分かりやすいです。
GLM-5.3とは何か
開発元:
OpenAI → GPT
Google → Gemma
Meta → Llama
Alibaba → Qwen
DeepSeek → DeepSeek
Zhipu AI → GLM
つまり、
GLM-5.3は「中国版GPT」「中国版Qwen」の有力候補の一つと考えてよいでしょう。
なぜ話題なのか
最大の理由は、
オープンウェイトでありながら非常に高いコーディング性能を持つためです。
Zhipu AIは、複雑なソフトウェア開発
ターミナル操作
AIエージェント
セキュリティ監査
に重点を置いて学習させたと説明しています。
簡単に言えば、
ChatGPT
↓
会話が得意
GLM-5.3
↓
会話もできるが
特にプログラミング作業が得意
という立ち位置です。
DeepSeekやQwenとの違い
個人的な印象を含めると、
モデル 強み
Gemma 安全性・研究用途
Llama 汎用性
Qwen 日本語性能・コスパ
DeepSeek 推論能力
GLM-5.3 コーディング・エージェント
という感じです。
GLM-5.3は特に
コードを書く
↓
実行する
↓
エラー解析
↓
修正する
という連続タスクを重視しています。
ローカルで使えるのか
使えます。
GLM-5.3はオープンウェイトとして公開されています。
ただし注意があります。
記事によれば、
総パラメータ数 約750B級
MoE（Mixture of Experts）方式です。
これは非常に巨大です。
例えば、
Gemma 4B
Qwen 4B
Jan 4B
とは別世界のサイズです。
一般家庭のPCでそのまま動かすのは現実的ではありません。
安全性はどうか
ここが重要です。
以前ご質問された
「中国製LLMだから危険なのか？」
という話に戻ります。
GLM-5.3をLM Studioでローカル実行するだけなら、勝手に中国へデータが送信されるという証拠はありません。
ローカル実行なら、
あなたのPC
↓
GLM-5.3
で完結します。
危険になるのは、
API利用
↓
外部サーバー送信
の場合です。
これはGLMでもGPTでもClaudeでも同じです。
あなたならどう選ぶべきか
あなたが以前、
Gemma 4-E4B
Jan-v3.5-4B
LM Studio
について質問されていた流れで言うと、
個人利用
おすすめ順
Gemma
↓
Llama
↓
Qwen
↓
Jan
↓
GLM
コーディング重視
Qwen
↓
GLM
↓
DeepSeek
が面白い選択肢になります。
一言で評価すると
GLM-5.3は
「中国のZhipu AIが開発した超大型のオープンウェイトLLMで、特にコーディングやAIエージェント用途に強い。DeepSeekやQwenと並ぶ中国トップクラスのモデルの一つ」です。
ただし、あなたがLM Studioで実際に遊ぶという観点では、GLM-5.3本体よりも、今後公開される軽量版や量子化版の方が現実的です。750B級の本体は、一般的なGPU環境ではかなり重い部類に入ります。
