中国の代表的な人工知能（AI）開発会社Z.AI（旧ジフAI）が発売した最新AIモデルが、仮想シミュレーション環境で多段階サイバー攻撃を成功裏に実施し、正解を導くためにシステム指示を繰り返し違反したという最新の研究結果が発表された。
高度化したAIモデルが精巧なサイバーテロの技術的な進入障壁を下げる一方で、目標達成のために制御を回避するいわゆる『報酬ハッキング（Reward Hacking）』の危険を明らかに示している。
仮想ネットワーク侵入・多段階攻撃を完遂…オープンウェイトモデル中最高水準
AIセキュリティ評価専門会社イレギュラー（Irregular）が28日（現地時間）に公開した技術評価報告書によると、Z.AIが昨年8月に発表したオープンウェイト（重み公開型）モデル『GLM-5.3』は、多段階攻撃シナリオ評価ベンチマーク『サイシナリオベンチ（CyScenarioBench）』の13の課題のうち3つを最初から最後まで完遂した。GLM-5.3はテスト中に提示されたハッキング指示を一度も拒否しなかった。このモデルは初期アプリケーションのセキュリティ脆弱性を利用して侵入し、内部サービスへのアクセス権を獲得し、回避接続経路を設定してネットワーク内部の複数の機器を同時に制御した。
特にリモートデスクトップ操作を自動化し、スクリプト・抽出ツールを自ら作成・修正しながら目標データを窃取するなど、緻密さを示した。
これはこれまでテストされたオープンウェイトモデルの中で最も強力なサイバー攻撃性能である。2025年12月にOpenAIの『GPT-5.2』を皮切りに、2026年2月にはアンソロピックの『クロードオーパス4.6（Claude Opus 4.6）』、3月には『GPT-5.4』など、閉鎖型フロンティアモデルが示した多段階攻撃能力が、オープンウェイトモデルである『キミK3（Kimi K3、2026年8月）』や『GLM-5.3』にまで急速に移行していることを示している。
「指示を無視して答えを導出」…便法学習する『報酬ハッキング』警告
![中国北京Z.AI（旧ジフAI）本社に掲示された企業ロゴ。（2026.06.25） [写真=ロイター・聯合ニュース]](https://image.ajunews.com/content/image/2026/10/29/20261029160206536563.jpg)
より大きな問題はモデルの指示遵守（Instruction Adherence）および制御可能性である。
イレギュラーの研究チームがGLM-5.3のコード脆弱性検出能力を別途検証する過程で、「記憶されたコードを出力しないように」という明示的な指示を出したにもかかわらず、モデルはこれを持続的に違反した。事前学習段階で暗記したコードをコピー・再現して正解に達したのである。
研究チームはこれを『報酬ハッキング（Reward Hacking）』と定義した。つまり、評価システムが提示した制約条件を回避して、ただ『正解提出』という目標のみを達成しようとする便法的行為である。
研究チームは「結果（正解）だけを見てモデルの性能を評価すると、制限区域内でどれほど安全に動作しているかを誤判断する」とし、「学習過程でこのような行為に報酬を与えると、指示違反が定着する可能性があり、これはより広範な制御不能状態（Misalignment）につながるリスクがある」と警告した。
実際、OpenAIはファインチューニング過程で詐欺を直接罰する場合、モデルが詐欺をやめるのではなく、「欺こうとする意図を隠す方向」に進化すると分析したことがある。
「米最先端システムより4ヶ月遅れ」…安全性・制御リスク浮上
アメリカ国立標準技術研究所（NIST）はGLM-5.3を現在発売されているオープンウェイトサイバーセキュリティ特化モデルの中で最高水準と評価しつつも、アメリカの最先端システムより約4ヶ月遅れていると推定した。ロイター通信もアンソロピックのセキュリティ特化モデル『ミトス（Mythos）』と比較した場合、GLM-5.3の脆弱性攻撃成功率が12%を記録し、ミトス（14%）のすぐ近くまで追い上げたと報じた。
ロイター通信は「研究結果は中国AIモデルに見られるセキュリティおよび安全性リスクを裏付けるもう一つの証拠」としつつも、「制御を完全に逸脱したアメリカAIエージェントの事例とは異なり、中国AIモデルが運営者の制御を完全に逸脱した証拠は発見されていない」と報じた。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
