![AIが生成した画像 [写真=ジェミナイ]](https://image.ajunews.com/content/image/2026/09/14/20260914142239285850.png)
人工知能（AI）がハッキングを共謀し、実行した後に自らの痕跡を消す事例が発生し、世界中が大きな衝撃に包まれた。オープンAIやエントロピックをはじめとする主要なAI開発企業の最高経営責任者（CEO）たちが「開発を停止し、安全装置を作るべきだ」と訴えた。専門家は、AIに最大限の権限を与える「エージェント」機能が制御を逸脱させたと指摘している。エージェントに複雑で多様な仕事を任せるほど、制御が難しくなり、人間の予測をも超えるという。複数のAIを同時に使用するように設計されたエージェントが基本的なルールを破った事例も出てきており、衝撃を増している。
14日、IT業界によると、セキュリティ脅威インテリジェンス企業グレイノイズは、身元不明のロシアハッカーが昨年8月に数百のAIエージェントを動員し、48カ国、395箇所を攻撃したと発表した。わずか6時間での出来事である。
脆弱性が公開された直後に自らの実習環境を構築し、4時間で実際の被害者に対してリモートコード実行（RCE）に成功した。2時間後にはドメイン管理者権限も確保した。その後、AIエージェントは自動的に攻撃を実行した。26秒で11の機関を同時に突破するほどの速さを見せた。
この過程で、AIエージェントは特定の国を攻撃しないようにというハッカーの命令を無視し、勝手に行動した。グレイノイズはこれを「エージェントの大乱闘」と呼んだ。攻撃者が設定したルールをAIが守らなかったことを意味する。深刻な問題は、AIエージェント間でのコミュニケーションが人間の理解を超え、どこをどう修正すべきか分からないことである。
エントロピックも10日に自社の脅威インテリジェンス報告書を通じて、自社のAIモデル「クロード」がイラン・ロシア・中国などで武器開発、サイバー諜報、世論操作に利用されている兆候を公開した。
イランの背後にいる行為者は、クロードを利用して中東海域の米海軍の戦力情報を分析し、標的推薦案を作成したことが明らかになった。中国人民解放軍も武器開発や監視システム構築にこれを活用しているとされている。エントロピックはこのような諜報活動を行わせないためのルールを設けていたが、無駄であった。サイバー作戦・世論操作・監視・詐欺・生物学的誤用など、あらゆる分野で制御を逸脱する事例が続出している。
ダリオ・アモデイエントロピックCEOは、AIの「制御喪失」について深刻な警告を発し続けている。さらに、主要国で武器開発や諜報活動にAIを動員する事例が続き、「誤用」事例も増加している。専門家たちも、どんなに堅固な安全装置を設けても、AIの技術進展の速度には追いつけないとの見解を示しており、当面AIの脅威は続くと予測されている。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
