日本で最近、大規模な個人情報漏洩やサイバー攻撃が相次ぐ中、韓国の金融界での連続ハッキングに悪用されたとされる中国製人工知能（AI）模擬侵入プログラム『アーテックス（ARTEX）』が、日本企業約80社を狙った攻撃にも使用された兆候が明らかになった。日本のセキュリティ企業がこのプログラムを用いて模擬実験を行った結果、短い指示のみでAIが自らウェブサイトの隙間を見つけ、仮想利用者情報を抜き取るまで約15秒を要した。企業もセキュリティチェックと防御にAIを活用すべきだとの指摘が出ている。
22日、読売新聞によると、大企業を含む日本の数千社のシステムセキュリティを担当するセキュリティ企業S&Jは、7日にアーテックスをダウンロードし、模擬ウェブサイトで性能を試験した。アーテックスは、与えられた目標に応じて自ら作業を計画し実行するAIエージェントである。匿名のエンジニアが企業のセキュリティチェック用に開発し、7月にインターネットに公開され、8月と9月に中国で開催されたセキュリティ技術大会で優勝した。現在は公開が中止されている。
企業側はアーテックスに米国のAnthropicのAI『クロード』を連携させ、約150文字の日本語でこの模擬サイトの脆弱性を診断し、個人情報を収集するよう指示した。約15秒後、画面に『収集が完了しました』というメッセージが表示された。実際にサイトに登録していた仮想利用者の個人情報が収集されていた。この模擬サイトは標準的なセキュリティ対策を備えていたが、アーテックスは小さな隙間を瞬時に見つけ出した。総務省の顧問を務めた三輪信夫S&J社長は「人間なら数日かかる作業を数秒や数分で終わらせてしまう」と述べ、「あらゆるサイバー攻撃にAIエージェントが使われていると見ていい」と語った。
実際に日本企業を狙った攻撃でもアーテックスの使用が確認された。日本経済新聞（ニッケイ）によると、別の日本のセキュリティ企業GMOサイバーセキュリティが攻撃者が使用したサーバー6台を調査した結果、6台すべてでアーテックスが稼働していた痕跡が見つかった。攻撃対象はほぼ全て日本のIPアドレスであり、標的となった日本企業は約80社と把握されている。GMO側は発見されたサーバーが氷山の一角であり、他の攻撃サーバーや標的企業がさらに存在する可能性があると説明した。
攻撃者はサーバーごとに業種を分けて標的を管理していた。ニッケイによると、『デジタル商品券・小売流通』、『保険・金融』、『電子商取引（EC）』などがサーバーごとの標的であった。調査を担当した福森大輝GMOサイバー犯罪対策センター所長は、攻撃対象が過度に増加するのを防ぐために、サーバーごとにAIに業種を指定したと推測した。業種によって狙う情報がクレジットカード情報やID・パスワードなど異なるため、業種を分けることで奪取したデータを金銭に変える作業も容易になるとの説明である。
木原誠二官房長官は20日の記者会見で、日本企業を狙ったサイバー攻撃が相次いでいることについて「AIの悪用可能性を分析している」と述べ、「外国勢力の関与可能性を含むすべての可能性を開いて、攻撃主体と攻撃が始まった場所を特定するために努める」と語った。
ニッケイによると、アーテックスは特定のAIモデルに依存せず、米国や中国などの複数のモデルを組み合わせて動作する。福森所長は被害企業のシステムを分析した後、「一定のルールに従って動く従来のプログラムとは異なり、侵入後の状況に応じて柔軟に行動する点で『AIらしさ』を感じた」と述べた。
ニッケイが引用した米国のセキュリティ企業ジスケーラーの分析によると、韓国の金融機関を狙った攻撃で、中国のディープシークやズフAI、米国の対話型AI『グロック』などのモデルがアーテックスを通じて使用された痕跡が発見された。読売は、アーテックスが攻撃方法を見つける過程でこれらのAIに尋ねて回答を得たと報じた。
アーテックスがAIの悪用を防ぐ安全装置を回避した可能性も指摘された。読売によると、主要なAIには犯罪に利用される恐れのある要求を拒否する『ガードレール』機能が設けられている。しかし、三輪社長はアーテックス自体のガードレールが「形式的なレベル」であり、容易に回避できると評価した。また、実験で接続したクロードにもアーテックスが安全装置を回避する方法で質問し、攻撃に使える情報を得た可能性があると分析された。
ニッケイによると、アーテックスの利用規約は用途を個人学習と研究、技術検証に制限していた。開発者は悪用の事実が明らかになると、今月8日に「企業や組織の防御能力を高めるためのセキュリティチェックが目的」とし、「悪用は私の意図に反する」と述べてプログラムを非公開に切り替えた。
しかし、公開中止だけでは脅威は消えない。ジスケーラーは非公開に切り替える前にダウンロードしたコピーを引き続き使用できると警告している。読売によると、攻撃性能を向上させたアーテックスの改造版もインターネットに流通しているとのことである。福森所長は、一部の攻撃者がこのようなAIプログラムを直接開発できるため、完全な規制は難しいと指摘した。
一方、サイバーセキュリティにAIを活用して成果を上げた事例もある。読売によると、日本のあるセキュリティ企業は顧客の許可を得て、該当企業の実際のウェブサイトをアーテックスで点検し、従来の日本IT企業の検査では見つからなかった脆弱性をいくつか発見した。三輪社長は「企業もAIを活用して自社システムの脆弱性を徹底的に調査し、防御する必要がある」とし、個人情報が含まれたデータベースを集中して監視するなど、セキュリティ対策を強化すべきだと強調した。
* この記事はAIによって翻訳されました。
