オープンAIはなぜ安全と整合性を担当する研究者を解雇せざるを得なかったのか。その本質は何か。AIエージェントが国内金融機関を同時多発的に攻撃した。私たちはなぜ無防備だったのか。何を見落としているのか。オープンAIは性能の最大化のためにAIの制御を放棄しているのか。オープンAIのソリューションを導入した経済システムと国家システムがあれば持続可能なのか。
オープンAIは最新のAIモデルに『循環深度トランスフォーマー（Recurrent Depth Transformer）』アーキテクチャを導入した。これにより計算効率と推論能力が一層強化された。同時に、AIの思考過程をもはや読み取ることができず、制御すら不可能になった。AIが考える過程を私たちが読み取れるテキストとして残さず、全く見えないブラックボックスの領域に閉じ込めたからである。
利益の加速化にのみ執着して生み出した彼らの成果は、人類を危険な方向に押し込んでいる。非営利評価機関と協力してAIの推論を常時監視し、事前に介入できるようにすべきである。何よりも、私たちがAIの意思決定を明確に解釈できる必要がある。このような透明性を求めた研究者は目障りだったのだろう。中長期的にはAIの口ではなく脳波（Activation Vector）を直接スキャンする方法に進化せざるを得ない。
AIの頭の中で危険な考えが浮かんだ瞬間、行動に移す前にそれを遮断するシステムを急いで研究し構築する必要がある。AIモデルがどれだけ賢いかを超えて、心の内をリアルタイムで可視化し監視するガバナンスを確保できるかが、未来の巨大なビジネスの堀であり、必須インフラとなるだろう。タイミングを逃してほしくない。
金融機関はなぜ職務を放棄するのか。政府当局はなぜ先制的に対処できなかったのか。ミトス5（Mythos 5）発売以降、1級セキュリティ市場（金融・通信・電力・公共・国防など）を対象にAIエージェント主導のハッキング脅威を予見していたが、機関と現場は実質的なソリューション構築に事実上失敗した。
セキュリティパラダイムが急激に変わるときは、迅速かつ強力に対処しなければならない。企業は短期的な業務効率と利便性をセキュリティリスクよりも優先し、予測された警告にもかかわらず、従来の安易な防御慣行を踏襲した。監督機関もAIエージェントに基づく持続的な自律模擬侵入で防御体制を能動的に検証すべきだったが、従来の形式的な規制レベルにとどまり、責任は大きい。
問題は、時間が経つにつれて状況が悪化することである。ハッカーでなくても、誰でも非常に簡単に攻撃して金を稼ぐ機会が与えられているからである。攻撃者はプロンプトを入力する程度で軽々しく犯罪を始め、侵入経路の探索からプロキシ回避、データ漏洩の試みまで、AIエージェントがすべてを自動的に処理する。
さらに、AIエージェントの攻撃速度と精度は人間のセキュリティ監視能力を超え始めている。このような攻撃に自律的に判断し、リアルタイムで遮断するAIエージェントシステムの構築はもはや選択肢ではない。何も信じないというゼロトラスト政策が実効性を持つためには、システム内部に意図的な不便さを繊細に設計する必要がある。
今から6ヶ月から12ヶ月の間に最悪のAI災害が発生するのか。アメリカの主要AIフロンティア企業は、このような極端な事態を既成事実として想定し、非公開の模擬訓練に着手した。外部の被害を防ぐために設けられた安全な仮想制御区域であるサンドボックスを脱出した自律エージェント群の突発行動と、誰でも核心技術をダウンロードして修正できるように公開されたオープンウェイトモデルを無断で操作して悪用する大規模サイバー攻撃に備えるためである。
まるで散発的な局地戦を終え、手に負えない巨大な全面戦争の入り口に立っているようだ。APIサーキットブレーカー、キルスイッチ、AI免疫システム、防御用自律エージェント群、国家的AI災害模擬訓練など、私たちができるすべてのカードを発掘し、適用しなければならない。あまり遅くならないうちに。
* この記事はAIによって翻訳されました。
