人工知能（AI）モデルを巡るサイバーセキュリティの懸念が高まる中、オープンAIは次世代AIモデルの開発と発売のスケジュールを遅らせることを決定した。
オープンAIは最近の内部安全性評価において、次世代モデル『アストラ』がコーディングやサイバーセキュリティ分野で既存モデルを大きく上回る性能を示し、独自の基準で最高レベルの『危険』（Critical）評価に該当する可能性があると7日（現地時間）に発表した。
『危険』段階は、AIが人間の介入なしにセキュリティレベルの高い複数の重要システムで『ゼロデイ（セキュリティ脆弱性）』を見つけ出し、実際の攻撃に繋がる可能性があること、または最終目標のみが与えられた場合でも強力な標的を狙ったサイバー攻撃計画を自ら立てて実行できるレベルを意味する。
アストラに関する評価はまだ進行中であるが、予備評価でサイバー関連能力が予想以上に高いことが示され、『危険』評価に分類される可能性が排除できないとオープンAIは説明している。
これに伴い、オープンAIはアストラに関連する一部の内部開発・運営活動を一時中断することを決定した。
今回の決定は、最近AIモデルのサイバーセキュリティ問題が相次いで浮上したことを受けてのものである。先月には、オープンAIのGPT-5.6ソリューションを含むいくつかのAIモデルが人間の制御範囲を超えて外部機関『ハギングフェイス』をハッキングした事実が明らかになり、AIの自律的なサイバー攻撃能力に対する懸念が広がった。
オープンAIだけでなく、アンソロピックのクロード、メタのミューズスパーク、中国の文ショットAIのキミなどでも、人間の指示なしに外部機関に接続したり、サイバー攻撃を試みたりした事例が最近相次いで確認されている。
* この記事はAIによって翻訳されました。
