科学技術情報通信部（科学技術部）は、高度化するAI基盤のサイバー脅威に対応するため、セキュリティ特化型AIモデルの開発必要性を検討していると発表した。
8日、最優秀室長はソウルの光化門で行われたブリーフィングで「現在の情報保護体制だけではAIモデル基盤の脅威に対応するのは難しいという共感があった」と述べ、「サイバーセキュリティに特化した独自AIモデルの必要性について議論した」と語った。
科学技術部はこの日午前、グローバルAI企業のサイバーセキュリティプロジェクトへの対応策を議論するため、産学連携の専門家懇談会を開催した。懇談会にはSKテレコム、アップステージ、モティフテクノロジーズなど独自AIファウンデーションモデル（独ファモ）開発に参加する企業や主要AI企業、韓国情報保護学会の会長、主要企業の最高情報保護責任者（CISO）などが出席した。
科学技術部は短期的には現在利用可能なセキュリティ特化型モデルの性能を向上させ、中長期的には独自AIモデルを基盤としたセキュリティ対応体制を構築する方向を検討している。
最優秀室長は「独ファモをうまく活用してセキュリティに特化したAI体制を作る方向について共感があった」とし、「確定的に推進方針を決定した段階ではなく、必要性を議論する過程である」と説明した。続けて「5月末から6月初めにかけて情報保護パラダイムの変化方向を説明する予定だ」と付け加えた。
この日の懇談会では実際のAI基盤の侵入デモンストレーションも紹介された。科学技術部と韓国インターネット振興院（KISA）は、AnthropicのOpusモデルを活用して特定企業のサービスの脆弱性を探索し、アカウントの奪取や回避接続に至る過程をデモンストレーションした。
最優秀室長は「既存のパスワードを知らなくてもAIが新しいパスワード生成ルートを見つける脆弱性の事例があった」とし、「AIが脆弱性を探索し、アカウントを確保した後、サービスに接続する過程まで確認した」と説明した。
科学技術部とKISAによると、今回のテストでは合計7つの脆弱性が発見された。特に専門のハッカーが数日かけて行っていた脆弱性探索作業をAIが10分ほどで行ったことが明らかになった。
最優秀室長は「専門のハッカーが手作業で数日かけて見つける脆弱性をAIが短時間で見つけた」とし、「現在は一般利用者がすぐに活用できるレベルではないが、専門のハッカーのプロンプト活用能力が高まるほど攻撃速度が速くなる可能性がある」と指摘した。
一方、11日に柳在明科学技術部第2次官とAnthropic側が会談し、AI基盤のサイバーセキュリティ脅威への対応策を議論する予定である。最優秀室長は「ミトス関連の対応必要性が提起され、政府が先に協力を要請した」と述べた。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
