人工知能（AI）セキュリティ企業のラオンシキュアは、AIセキュリティソリューション『オンシールド（OnShield）』が人工知能製品・サービス確認書を取得したと発表した。
人工知能製品・サービス確認制度は、韓国人工知能・ソフトウェア産業協会（KOSA）が人工知能基本法に基づき、製品やサービスにAI技術が実際に適用されているかを確認する制度である。製品に適用されたAIの学習・推論特性や機能貢献度などを技術的に審査し、確認書を発行する。
企業の生成型AI導入が増加する中、従来のセキュリティ体制だけでは対応が難しい新たなセキュリティ脅威も現れている。従業員が業務中に企業の重要情報や個人情報を生成型AIに入力したり、攻撃者が悪性プロンプトを利用してAIに設定されたセキュリティポリシーを回避する事例が代表的である。
『オンシールド』は、これらの脅威に対応するためのAIセーフガードレールソリューションである。ユーザーと生成型AI・AIエージェントの間でやり取りされる入出力データをリアルタイムで分析し、事前に設定されたポリシーに基づいてデータを許可または遮断する。企業が生成型AIを活用する過程で発生する可能性のある情報漏洩やAIの誤用リスクを管理することを支援する。
主な機能としては、プロンプトインジェクションや脱獄などの悪性プロンプト攻撃の検出・遮断、AI入力情報に含まれる個人情報の自動識別および匿名化・マスキングなどがある。韓国語特化モデルを基に有害コンテンツをフィルタリングし、企業や機関が設定したセキュリティポリシーに従って敏感情報の入力や不適切なAI使用を制御する。
ラオンシキュアは、今回の確認書取得を契機に公共・金融市場への展開を本格化させる計画である。公共機関や金融機関がAIセキュリティソリューションの導入を検討する過程で、今回の確認書が『オンシールド』のAI技術適用の判断材料として活用されることが期待されている。
イ・ジョンアラオンシキュア代表は、「生成型AIの活用を超え、AIエージェントが実際の業務を遂行する段階に移行する中で、敏感情報漏洩や悪性プロンプト、ポリシー回避など新たなセキュリティ脅威も増大している」と述べ、「『オンシールド』はこれらの脅威を制御し、企業や機関がAIをより安全に活用できるようにするソリューションであり、今回の確認書取得を契機に公共・金融を中心に事業機会を拡大していく」と語った。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
