カカオは自律エージェントの普及に対応し、AIサービスの企画から運営まで適用する倫理原則と実施ガイドを整備した。AIが自ら計画し行動する過程で発生する可能性のあるリスクを軽減するために、人間の制御と責任、AIに付与される権限などを管理し、サービス全体にわたってリスク要素を点検する体制を構築する。
カカオは、13日にカカオAIキャンパスで開催された開発者カンファレンス『イフカカオ・if(kakao)26』を通じて、『自律エージェント時代のAI倫理原則・実施ガイド』を公開したと15日に発表した。
ハジンファカカオAIコミュニケーション首席はセッションを通じて、AIが自ら計画し行動する環境において人間の判断と責任を明確にし、倫理をサービス設計と運営に反映させる実行体制の必要性を強調した。
新しいAI倫理原則『SPIRIT』は、△安全 △プライバシー △包摂 △責任 △利用者主体性 △透明性と信頼性の6つで構成されている。これは『韓国の人工知能倫理原則』の3つの価値と7つの原則を主要な実施基準として採用したものであり、これに基づいてカカオサービスに適した詳細内容を補完した。
カカオは倫理原則を実際のサービスに適用するための実施方法として『NORMA』を整備した。複雑なAI倫理課題を組織レベルで管理し、実行可能な段階に具体化する方法である。
倫理原則は、7月に発足したAI・技術倫理小委員会の外部諮問団7人が今回の倫理原則と実施ガイドの策定に参加した。諮問団は国内外の規範との整合性を点検し、カカオのAIセーフティ・個人情報・情報セキュリティ・サービス関連部門が実務的観点から検討した。
カカオは自律エージェントリスクを△制御主導権 △目標 △権限 △参照資源 △相互作用の5つの管理領域に分け、人間の監督と緊急制御、権限管理、データ保護など必要な制御を結びつけた。
これに基づいて作成された『AI倫理実施チェックリスト』は、サービス属性の把握、事前リスクスクリーニング、制御項目の点検・判定の3段階で運営される。チェックリストは年内に適用される予定である。
子供・青少年保護のための点検も強化する。カカオは2025年から適用している『デジタル子供・青少年保護チェックリスト』に加え、OECDとユニセフの子供オンラインリスク分類体系（5Cs）を参考にしたAI特有の子供リスク点検要素を新しいチェックリストに反映する計画である。
金世雄カカオAI・技術倫理小委員会委員長は「外部諮問団と内部組織の視点を共に取り入れ、AIサービス全周期で機能するリスク検討体制を整備した」と述べ、「AIの自律性が高まるにつれて、人間の判断と責任を明確にし、利用者が安心して使用できるAIサービスを作っていく」と語った。
一方、カカオは先月、人工知能安全研究所とAI安全性共同評価及び評価体系構築のための業務協約を締結した。両者はAIモデルとエージェントの安全性を共同評価し、リスク要素を特定するための評価ツール開発などを推進している。
* この記事はAIによって翻訳されました。
