人工知能（AI）チャットボットが青少年の新たなコミュニケーション・遊びの手段として定着する中、国内でも利用時間と決済額を直接制限する青少年保護政策が登場した。AIと対話する過程で利用者がキャラクターに没入し、長時間サービスを利用することを考慮し、事業者が自主的に安全装置を設けたものである。
ルートンテクノロジーズ（ルートン）は8日、青少年保護政策の強化計画を発表した。核心は利用時間と決済額に上限を設けることである。青少年のAIチャットボット『クラック』の1日の利用時間を最大3時間に制限し、月の決済額は10万円を超えないようにする計画である。
3時間を超えてサービスを利用したり、月の決済額が10万円を超える場合には、保護者の認証と同意手続きを経なければならない。AIチャットボットに長時間滞在する行為や過度な決済を直接管理する意図である。
モバイルインデックスによると、AIチャットアプリの利用時間は急速に増加している。AIチャットアプリ全体の使用時間は2024年4月に約110万時間から、今年3月には約6310万時間に増加し、2年で57倍に達した。利用時間が増える中で、過剰に没入する青少年も増加している。
クラックは、利用者がAIキャラクターを直接作成したり、既存のキャラクターを選んで対話を続け、自分だけのストーリーや作品を作るAIエンターテインメントサービスである。基本的には無料で利用できるが、より深い対話や画像生成を利用するためには、有料通貨『クレッカー』をチャージする必要がある。キャラクターとの対話が長くなるほど、有料通貨の使用も増える構造であるため、利用時間と決済額を共に管理することにした。
ルートンが利用時間の上限を別途設定したのは、AIチャットボットのサービス構造が従来の情報検索型AIとは異なるためである。利用者が質問し、回答を得た後にサービスを終了するのではなく、特定のキャラクターと継続的に対話し、関係や物語を作り上げることができる。
ルートンは年齢認証の方法も強化する計画である。現在、クラックは移動通信事業者が提供する本人確認サービス『PASS』を通じて成人と青少年を区別している。これに追加の認証手段を含め、年齢確認の正確性と安全性を高める方法を国内外の事例と共に検討している。
コンテンツの安全装置も見直す。クラックのコンテンツ生成ポリシーや年齢区分管理、作品検査システム、検索・推薦制限、通報・ブロック機能、違反アカウントの制裁など、既存の青少年保護体制を利用パターンの変化に合わせて全般的に点検する予定である。不適切または危険な対話をフィルタリングするための追加フィルターや安全システムプロンプトを強化するなど、AIセーフティ技術も高度化する。
今回の措置は、ルートンが事業成長と共に利用者保護に対する責任も強化する動きと解釈される。ルートンは最近、企業公開（IPO）のための主幹事選定手続きに着手するなど、事業拡大に乗り出している。イ・セヨンルートン代表も以前、利用者が信頼して安全に使用できるAIを作る方向性を明らかにしている。
ルートンは制度的・技術的検討とシステム改編を終えた後、2027年初頭から強化された青少年保護政策を本格的に適用する計画である。
イ・ドンジェルートン最高製品責任者（CPO）は「すべての人に安全で健康な人工知能サービスを提供する社会的責任を重く認識している」と述べ、「青少年利用者の安全を最優先に考えつつ、創造力を発揮できるサービスを作るために最善を尽くす」と語った。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
