国内でもAIチャットボットが単なる情報検索を超え、キャラクターとの関係を形成するサービスとして広がっていることから、青少年保護のための制度整備が必要だとの指摘がある。
8日のモバイルインデックスの集計によると、スキャッタラップの『ゼータ』の月間アクティブユーザー数（MAU）は2024年4月の5万8069人から今年8月には158万6178人に約27倍増加した。ゼータは利用者がキャラクターや世界観を直接設定し、AIとリアルタイムで会話しながら物語を作り上げるAIベースのインタラクティブエンターテインメントサービスである。
ルートンの『クラック』も利用者が着実に増加している。クラックのMAUは集計が始まった昨年4月の21万8050人から今年8月には53万8841人に約2.5倍増加した。特にキャラクター基盤のチャットボットは、定められた質問に答える従来の生成型AIとは異なり、持続的な会話と関係形成をサービスの核心としているため、青少年の長時間利用や感情的依存の可能性が新たな危険因子として指摘されている。
国会立法調査処もこの危険性を認識し、昨年7月に『AIチャットボットの中毒的設計がもたらす構造的危険にさらされている子供たち』という報告書を発表した。報告書では、AIチャットボットの特性上、無限の共感反応、個別化された応答、常時接続可能性が中毒につながる可能性があると指摘している。特に自己制御力や批判的思考が十分に発達していない子供や青少年は、感情的依存や社会的孤立、危険行動に対してより脆弱であると分析されている。
国内の青少年のAIチャットボット利用自体もかなりの水準に達している。国会立法調査処が引用した調査によると、14歳以上の子供・青少年3300人のうち94.4%がAIチャットボットを使用した経験があると回答した。この中で75.3%はチャットボットの回答を実際の行動に移したり、真剣に考慮した経験があると答えている。
問題は、現行の国内法体系がこのような危険を直接対象としていない点である。青少年保護法は青少年有害媒体の流通とアクセス制限に焦点を当てており、個人情報保護法は14歳未満の子供の個人情報処理に法定代理人の同意を要求している。AIチャットボットで発生する長時間利用、感情的依存、繰り返しの関係形成といった問題を直接制限する規定とは距離がある。
一方、海外ではAIチャットボット自体を規制対象とする動きが見られる。アメリカのカリフォルニア州は今年から『AIコンパニオンチャットボット規制法（SB 243）』を施行した。この法律は未成年者にAIと会話している事実を知らせ、一定時間以上会話した場合には休憩を促すなどの安全措置を事業者に要求している。自殺や自傷に関する会話に対応するためのプロトコルや未成年者に対する性的コンテンツの露出防止措置も含まれている。
イギリスもAIチャットボットに対する青少年保護レベルを高めている。イギリス政府は未成年者を対象とした性的コンテンツを提供するAIチャットボットの利用を制限するとともに、青少年のチャットボット利用過程で休憩を促す方策を推進している。感情的依存や過度な利用、有害なメンタルヘルスアドバイスなどをAIチャットボットの新たな危険として捉え、事業者と規制機関の対応を強化する動きが見られる。
国内の事業者も手をこまねいているわけではない。スキャッタラップのゼータは青少年利用環境で青少年有害媒体レベルのコンテンツが生成されないように『セーフモード』を運営し、より自由な表現が可能な『アンリミットモード』は成人認証を受けた利用者にのみ提供している。未成年者として設定されたキャラクターや未成年者と認識される可能性のあるプロットには、成人利用者にもセーフモードレベルの制限を適用している。
しかし、これらの措置はあくまで事業者の自主的な判断によるものである。同じ危険にさらされてもサービスごとに保護レベルが異なる可能性があり、利用時間や決済額のように『過剰没入』自体を管理する装置は事業者ごとに大きなばらつきがある。
このため、来る10月の国会の国政監査でもAIチャットボットの青少年保護問題が主要な争点として取り上げられる見込みである。AIチャットボットがSNSやゲームに続き、青少年の日常的なデジタルサービスとして定着したことから、既存の青少年保護法体系だけで十分か、AIチャットボットの特性を反映した別の保護装置が必要かについて、政府と国会が質疑を行うと予想される。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
