放送通信委員会（放送通信委）が、単なる質疑応答を超えて利用者と情緒的関係を形成する生成型人工知能（AI）に関して、利用者保護体制の整備に乗り出す。
10日、放送通信委によると、委員会は『AI利用者保護法』の制定に向けた政策研究を進めている。利用者の権利を保障し、AIサービス利用過程で発生した被害を救済するための制度的基盤を整えることが法案の大きな骨子である。
放送通信委の関係者は「利用者の権利保障や被害救済などで法案の大枠を整えた状況であり、AIサービスに対する評価制度をどのように設計し、事業者にどの程度の責任と義務を課すかについて具体的な内容は議論中である」と述べた。関連法案の制定に向けた公開討論会も、今後11月に開催される予定である。
AI利用者保護の必要性が高まった理由は、生成型AIサービスの役割が急速に拡大しているためである。生成型AIは、一般的な情報提供を超えて、悩み相談や情緒的交流まで提供している。利用者の話し方や嗜好、過去の会話を記憶し、友人や恋人のように反応する『伴侶AI』や関係型チャットボットも普及している傾向にある。
実際、スキャッタラップの『Zeta』やルートンの『Crack』など、AI基盤サービスの成長が加速している。Zetaの月間アクティブユーザー数（MAU）は、2024年4月の5万8069人から先月の158万6178人に約27倍増加した。Crackの場合、昨年4月の21万8050人から先月の53万8841人に約2.5倍増加した。
この過程で、AIが利用者の自傷や犯罪行為を助長する可能性、青少年がサービスに情緒的に依存したり過剰に没入するリスクなどが新たな問題として浮上している。同じ質問に対しても、利用者の会話の文脈に応じて異なる回答が生成されるため、従来の方法では有害性を事前に確認することが難しいという限界もある。
青少年保護装置の実効性にも疑問が呈されている。アメリカのカリフォルニア大学アーバイン校とアラバマ大学の研究チームが昨年2月に公開した予備論文『言葉より行動が重要である：AIチャットボットの年齢制限政策に関する調査』によれば、研究チームが主要なAIチャットボット5種を1050回実験した結果、子供利用者に対してサービスアクセスを遮断した事例はなかった。
成人に助けを求めるように案内したケースも2件にとどまった。研究チームは「利用規約に最低利用年齢を明示するだけでは、子供の実際のアクセスを制限することは難しい」と指摘した。
被害が発生した際の責任の所在や救済手続きが不明確な点も課題として挙げられる。情報通信政策研究所（KISDI）の『AIサービス利用者保護のための法制導入方策研究』は、既存の情報通信関連法体系だけではAIサービスのリスクや利用者の被害に十分に対応できないと診断した。KISDIは「AIサービス関連の紛争を専門に扱う紛争調整委員会を設置する必要がある」と指摘している。
海外でもAIチャットボット利用者保護を強化しようとする動きが続いている。昨年、アメリカ連邦取引委員会（FTC）は、オープンAI、グーグル、メタをはじめとするキャラクターAIなど主要事業者を対象に、AIチャットボットが子供や青少年に与える影響と安全措置を調査している。
アメリカのカリフォルニア州は、今年1月にAI伴侶チャットボット事業者に対し、利用者が人と会話しているのではないことを通知し、自傷の危険や未成年者向けの性的コンテンツに対応する安全装置を整備するよう求めた。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
