オンラインコミュニティやソーシャルネットワーキングサービス(SNS)、ポータルサイトに適用される違法撮影物流通防止措置が、動画から画像にまで拡大された。利用者が写真をアップロードすると、投稿前に違法撮影物データベースと比較・識別する手続きが追加され、オンラインコミュニティの利用者の間では「AIによる事前検閲ではないか」という反発も出ている。
放送通信委員会は、1日から電気通信事業法に基づく「違法撮影物等流通防止のための技術的・管理的措置」の対象を、従来の動画ファイルから画像ファイルまで拡大して実施する。これにより、グーグル、メタ、エックス(X)、ネイバー、カカオなどの事前措置義務事業者約80社は、利用者が投稿しようとする動画や画像が違法撮影物に該当するかを比較・識別し、投稿を制限する措置を講じる必要がある。
今回の措置は、いわゆる「N番房防止法」と呼ばれる電気通信事業法改正の流れと関連している。2020年のN番房事件を契機に、デジタル性犯罪物の流通を防ぐためにプラットフォーム事業者の技術的・管理的措置義務が強化され、これまで主に動画ファイルに適用されていた事前ブロック措置が画像にまで広がったものである。
適用対象は、一定規模以上のオンライン事業者である。前年度の売上が1億ウォン以上または日平均利用者が10万人以上のSNS、コミュニティ、インターネット個人放送、検索ポータルなどが対象に含まれる。利用者が画像をアップロードすると、投稿前にAIベースのフィルタリングまたは比較・識別手続きを経ることになる。
放送通信委員会は、今回の措置がプライバシー侵害や事前検閲ではないと説明している。人が利用者の画像を直接閲覧したり審査したりするのではなく、すでに違法撮影物として登録された資料のデジタル特徴値、いわゆる「デジタルDNA」とアップロードされたファイルを自動的に比較する方式であるという。
ただし、利用者が感じる不安は少なくない。コミュニティでは「自分がアップロードする写真が投稿される前に検査されるのではないか」、「違法撮影物の防止は必要だが、基準と方法が透明でなければならない」、「誤検出が発生すれば正常な投稿もブロックされるのではないか」といった反応が続いている。制度の名分はデジタル性犯罪防止だが、実際の利用経験では「アップロード前フィルタリング」という形で体感されるためである。
事業者の負担も論争の的である。一定規模以上のコミュニティやSNS事業者は、画像アップロード過程で違法撮影物等に登録された資料と一致するかを照合するシステムを整備しなければならない。
中小プラットフォームにとっては、技術とコストがすべて負担となる可能性がある。すでに独自の検出システムを構築した大手プラットフォームは比較的対応余力があるが、中小規模事業者は外部フィルタリングソリューションの導入やサーバー増設コストを負担しなければならない。
放送通信委員会は制度の定着のため、今年末まで6ヶ月の猶予期間を設ける方針である。新たな義務を突然設けたのではなく、昨年12月に画像比較・識別の国家技術が開発されたことに伴い、従来の動画中心の措置を画像にまで拡大したと説明している。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
