韓国女性人権振興院中央デジタル性犯罪被害者支援センター（中央デジセンター）に人工知能（AI）検知システムが導入された後、1日あたりの子ども・青少年の性搾取物削除支援件数が10倍近く増加したことが明らかになった。
中央デジセンターは10日、ソウル中林洞の振興院で行われたプレスツアーで、AI基盤の子ども・青少年オンライン性搾取検知・通報システム導入の成果を公開した。
センターが4月に導入したAIシステムは、オンライン上の性搾取物と誘引情報を24時間自動で検知・分析する体制である。
現在、Google、X、BlueSky、Telegramなどのソーシャルネットワーキングサービス（SNS）4つとチャットアプリ10種で未成年者の性搾取物・誘引情報を自動で収集・分析し、その後担当者の確認を基に削除要請などを行っている。
過去6ヶ月間の運用結果、子ども・青少年の性搾取物96,210件の削除が行われた。手作業で削除を支援していた昨年の45,438件と比較すると、2倍以上の増加である。
月平均削除支援件数は昨年の3,787件から今年の4～9月には16,035件に増加し、約4.2倍、センター職員1人あたりの1日平均削除処理件数は20.8件から202.1件に約9.7倍増加した。
中央デジセンターの関係者は「センターが保有する4万件以上の画像・テキストを学習させたAIシステムを導入した結果、削除処理の速度が大幅に向上し、性搾取物の露出による職員の心理的負担も軽減された」と述べた。
性平等家族部と振興院はAI検知体制を高度化し、性搾取物削除支援の効率性と対応能力を高めていく計画である。科学技術情報通信部と協力し、来年までに検知対象プラットフォームを既存の74から139に拡大し、会話の流れや文脈を理解できるようにAIの性能を改善する。
キム・ミスン中央デジセンター長は「被害者の要請がなくても、子ども・青少年の性搾取物を先制的に見つけて削除を支援している」とし、「AIで被害者をより早く発見し、必要な支援を迅速に結びつける」と述べた。
国内外の関連機関との協力も強化する。性搾取物の違法流通が主に海外プラットフォームで行われており、その中の30％は中央デジセンターの削除要請に応じていないためである。
キム・ソンビョク性平等部デジタル性犯罪防止課長は「新しい技術を開発すれば、それを回避する技術も常に出てくる」とし、「最新技術を導入して削除の有効性を高めると同時に、関係部門と制度改善を通じて最後まで追跡・遮断するのが政府の方針である」と述べた。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
