李大統領「ディープフェイク悪用の深刻さ…対策が必要」

省庁別業務報告を主宰…AI創作物表示義務の必要性を強調

「AIは我々に決定的な機会…全世界が文明史的転換を迎えている」

李在明大統領が16日青瓦台迎賓館で開催された省庁業務報告で出席機関長に質問している。 [写真=聯合ニュース]

李在明大統領は、実在の人物と区別が難しいAI（人工知能）ディープフェイク映像や画像が別途表示なしに流通する場合、事実を証明する証拠のように受け取られる可能性があると指摘した。
 
李大統領はこの日、青瓦台迎賓館で開催された科学技術情報通信部（宇宙航空庁）・放送メディア通信委員会・個人情報保護委員会の業務報告で、「最近は人工知能創作物なのか実際の状況なのか区別が難しいほど実際の映像に似ている」と述べた。
 
李大統領は「表示がなければ深刻な誤解を引き起こす可能性があり、悪用されれば本当に深刻だ」とし、「人工知能創作物が持つ危険性はすでに現実化しているため、対策が必要だ」と強調した。
 
現行の人工知能基本法によれば、生成型AIで作成された映像や画像はAI生成物であることを表示しなければならない。特に実在する人物や実際の現象をAIで変形したディープフェイクは、利用者が即座に認識できるように可視的に表示する義務がある。表示義務に違反した場合、3000万ウォン以下の過料が科されるが、関連制裁規定は現在1年間猶予されている。
 
李大統領は現行法がAIモデル開発事業者と利用事業者にのみ表示義務を課し、生成物の表示を消去したり一部を切り取って再流通する一般の流通者を直接規制できないと指摘した。
 
李大統領は国内ポータルの場合、当事者が名誉毀損や権利侵害を報告すれば、投稿を優先的にブロックした後に異議申し立て手続きを経ると述べた。しかし、海外プラットフォームでは本人確認と削除措置が適切に行われていない。
 
前述のように、李大統領は業務報告の冒頭で「今後我々の社会のすべての領域で人間の知能と類似するかそれを上回る人工知能と共に生きなければならないかもしれない」とし、「全世界がAIによる文明史的転換を迎えた」と述べた。
 
李大統領は「私はこの状況が我々に与えられた決定的な機会だと考えている」とし、「我々の強みをうまく活用し、弱みをうまく補完すれば、追撃者ではなく先導者になれる。少しでも先に行けば無限の機会を享受できる」と強調した。
 
李大統領は「我々の政府が発足して1年の間に科学技術革新エコシステムを正常化し、あり得ない研究開発（R&D）予算の削減や科学技術分野に対する乱暴な対応を多く是正した」とし、「最近では民間の大規模な投資も引き寄せた」と紹介した。

* この記事はAIによって翻訳されました。

亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。