「人工知能（AI）時代には、偽情報を人間が一つ一つ検証する方法だけでは限界がある。プラットフォームはアルゴリズムの偏向性と公正性を継続的に管理し、公開する必要がある。」
7日、チャ・ミヨン独逸マックスプランク安全及び情報保護研究所（MPI-SP）所長（韓国科学技術院コンピュータ学部教授）は、ソウル江南区の韓国科学技術会館で開催された2026世界韓人科学技術人大会基調講演後のインタビューで、AI時代の偽情報対策の方向性についてこのように述べた。
チャ所長はこの日、偽ニュース生態系が過去とは全く異なる様相に変わっていると診断した。彼は「過去には偽情報が点在するように広がり、怒りの感情が結びつくときに伝播速度が速かった」とし、「今後はこのような方法で追跡し、対応するのは容易ではないだろう」と評価した。
続けて「偽情報の拡散は人と人の間の伝播ではなく、人を装ったAIアカウント集団を通じて長期間行われる可能性がある」と付け加えた。
チャ所長はAIが偽情報を継続的に注入する場合、個人の選択だけでなく、民主主義も揺るがす可能性があると懸念を示した。彼は「重要なのは、AIを基にどのような意図と目的で作られたかにある」と述べた。
政府が偽情報撲滅規制を実施することに関しては、法律と制度だけでは問題が解決できないと指摘した。チャ所長は「偽ニュースには責任を負う主体が非常に多い」とし、「偽ニュースを生成した主体と、それを止めずに社会関係網サービス（SNS）に伝播したプラットフォーム、拡散したユーザーなどがいる」と述べた。
続けて「すべての分野を監視するのは現実的に難しい」とし、「選挙や重要な社会的問題のようにオンライン公論場で形成された意見が意思決定や投票に繋がる事案は集中してモニタリングする必要がある」と付け加えた。
AI生成コンテンツを検出する技術もまだ完全ではないと診断した。チャ所長は「AIが生成したかどうかを判別する技術は次々と出てきているが、それを回避する生成方法も同時に進化している」とし、「まだ完璧にできる分野だとは言えない」と説明した。
彼は情報流通構造自体が変わっている点も指摘した。過去には人が直接偽情報を検証する方法が中心だったが、最近ではプラットフォームがアルゴリズムを活用してコンテンツを管理する割合が大きくなっているという。
チャ所長は「今は多くの人が他人に尋ねる前にAIにまず尋ねる」とし、「AIと個人の対話は外部から見ることができないため、AIが利用者にどのような情報を提供したのか、間違った情報を伝えたのかを測定するのが難しくなるだろう」と述べた。
彼はAIと利用者の対話が増えるほど、プラットフォームがアルゴリズムの信頼性と偏向性を自ら検証し、社会に説明する責任も大きくなると強調した。チャ所長は「偏向と公正性など多様な部分でベンチマークを作り、その結果を透明に公開する必要がある」とし、「そうすることでプラットフォームが社会的価値のためにどのような努力をしているのかを確認できる」と述べた。
チャ所長はデータ科学と人工知能（AI）を活用して偽情報、貧困、公共行政などの社会問題解決策を研究するデータサイエンスの専門家である。
主要な研究分野は『人類のためのデータサイエンス（Data Science for Humanity）』である。AIとビッグデータを活用した偽ニュース拡散メカニズム分析、偽情報検出、衛星映像に基づく貧困地域分析、公共サービスAIなど社会問題解決型AI研究を行ってきた。これらの研究成果が評価され、2024年に洪進基創造人賞、今年は科学技術勲章革新章を受賞した。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
