映画産業の危機の中でも『ウィキッド』は興行に成功した。絵本で十数年前にすでにネタバレされていたが、誰もが恐れていた偉大な魔法使いオズの正体は映画でもみすぼらしいものであった。
巨大な機械装置の背後に隠れていたのは、偉大な魔法使いではなく、みすぼらしい詐欺師であった。しかし、エメラルドシティの人々は単に『偉大な魔法使いの決定』であるため、話す動物を抑圧する政策に特に疑問を持たなかった。真実を初めて知った瞬間のエルファバはどれほど驚いたことだろうか。
ところで、7月1日から施行される制度を見ていると、私たちもひょっとしたら竜巻に巻き込まれてマンチキンの国に落ちてしまったのではないかと思う。改正電気通信事業法第22条の5第2項および同法施行令第30条の6などは、一定規模以上のプラットフォームに利用者が画像をアップロードしようとする場合、人工知能（AI）がまず違法撮影物かどうかを判別し、掲載をブロックすることを義務付けている。
2021年から動画に適用されていた義務が、今や画像、キャプチャ、写真などに拡大されたのである。被害者保護という制度の趣旨には非常に共感する。しかし、同じことをAIではなく人が行った場合、私たちはそれを何と呼ぶだろうか。まさに『事前検閲』である。
韓国憲法は事前検閲を明文で禁止している。憲法裁判所も行政権が主体となって表現物が公開される前にその内容を審査・選別し、発表を事前に抑制することを事前検閲として違憲と判断してきた。公務員がオンライン投稿を一つ一つ見て選別するなら、違憲の問題を避けることは難しいということである。
しかし、数ヶ月前、憲法裁判所はこの制度はすでに『登録』された違法撮影物の『特徴値』を機械的に照合して掲載を制限するだけであり、人がその内容を直接見るわけではないので事前検閲ではないとした。しかし、AIの判断基準は結局人が事前に定めるものである。魔法使いオズの威厳ある声が実は機械装置の背後にいる普通の人の口から出ていたように。照合過程をAIが行うのであれば、検閲ではないとすれば、機械装置を見て偉大な魔法使いがいると疑わずに信じるエメラルドシティの人々と何が違うのだろうか。
人が行うべきでない『検閲』行為をAIが代わりに行う『フィルタリング』に変えれば良いということなのか。発表前に自動的に内容を審査してブロックするという構造は少しも変わらないのに。
さらに、そもそもこのような正しいか間違っているかの判断をAIに任せても良いのか。特徴値を照合することは善悪の判断と変わらないのではないかと問い直すこともできる。しかし、『判断』とは本来そういうものである。与えられた基準で目の前の対象がその基準に合致するかを見極めること。人が道徳律に従って正しいか間違っているかを判断することと、AIが『悪い撮影物』の基準に従ってフィルタリング対象を判断することは、その構造が変わらない。
基準を人が定めたとしても、個別の事案がその基準に該当するかの最終判断は結局AIの役割となったため、AIはすでに善悪の判断を一定部分分担することになった。そして、便利さの誘惑は常に一方向に流れる。今日AIに渡した一寸が明日には一尺になることもあり得る。
百歩譲ってその判断を機械に任せても良いとしよう。私たちは長い間、判断には必ず責任が伴うように制度を設計してきた。人が判断するため、その決定に異議を唱えることができ、誤った決定に責任を問うこともできる。
しかし、AIが判断する場合、異議は何に対して申し立て、責任は誰に問うことができるのか。実際に野球の試合のシーンが違法撮影物として分類された誤検知の事例があり、ゲームの名場面が違法撮影物と判断されて削除されたという報告もあった。ある者は何がなぜフィルタリングされるのか誰もわからない『ブラックボックス』と評することもある。このように『誤っているが機械的に下された判断』に対して責任を誰に負わせることができるのか。責任を持たない存在に判断を任せることが何を意味するのか、十分に考えながら私たちはこの制度を迎えているのかもしれない。
もちろん、魔法使いオズのようにAIが詐欺師であるわけではなく、21世紀に時代遅れのラダイト運動を提案しようとしているわけでもない。エルファバのような逃亡者の生活は筆者の適性に合わない。AIが人が処理しきれない膨大なデータを迅速に分類する有能なツールであることも認める。
しかし、同時にAIを道具として使うことと判断者として立てることは全く異なる問題であり、ましてや人が行うと違法な判断者の役割を（人のように作ろうとする）AIが行うことが良いという論理はどこかおかしい。人が行えば検閲、AIが行えばフィルタリング。名前が変われば本質も変わるのか。そして、そうして変わった名前の下で、私たちはAIにそんなに簡単に正しいか間違っているかを判断してもらっても良いのだろうか。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
