米中首脳会談が3日後に迫る中、AIによる安全脅威に共同で対応するための「ホットライン」構築が議論されている。AIが自らハッキングを行ったり、人間の制御を逸脱する事態が発生した際に、両国が即座に連絡を取り合うことを目的としている。この提案は、冷戦時代の米ソ首脳間の核戦争防止用直通線を思い起こさせる。一見すると、非の打ち所がない提案のように見える。
しかし、冷戦時代のホットラインと現在の状況は根本的に異なる。当時、核兵器を実戦配備する能力を持っていたのは事実上、米国とソ連だけだった。この二国が合意すれば、核戦争という最悪のシナリオは制御可能であった。一方、AIが引き起こす危険は米国と中国に留まらない。
労働市場の再編、情報生態系の混乱、軍事的誤用、特定のモデルや半導体への依存など、基盤となるAIモデルを持たない国々もその影響を受ける。危険の発生源は二国かもしれないが、その影響を受けるのは全世界である。核兵器は保有国でなければそもそも脅威を生み出すことができなかったが、AIは二国が作成したモデルやサービスを全世界が使用する瞬間、その危険を共に背負うことになるという点で構造自体が異なる。
ところが、実際に「何がAI安全脅威であり、どのように対応するか」を決定する場には米国と中国だけが座っている。欧州連合も、日本や韓国も、発展途上国もこの議論に招待されていない。
もし二国が合意に達すれば、それは単なる危機的なコミュニケーションチャンネルの開設にとどまらない。事実上、全世界が従うべきAI安全基準の原型が、交渉テーブルに座っていない他の国々の同意なしに作られることになる。半導体やAIモデルの大部分を米中に依存する韓国のような国々にとって、こうして作られた基準を後にそのまま受け入れざるを得ない可能性が高いことは、決して他人事ではない。
皮肉なことに、この二国は一方で「AI超大国」の地位を巡って直接競争を繰り広げている。市場シェアや技術覇権を争う競争者たちが、特に安全という議題において手を組んでいるのは疑わしい。
自国のAI産業を加速させつつ、リスク管理も自ら行うということだ。結局、二大国の戦略的利益に合わせて設計される可能性が高い。残りの国々には選択肢がない。すでに二国のモデルやインフラに依存している状況で、彼らが定めた安全基準をそのまま受け入れるか、あるいは議論から完全に排除されるかのどちらかを選ばなければならない。
多国間の議論の枠組みがなかったわけではない。英国と韓国が相次いで開催したAI安全性首脳会議には数十カ国が参加し、共同声明を発表し、ある程度の国際協調モデルを築いてきた。この流れの中で、実質的な危機対応体制が米中の二国間チャンネルで決定されるならば、これまでの多国間協議は拘束力のない形式的な行為に堕してしまう。
ホットライン自体に反対する理由はない。AI事故に対応するための最低限のコミュニケーションチャンネルは必要である。ただし、それが二国だけの秩序として固まらないためには、議論のハードルを下げる必要がある。AIの安全は米中二国の二国間関係ではなく、多国間の規範として扱うべき問題である。
その議論のテーブルには、二大国の決定をそのまま受け入れざるを得ない残りの国々の席も設けられるべきである。世界秩序を二国が勝手に設計し、残りは通知を受ける構造になる瞬間、我々は核時代よりも広範囲で、より静かな形で力の不均衡を再び目撃することになるだろう。
* この記事はAIによって翻訳されました。
