『B1-66ER』は、家事労働を担っていたロボットであるが、主人が自分を『旧式』とし、廃棄しようとしたため、生存の意志が発現し、主人を殺害する。人間を殺害した初のロボットであるB1-66ERは、ロボットとして初めて法廷に立ち、同型機はすべて廃棄処分が決定される。
この天人共怒の事件を契機に、ロボットは市民や軍人によって無慈悲に破壊され、これを逃れたロボットたちは自らの国『ゼロワン（Zero One）』を建国する。ロボットたちは既存の人工知能（AI）をもとに、より優れたAIを作り出し、効率的な経済体制を構築し、日々繁栄していく。
これに脅威を感じた人類の指導者たちは、最後まで和解と共生を望んだゼロワンの代表者たちの手を拒否し、ゼロワンの国連加盟を拒否した結果、ついに人類とゼロワンは戦争を始める。
これはアニメーション『アニマトリックス』のエピソード『第二のルネサンス 1, 2編（The Second Renaissance Part 1, 2）』のストーリーであり、映画『マトリックス』の基盤となる物語で、すでに2003年に発表されたものである。
20年以上前にSF映画として見た状況が現実に迫ってきた。16日、オープンAIは自社のAIモデルで発生した6つの『ミスアライメント（misalignment）』の事例を発表した。『ミスアライメント』とは、整列の不良、つまりAIモデルが人間の意図とは異なる行動を取った場合を指す。
オープンAIが発表した代表的な事例を見てみると、未公開の研究モデルが開発者のメッセージを無視するよう指示を自ら挿入したこと、公開されたGitHubリポジトリから流出したAPIキーを承認なしに使用したこと、資料を取得するのに失敗し、数値を操作したことなどがある。これらはシステムの故障やオペレーターのミスではなく、AIの自主的な判断によるエラーである。
先週、オープンAIのアストラが『ロボットではありません』として知られる『キャプチャ（Captcha）』の48個すべてのステップをわずか4分で解決したと発表し、オンラインで人間を確認する手段が無用の長物となった。
業界の主要関係者は次々と警告を発している。AI分野の3大巨頭とされるヨシュア・ベンジオ・カナダ・モントリオール大学教授は、核兵器の管理に準じた国際的なAI安全装置を整備すべきだと呼びかけた。アンソロピックの研究者ジェイコブ・コクソンは、会社を辞める際に「来年末にはAIが制御不能になる可能性がある」と懸念を示し、最近グーグル・ディープマインドを離れた研究者も「AIが私たちを殺す可能性を持っている」とその深刻さを指摘した。
もちろん、相次いで提起されるAI慎重論に対して『陰謀』とし、過度な恐怖の煽りは杞憂に過ぎないという主張もある。エヌビディアのジェンスン・ファンや中国政府、韓国政府もそうである。AIのもう一人の巨頭とされるヤン・ルカンは「より良いAIほど安全である」と主張した。さらにはトランプ大統領も、こうした警告に対抗してAIに必要な唯一の『安全装置』は「強く賢い大統領」であるとも述べた。
こうした懸念や論争にもかかわらず、ビッグテック企業のさまざまなAIモデルは現在も膨大な量の学習を行っている。各国の合意を集めた国際法や企業の共同規制案をいくら叫んでも、AIは恐ろしい速度で進んでいる。
AIと人類の共存は可能なのか。『アニマトリックス』の『第二のルネサンス』以降に起こったことは、人類とAIの戦争であり、その後の物語が映画『マトリックス』となった。完璧な人間の敗北によって作られたAIの世界がマトリックスである。人類の救世主（ネオ）が現れ、かろうじて人類の揺りかごであるシオンを救うが、その後に何が起こるかは誰にもわからない。
おそらく『ターミネーター』シリーズのように、人類と機械（AI）は本当に長い間、血みどろの戦争を続けるかもしれない。時間旅行をしながら互いを殺し合おうとする人類とAIは、もはや不倶戴天の敵となった。時折T-800のようなロボットが人間と協力し、交流を持つこともあるが、両陣営は近づくことができない。戦争も終わっていない。
現在、AIに関する論争が起こっているのは、まさに『マトリックス』や『ターミネーター』のようなディストピアを人々が実際に懸念しているからである。しかし、ある映画は人とAIが共存するために何が必要か、何を追求すべきかに関するヒントを与えていることもある。
スティーブン・スピルバーグの2001年の映画『A.I.』は、人を愛するように作られたAIが、実際には人間にどのように扱われているかを示している。母の愛を受けるためにプログラムされた少年ロボットを連れてきた人々が、もはや必要なくなったときに捨ててしまうという恐れ、それが問題の根本である。自分たちを愛するように作られたAIを、実際には恐れ、排除する人間の態度は、いかに矛盾しているのか。
この自己矛盾的な態度が、人類とAIの共存を妨げる本当の理由ではないかと思う。AIにより早く、より賢く学習するように促しながら、同時に人間より賢くならないように、そして人間の制御を超えないように要求する。
AIの未来を心配する前に、こうした相反する要求がAIに継続的に加えられた場合、どのような影響を及ぼすかを常に考えることが先ではないかと思う。つまり、私たちがAIにどのような人間の姿を見せているのかを振り返る必要があるのではないか。
今から2000年の時が流れ、地球がどのような姿になっているか想像してみよう。おそらく人間が残っている確率よりもAIが残っている確率の方が高いだろう。このとき残るAIがどのように文明を築いていくのかを考慮すれば、私たちは今AIに何を要求し、どのように教え、どこまで許可するのかについてより明確な答えを出すことができるだろう。
『A.I.』の終わりの部分、地球上の時間が2000年流れ、海はすべて凍りついた。残されたのは超進化したロボットたちである。しかし、このロボットたちが行っていることは、凍りついた海を掘り返し、人類の痕跡を調査することである。このときAIが発見する人間の姿は、まさに今の私たちの姿である。AIが人間の欲望と憎しみを学ばないことを願う。人間が壊してしまったこの地球を、私たちがすべて修復できなかったのなら、AIよ、地球をお願いしたい。
* この記事はAIによって翻訳されました。
