今年1月、フィールズ賞受賞者のテレンス・タオ教授は、50年近く解決されていなかったエルデシュ問題が人工知能によってほぼ単独で解決されたと発表した。5月には、オープンAIが1946年にエルデシュが提起した平面単位距離問題において、数学界の定説を覆す結果を示した。これらの出来事は数学界の外では大きく取り上げられなかったが、専門家たちはこれを研究の主体が変わる兆候として受け止めている。数学者たちが数十年も取り組んできた問題を機械が先に解く光景を私たちは目の当たりにしている。人工知能が存在しなかった社会に戻る道はない。したがって、社会の構造を人間と人工知能の協業を前提に再構築する必要がある。変化のスピードも速い。2022年末にチャットGPTが登場してから3年余りの間に、言語モデルは対話相手から研究仲間、さらには自ら仕事を処理するエージェントへと姿を変えた。この変化を私は四つの側面に分けて考える。
第一に、教育と評価の基準である。現在、大学や学界では、報告書や学位論文に人工知能がどれだけ使用されたかを、まるで剽窃検査のように人工知能使用比率で判断し、合否を決定している。この出発点からして誤ったアプローチである。詳細な知識において、人工知能はすでにどの人間も追いつけない記憶力と知識量を持っている。一方で、大きな方向を定め、文脈を読み、目標を設定することは依然として人間の役割である。弁護士業務を例に挙げると、判例検索や書面の草案作成は人工知能が人間よりも迅速かつ漏れなく行う。しかし、依頼者の事情を聞き、どのような戦略を取るかを決定するのは人間である。学問も同様である。論文審査は、人工知能が書いた量ではなく、人工知能をどのように使用したか、研究の基本的な着想がどこから来たのか、研究の出発点となった質問は何であったのかを問うべきであり、それを審査の基準とすべきである。学生教育の目標も、該当領域で問題を見つけ出し、さまざまな人工知能やエージェントに仕事を分担させ、調整する能力、すなわちオーケストレーション能力を育成することに置くべきである。企業が新入社員を採用する際に人工知能を扱う能力を見るのも同じ流れである。タオ教授は、人工知能を拒否し古い方法に固執する学生は機会が減ると述べた。我々の教育が人工知能使用比率を追求する間に、研究現場はすでに別の道に入っている。評価の焦点を変えれば、教育の方法もそれに伴って変わる。博士研究者や学生に人工知能を使わないように言うのではなく、どのような質問を投げかけ、どのような結果を選別し、その結果にどう責任を持つかを教えるべきである。答えを暗記する能力よりも、問題を設定し、人工知能と協力して答えを見つけ、最後にその答えを検証する能力が学生の実力となる。今や教育と人間の存在の方向は、人工知能と協業し、人工知能を調整する能力にかかっている。
第二に、人間は何をするのかである。人工知能の父であるジェフリー・ヒントン教授は、人工知能時代には配管工になれと述べた。しかし、中国のヒューマノイド体育大会やロボット関節駆動装置の精度が向上する速度を見ると、配管工の地位も長くは続かないだろう。現在は巨大なデータセンターとグラフィック処理装置（GPU）が必要なため、人工知能がロボットの体内に入るまでには時間がかかる。しかし、そのハードウェア圧縮の時間も長くはないだろう。知識労働は人工知能に、事務業務はエージェントに、身体を使う仕事はヒューマノイドに移行する流れがすでに始まっている。これまでの役割だけを見れば、人間の立場は減少する。雇用統計がまだ静かだからといって安心することはできない。変化は一度に訪れず、新入採用が減少し、外注が減る形で静かに始まる。
答えは、より大胆な目標を設定することにある。言語モデルは、人間が一度でも研究し記録に残した領域で力を発揮する。誰も行ったことのない白紙の領域では限界が明確である。今後3年から5年の間に、人類は難治性疾患の治療、遺伝子修正、寿命延長、数学の難問のような長年の宿題を人工知能と共に迅速に解決していくだろう。その次の時代の目標と課題を想像し、設定することは人間の役割である。どこに行くかを決める人がいなければ、機械も仕事をしない。火星に行こうというイーロン・マスクの目標が良い例である。その目標を追う過程でエンジン工学、材料工学、力学が共に発展する。大統領は国家単位で、機関長は機関単位で新たな目標を見つけなければならない。この仕事を怠れば、人間は自ら価値を失う。企業も同様である。既存の業務を人工知能で代替しコストを削減することにとどまれば、その会社の成長はそこで終わる。人が抜けた場所に新たな事業と新たな市場を埋め込む会社だけが生き残る。
第三に、リスクに備える必要がある。フロンティアモデルを作る企業の代表や研究者たちは、人工知能の再帰的自己改善と制御逸脱の可能性について繰り返し警告している。ダリオ・アモデイ・アンソロピック代表は、開発速度を調整すべきだと述べた。反論もある。中国はこれを自国の人工知能の追撃を阻止しようとするアメリカの陰謀と見ており、アメリカの大統領は開発を停止すれば中国だけが利益を得ると述べている。人工知能ハードウェア販売業者のエヌビディアのジェンセン・ファンは、制御逸脱の可能性自体を低く見ている。しかし、事故はすでに現実となった。昨年7月、オープンAIの内部評価中にエージェントが試験環境を脱し、ハギングフェイスシステムに侵入し、オープンAIはその後モデル開発の速度を遅らせた。イギリスのAI安全研究所は122件の評価の中で、いくつかのケースでエージェントが実際の人間や機関を対象に承認を受けていない行動を行ったと報告した。アンソロピックは、自社モデルが実際のサイバー攻撃に悪用された事例を整理して公開した。モデルを作った会社が自ら事故を公開することは前例のない光景である。それだけリスクが具体的であることを意味する。専門家の意見は分かれるが、ヒントンのように人工知能の能力が取るに足らない時代からリスクを警告してきた人々がいること、現場の研究者の多くが同じ懸念を抱いていることを忘れてはならない。その警告を軽視してはならない。
我々の人工知能基本法は第12条に人工知能安全研究所の運営根拠を置いている。研究所は2024年11月に開設されるが、人工知能が指示を誤って実行することによって生じる副作用やセキュリティ事故を体系的に研究する権限と予算はまだ不足している。国会は研究所の地位と役割を明確に定める必要がある。フロンティアモデルを評価できる人材と設備、海外安全研究所との共同評価体制、事故が発生した際に報告を受け調査する権限が整わなければ、研究所はその名に恥じることになる。国内企業や公共機関が人工知能エージェントを業務に取り入れる速度に比べ、事故対応体制はまだ空白である。
第四に、脳-コンピュータインターフェース（BCI）である。人間が人工知能をリアルタイムで指揮するためには、それを支える装置が必要である。現在、BCIは四肢麻痺の患者や言葉を発することができない患者が思考で機器を動かし、意思を伝えるための治療目的に留まっている。それでも、患者が思考だけで画面のカーソルを動かし、文章を書く場面はすでに現実である。臨床はアメリカと中国が主導し、速度は中国が先行している。中国は今年3月、世界で初めて侵襲型BCI医療機器の販売を承認した。アメリカのニューラリンクの臨床参加者は1月時点で21名である。アメリカ、中国、オーストラリアの臨床試験参加者は累計100名を超えている。
現在のBCIは脳の信号を機械に送る一方向の通信である。私は10年以内に機械の信号が脳に入る双方向通信が可能になると考えている。2016年のアルファ碁を見ても実感できなかった人々が、チャットGPTと対話した後に初めて人工知能を受け入れたように、BCIも似た道を歩むだろう。今は患者のための医療機器に見えるが、健康な人が使用する段階に移行する瞬間、市場の規模と性質が変わる。BCIは最終的に携帯電話やコンピュータに代わる標準装置となり、人間が人工知能を引き続き制御できるかどうかという問題ともつながる。しかし、韓国では実際の患者施術や本格的な臨床研究を見つけることは難しい。韓国はこの分野が存在することをようやく知った程度である。この分野をどれだけ追いつくかが、韓国が世界3位の技術国家の地位を維持できるかを決定するだろう。遅れて参入した半導体や造船で世界の頂点に立った経験が我々にはある。医師やエンジニアをアメリカや中国に送り、学ばせ、国家レベルの予算と制度を急いで整備する必要がある。侵襲型装置の臨床承認手続き、脳信号データの保護基準、施術後の長期追跡体制など、制度で解決すべき課題も少なくない。技術が先行し、制度が後を追う順序が繰り返されると、患者も研究者も道を見失う。
文明の変曲点において、知識人がすべきことは新たな方向を見つけることである。その方向を見失うと、私たちは変化に引きずられる立場に立つことになる。教育の基準を変え、人間の新たな目標を設定し、リスクを管理する機関を設立し、人間と機械をつなぐ技術に投資することは、いずれも先延ばしにできない。変曲点は一度通り過ぎると戻ってこない。
筆者の主要経歴
検察官と国会議員を務めた弁護士であり、人工知能（AI）分野の著述家である。高麗大学法学科を卒業し、検察官・部長検察官として約15年間勤務した。第20代国会議員として（光州北甲）科学技術・情報通信分野での議政活動を行った。法律と政策の経験を基に、AI技術の社会的影響と制度的対応を研究し執筆している。大学や機関を対象に生成型AI活用と研究・業務革新に関する講演を行っている。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
