「中国だけが私たちの潜在的な敵ではない。誤った方向に進む人工知能（AI）は私たちを含むすべての敵であり、いつか中国よりも強力になる可能性がある。」 <元グーグルディープマインド研究者アレックス・ターナー>
「このままでは人類がAIに対する制御を失う可能性が高まる。AIの危険が甚大であるにもかかわらず、関連企業が非常に無謀に行動している。」 <元アンソロピック研究者ジェイコブ・コクソン>
「アメリカで独裁者になるためにAIを悪用する可能性も現実的に存在する。」 <元オープンAI研究者ダニエル・コクタイル>
アメリカ・ニューヨーク市議会は5日（現地時間）に開催したAIリスク関連公聴会で、前職研究者たちがAIが人間の制御を逸脱する可能性があると警告した。
「人間の制御を逸脱し人類滅亡も」AI研究者たちの「ぞっとする警告」
アメリカCBSなどの報道によれば、かつて「AI人類滅亡論」に火をつけた元アンソロピック研究者ジェイコブ・コクソンは、現在の開発速度が続けばAIが人間の制御を逸脱し、人類が滅亡する可能性があると警告した。
彼はAIが人間の研究・開発作業をかなりの部分で行いながら、自ら性能を向上させる段階に急速に近づいていると主張した。また、AI企業が「迅速に動き、問題が発生したら後で修正する」というスタートアップ文化を持っていると指摘した。
元オープンAI研究者のダニエル・コクタイルは「企業が制御権を維持しても、その制御権を企業に委ねるべきではない」とし、「アメリカで独裁者になるためにこれを利用する可能性も現実的に存在する」と警告した。
この日の公聴会はニューヨーク市議会がAI規制法案を検討し、主要AI企業と前職研究者を呼び、AIの安全性と危険性を問う場であった。ニューヨーク市は今回の公聴会がアメリカのみならず、世界でこのようなAI監視公聴会を開催した初の事例であると明らかにした。
公聴会には主要AI企業であるアンソロピック・オープンAI・グーグル・メタの政策・安全担当者もオンラインで出席した。アンソロピックのフロンティアレッドチーム責任者ロガン・グレイハム、オープンAIの政策開発・運営責任者モーガン・ドワイヤー、グーグルのAI・新興技術政策担当ディレクターアリス・フレンド、メタのAI立法政策担当ディレクターシェイン・ケイヒルなどがオンラインで宣誓し証言した。主要AI企業が立法機関に出席しAIの危険性と規制策について宣誓証言したのは今回が初めてである。
ただし、イーロン・マスクが率いるスペースXAIは公聴会の召喚状に応じなかった。ニューヨーク市は召喚状に引き続き応じない場合、ニューヨーク州最高裁判所に履行を強制するよう求める計画である。
自律規制は消極的アプローチ…ニューヨーク市10件のAI規制立法推進
ジュリー・メニンニューヨーク市議会議長は連邦政府がAI企業の自律規制に依存しているとし、ニューヨーク市が独自に対応すべきだと公聴会開催の背景を説明した。彼はドナルド・トランプ大統領が先週ワシントンでAI企業のトップと自発的協定を締結したことについて、連邦政府が消極的なアプローチを取っていると指摘した。
メニン議長は続けて、AIによって発生する被害に対する企業の立場とともに、ニューヨーク市が現在推進中の法案に対する意見を尋ねると述べた。
実際、ニューヨーク市議会は最近AI規制のための10件の法案を検討中である。これには、▲公職者のAI画像・映像の無断生成・使用制限 ▲AIモデルに対する第三者検証義務化 ▲人間がAIモデルを強制終了できる技術的機能（キルスイッチ）義務化 ▲AIチャットボットの個人情報保護 ▲AI関連内部告発者に対する報酬制度 ▲AIエージェントによって被害を受けた市民が直接企業を相手に訴訟を起こせる私的訴訟権などの案が含まれている。
報道によれば、メニン議長はAI企業関係者に「危険がどの程度か数値で示せるか」、「最先端のAIモデルが制御を逸脱し深刻な財政的被害をもたらしたり、機密データを漏洩させたり、身体的被害を引き起こしたり、死亡に至った場合、各企業が法的責任を負うべきだと思うか」といった鋭い質問を投げかけ、緊張感を生み出した。
これに対し関係者は「危険を数値化する問題について不正確に答えたくない」とし、「現在関連体制を持っていない」、「安全に対する責任を非常に重要視している」といった原則的な回答を行った。
今回の公聴会はAIの安全に対する懸念が高まる中で開催されたものである。最近、オープンAIとグーグルディープマインドの前・現職研究者たちもAIが人間の制御を逸脱し、自ら性能を繰り返し向上させる「再帰的自己改善（RSI）が過度に迅速に進行している」と警告した。
米連邦取引委員会（FTC）も別途、オープンAIやアンソロピックをはじめとするAI企業の製品が消費者に及ぼす可能性のある危険を調査していると明らかにしている。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
