人工知能（AI）開発競争の危険性を警告し、アンソロピックを退社した研究者が「人類がAIに制御権を失う可能性が高い」と警告した。
5日（現地時間）、ブルームバーグとCNBCによると、アンソロピックの元研究者ジェイコブ・コクソンはこの日、ニューヨーク市議会のAI公聴会に出席し、「私たちはまだどのAIシステムも制御する方法を知らない」と述べた。
コクソンはオープンAIとアンソロピックで3年間、事前訓練研究を担当していた。彼は先月8日（現地時間）、自身のソーシャルメディアXに退社の知らせを投稿し、「どの会社も責任を持って行動していない。（両社は）私たちの命を賭けている」と批判した。
公聴会でコクソンは、「現在のまま進めば、人類がAIに制御権を失う可能性はそうでない可能性よりも高く、これは人類滅亡につながるかもしれない」と述べた。
コクソンはジュリー・メニンニューヨーク市議会議長の要請で公聴会に出席した。メニン議長はAI規制法案パッケージを推進中であり、この法案は合計10件の条例から構成されている。緊急時にシステムを即座に停止させる「キルスイッチ」の導入義務化や、AIシステムをニューヨーク市で販売・配布する前に第三者による安全検証を義務付けること、内部告発者への報酬プログラムの導入、規則違反時には1件あたり最大2万5,000ドル（約3,400万円）の罰金を科すことが主な内容である。
コクソンはこの中で「キルスイッチ」について、「短期的には役立つかもしれないが、長期的に安全を保証するには不十分である」と指摘した。
この日の公聴会にはオープンAI、アンソロピック、グーグルなどのビッグテック企業の関係者もオンラインで出席し証言した。市議会は出席要請に応じなかったスペースXのAI部門に対して召喚状を発行するよう裁判所に要請すると明らかにした。
ドナルド・トランプ政権がAI規制に対して基本的に不介入の姿勢を維持する中、ニューヨークなどの州・地方政府が独自の規制を進めることで、連邦と地方の間の不一致が大きくなっている。
* この記事はAIによって翻訳されました。
