アンストロピックは4日（現地時間）に自社のブログで「世界がフロンティア（最先端）AI開発を遅らせるか、一時中断する選択肢を持つべきだ」と述べた。
アンストロピックが懸念する核心は「再帰的自己改善」である。AIが次世代AIシステムの開発プロセスの大部分を担い、より強力なAIが再び次の世代のAI開発に投入される構造である。この段階が現実化すれば開発速度は加速するが、リスクを把握し制御する時間が不足する可能性があるとアンストロピックは見ている。
アンストロピックは、AIがすでに開発現場で速度を上げていると説明した。同社によれば、現在アンストロピックのエンジニアは2021年から2025年の平均よりも四半期ごとに8倍多くのコードを反映している。5月の時点で、アンストロピックのコードベースに統合されたコードの80％以上は、自社のAIモデル「クロード」が作成したものである。
アンストロピックは、特定の企業だけが開発を停止する方法は効果が薄いと指摘した。一社だけが速度を遅らせると、より慎重でない企業や国が先行する可能性があり、全体の安全性が逆に低下する恐れがあるからだ。
アンストロピックは「意味のある減速や一時中断が実現するためには、複数の国の主要なAI研究所や企業が同じ条件の下で協力して動く必要がある」と述べた。実際に開発を遅らせたかどうかを検証できる必要があり、どの条件で中断を開始し、解除するかも決める必要があるとした。
最大の課題は検証である。AIの学習作業は隠蔽しやすく、学習に使用される機器やデータも汎用性が高い。誰かが密かに開発を続ければ、技術的な主導権を握るインセンティブが大きいためである。
アンストロピックは、傘下の研究機関であるアンストロピック・インスティチュートを通じて、減速・一時中断の体制を支える研究を進めると発表した。政策担当者や研究者、市民社会、他のAI企業と議論し、再帰的自己改善のリスクと国際的な調整方法を検討する計画である。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
