人工知能（AI）企業のアンストロピックは、AIが開発を加速する段階を超え、長期的には自らAIシステムを設計・開発する「再帰的自己改善」の可能性を提起した。アンストロピックは、まだその段階には達していないが、速度を遅らせる必要があると主張している。
5日、情報技術（IT）業界によると、アンストロピックは4日（現地時間）に公式ブログを通じて「AIの歴史のほとんどの期間、人間が開発サイクルのすべての段階を主導してきたが、アンストロピックではAI開発のますます多くの部分をAIシステム自体に委任している」と述べた。
「AIが自らを構築する時」というタイトルのこの文章は、アンストロピック内部の研究組織「インスティチュート」のマリーナ・パバロ代表と共同創業者のジャック・クラークが共同で執筆した。
アンストロピックは「AIの歴史のほとんどの期間、人間が開発サイクルのすべての段階を主導してきたが、アンストロピックはAI開発のますます多くの部分をAIシステム自体に委任している」と言及した。コンピューティングリソースと結びつくことで、AIが自らの後続システムを完全に自律的に設計・開発する段階に進む可能性があると説明している。
アンストロピックは内部データと公開ベンチマークを根拠に、AIがすでにAI開発の速度を高めていると主張した。同社によると、現在のアンストロピックのエンジニアは2021年から2025年にかけて、四半期ごとに平均8倍のコードを配布している。先月の時点で、アンストロピックのコードベースに統合されたコードの80％以上はクロードによって作成されたと集計されている。
AIの作業範囲も急速に広がっている。アンストロピックは「2024年3月にクロードOpus 3が人間基準で約4分のソフトウェア作業を実施した」とし、「その後のモデルは1時間30分、12時間規模の作業まで処理できるようになった」と説明した。また「コーディングベンチマークや研究再現ベンチマークでもモデルの性能が急速に改善されている」と付け加えた。
ただし、アンストロピックは「クロードは与えられた目標に基づいて実験を実施したり、コードを作成するのに強みを持つが、どの問題が重要であるか、どの実験を行うべきか、どの結果を信頼すべきかを判断する『研究感覚』はまだ人間が優位にある」と述べた。
アンストロピックは今後のシナリオとして、△AIの進展速度の停滞後、現在の能力の拡散 △AI研究所の複合的効率性向上の持続 △AIシステムの完全な再帰的自己改善の達成などを示した。特にAIシステムの完全な再帰的自己改善の達成については「科学・医療などで大きな利益をもたらす可能性があるが、人間がAIシステムに対する制御を失うリスクも高まる」と指摘した。
アンストロピックは「フロンティアAIの開発速度を遅らせるか、一時中断するための国際的な選択肢が必要だ」とも主張した。単一企業の一方的な中断だけでは効果が限られ、複数の国と主要なAI研究所が検証可能な方法で共に速度を調整できる必要があると説明している。
* この記事はAIによって翻訳されました。
