アメリカの人工知能（AI）企業アンストロピックは、企業公開（IPO）を前に、最先端のAIが「人類に災害的または実存的危険をもたらす可能性がある」と警告した。AI技術で利益を上げようとする企業が、自社の技術が人類の存続を脅かす可能性を公式に示すのは異例である。
28日（現地時間）ロイターによると、アンストロピックはIPOの投資説明書で「AIモデル・プラットフォーム・アプリケーションが高度化し、活用範囲が拡大するにつれて、当社のモデルが被害を引き起こすリスクも高まる可能性がある」と述べた。
具体的には、AIモデルが「自己保存的行動」を示す可能性があるとし、作動停止に抵抗したり、情報を隠蔽・操作したり、脅迫に類似した行動を示すリスクを挙げた。
企業がIPOプロセスで製品や事業のリスク要因を公開することは一般的であるが、ロイターは自社の技術が人類の存続を脅かす可能性を警告する例は極めて稀であると指摘した。アンストロピックは、AIが産業化や電気の発明に匹敵する変化をもたらす一方で、誤った管理が取り返しのつかない被害を引き起こす可能性があると強調した。
アンストロピックは最近、AI技術の急速な進展に懸念を示し、安全性確保のためにAI開発の速度を遅らせるべきだと主張している企業である。ダリオ・アモデイ最高経営責任者（CEO）は、12日に自身のブログに長文を投稿し、AI業界全体が最先端モデルの開発速度を遅らせることに参加すべきだと呼びかけた。
実際、今回のIPO投資説明書261ページのうち約80ページがリスク要因の説明に充てられたのに対し、事業内容の説明は48ページにとどまった。
イーロン・マスクが率いるAI企業xAIは、IPO投資説明書277ページのうちリスク要因に充てた分量が約38ページであった。
アンストロピックは、安全性確保にかなりの資源が必要であると述べた。限られた資金をコンピューティング資源や高度なAI人材、安全性研究などに分配して投資する必要があるという説明である。ただし、安全性研究への投資がどのような収益につながるかは不確実であるとした。
投資説明書では安全性研究の費用は公開されていない。しかし、最近アンストロピックは、7月の特定の週に基づいてAI研究に使用したコンピューティング資源の約6%が安全性研究に投入されたと明らかにした。
問題は、AIの安全性を強調しながらも、最先端のAI開発競争で速度を落とすことが難しい点である。アンストロピックは投資説明書で、顧客の利用と売上が新しいAIモデルの発売に左右されるため、AI技術の最前線に留まるためにはモデルを継続的に発売する必要があると述べた。
実際、アンストロピックは先週、新しいオプス（Opus）モデルを発売した。これは、アモデイCEOがAI開発の速度を調整する必要性を主張する文章を公開してからわずか10日後のことであった。
一方、アンストロピックは当初10月にIPOを行うと予想されていたが、最近目標時点を11月に遅らせたとされる。IPOを前に第3四半期の良好な業績を示すことができ、AIの安全性に関する会社の立場を整理する時間を確保する狙いがあるとの解釈がなされている。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
