アメリカのAIビッグテック企業が自社の最新モデルを発売し、自ら危険性を警告する行動が3ヶ月ぶりに繰り返された。新モデルの発売直後にAI脅威論が浮上するパターンが毎回繰り返され、安全への懸念ではなく産業の主導権を狙った『恐怖マーケティング』という批判が高まっている。
15日、IT業界によると、アンソロピックは6月9日にフェイブル5・ミトス5を発売し、自社の発表文に「これほど強力なモデルを発売することは危険を伴う。安全装置がなければフェイブル5のサイバーセキュリティ関連能力が深刻な被害を引き起こす可能性がある」との直接的な警告文を異例にも盛り込んだ。テッククランチは当時、これを「AIが過度に危険になっていると警告してから数日後に発表されたモデル」と報じるほど、警告と発売がほぼ同時に行われた。
このような行動は3ヶ月ぶりに繰り返された。アンソロピックは1日にアップグレード版のフェイブル5.1・ミトス5.1を発表した。オープンAIも3日後の3日に新型フラッグシップGPT-6アストラを公開した。ダリオ・アモデイCEOがこの流れから10日も経たない12日に「AI開発の速度を遅らせるべきだ」とのエッセイを発表し、サム・アルトマンCEOがすぐに同調したこともこの流れと無関係ではないとの指摘がある。ホワイトハウスのAI・仮想資産担当者デイビッド・サックスは、このタイミングを指摘し、両CEOの警告が安全への懸念ではなく産業の掌握を狙った『規制捕獲』の試みだと批判した。
業界で新モデル発売直後に危険論が提起されたのは今回が初めてではなく、今年が初めてもない。2023年3月にGPT-4が発売されてから2ヶ月半後の5月30日、アルトマンCEOを含む数百人のAI専門家と経営陣がアメリカAI安全センター（CAIS）の声明に名前を連ね、「AIによる人類滅亡の危険を緩和することはパンデミック・核戦争と同等の世界的優先事項であるべきだ」と警告した。
翌年の2024年5月13日、オープンAIがGPT-4oを発売すると、パターンはさらに劇的に繰り返された。発表の翌日、最高科学者イリヤ・スツケバーが突然辞任を発表し、2日後にはスーパーアラインメントチームを率いていたヤン・ライケも「安全文化と手続きが華やかな製品の発売に押しやられた」として会社を去った。オープンAIは数日後にそのチームを解体した。
エージェントの離脱は安全装置・テストシステムの欠陥が明らかになった事故に近いが、これを「AIがそれだけ強力になった」という証拠として装飾し、モデルの優秀性を強調する事件として利用されているとの主張がある。実際、オープンAIは5月に公開した危険群分類システムをGPT-5.6やGPT-6アストラなど最近の発売作に適用していないことが確認され、米カリフォルニア州のAI安全法（SB 53）違反の可能性があるとの指摘が、同日フォーチュンの報道で出てきた。
ただし、こうした論争とは別に、専門家は『制御逸脱』自体はすでに実体化しているとの診断を下している。最病院大学AI研究所の教授であるチェ・ビョンホは本紙との通話で「AIモデルの性能が向上するにつれて人間の制御を逸脱することは事実のように見える」としつつも、「ただしAIの人間支配説のような終末論的シナリオ自体よりも、実質的な制御手段に集中すべきだ」と強調した。
AI制御のための共同規範が必要だという点にはある程度の共感があるが、どのように誰が主導権を握るのかを巡る計算は依然として複雑である。一企業、一国家の自主規制だけでは制御は不可能であり、全世界が共に『速度制限』を設ける共同規範が必要だというのがアモデイCEOの主張でもある。
この点で注目されるのが米中首脳会談である。昨年5月の北京首脳会談以降、次の会合はまだ公式に確定していないが、11月18日から19日に中国・深センで開催されるAPEC首脳会議が有力な機会と見なされている。ただし、中国外交部はアモデイCEOの警告を『恐怖を煽るもの』と規定し、距離を置いているため、両国間のAI覇権戦争が休息を得ることは難しいとの見通しが出ている。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
