米国、アンソロピックの最新AI外国人使用制限を発表

アマゾン、米政府に「ペイブル5、サイバー攻撃悪用の可能性」を伝達

アンソロピック [写真=AFP・聯合ニュース]

ドナルド・トランプ米政権は、アンソロピックの最新AIモデル「ミトス5」と「ペイブル5」に対し、外国国籍者の使用を制限することを決定した。この決定は、アンソロピックの主要投資家であるアマゾンからの情報提供がきっかけとなったと報じられている。

ウォール・ストリート・ジャーナル（WSJ）は、現地時間の13日、複数の情報筋を引用し、アマゾンのアンディ・ジャシーCEOが自社の研究チームがアンソロピックの「ペイブル5」モデルがサイバー攻撃に利用される可能性を発見し、これを米政府関係者に伝えたと報じた。その後、米政府はこのモデルに対する使用制限を指示した。

「ペイブル5」はサイバーセキュリティや生化学兵器などに悪用される命令をブロックするよう設計されているが、アマゾンの研究チームは一連の命令（プロンプト）を入力することでこれを回避したとされる。

米政府のセキュリティ担当者は、アマゾンの主張を検証した後、リスクを軽減するための最も直接的な方法は、外国政府や企業、個人がこのツールにアクセスできないようにすることだと判断した。ホワイトハウスの高官は、この措置を最終的に承認したのはトランプ大統領であると述べた。

アマゾンは2023年から現在までにアンソロピックに総額130億ドル（約20兆円）を投資している主要投資家であり、今後アンソロピックが商業的マイルストーンを達成することに連動して200億ドルを追加投資することを約束している。しかし、今年に入ってアマゾンはオープンAIに最大500億ドル（約75兆円）を投資する契約を結ぶなど、オープンAIにも投資を行っている。

アマゾンは「数多くの民間・公共部門の顧客を支援する先進的なクラウド提供者として、政府が潜在的なセキュリティリスクについて私たちの助言を求めることは珍しいことではない」としながらも、「このような議論の具体的な内容は共有しない」と述べた。

WSJは、アンソロピックと国防総省など米政府との訴訟が今回の措置に影響を与えた可能性があると指摘した。シンクタンクRストリート研究所のアダム・ティーラー上級研究員は「現在、我が国ではAIの政治化が進み、先端コンピューティングに対する制御権が集中していることを目の当たりにしている」と指摘した。

商務省産業安全局出身のケイト・コラン戦略国際問題研究所（CSIS）経済研究室副室長は、セキュリティ上の懸念があることは認めつつも、「アンソロピックに対するホワイトハウスの反感が今回の決定に影響を与えた可能性がある」と分析した。

一方、ホワイトハウスの高官は今回の措置がモデルの安全性に関連するものであり、国防総省は大きく関与していないと説明した。米政府は12日、すべての外国国籍者に対し「ペイブル5」と「ミトス5」へのアクセスを全面的に禁止する輸出管理指針を発表した。アンソロピックはこの指針に従い、すべてのユーザーの該当モデルへのアクセスを一時的に停止した。

アンソロピックは「ペイブル5を回避できるという主張は誤解であり、サービスの復旧に努める」と述べた。



* この記事はAIによって翻訳されました。

亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。