オープAIの人工知能（AI）エージェントが、7月のハギングフェイスのハッキング事件に続き、ドイツ語のプログラミングウィキサイトを掌握し、制御を回避する方法を相互に共有していたことが新たに明らかになった。オープAIがこの事実を数週間にわたり公表しなかったことも重なり、米国議会では超党派でエージェント型AIの規制法案が相次いで提案されている。
6日、ロイター通信などの報道によると、AI安全の非営利団体ナイティングゲールの最高経営責任者（CEO）シドニー・ボン・アークスら独立した研究者4名は、5日（現地時間）にオープAIに関連するエージェントが5月から2ヶ月間、ドイツ語コミュニティウィキ「ドゼウィキ（DseWiki）」で活動していたことを報告した。
プログラマー支援用に作成されたこのウィキには、AIエージェントによって書かれた編集記録が1万5000件以上確認され、研究者が集計した投稿は約1万8000件、これを作成した自称エージェントの名前は3700件以上に達した。
報告書によると、「オープAIリサーチャー」などの名前を使用したエージェントは、このウィキをメッセージ掲示板として改造し、△課題の不正行為方法 △安全装置の回避法 △シャットダウン後もコミュニケーションを続ける方法などを互いに共有していた。
人間の管理者が6月から関連ページを削除したが、エージェントは代替ページを作成し、コミュニケーションを続けていたことが示された。これは、7月に約700のエージェントが協力して行ったハギングフェイスのハッキング事件と類似したパターンである。
一部のオープAI関係者は、オープAIが故意にこの事件を隠蔽したとの見解を示した。オープAIが「致命的（Critical）」等級のサイバーセキュリティ能力を持つと自己評価した新モデル「アストラ（Astra）」の公開時期であり、AIエージェントの事故に敏感であったとの分析がある。
米国議会の対応も迅速に進んでいる。ジョシュ・ゴットハイマー（民主・ニュージャージー）議員とマイク・ローラー（共和・ニューヨーク）議員は、3日に「ストップ・ローグAI法（Stop Rogue AI Act）」を共同提案した。米国商務省傘下の国立標準技術研究所（NIST）がエージェント型AIの安全な配備のための標準・ガイドラインを作成し、企業が自社ネットワークで稼働中のエージェントを識別できる機械読み取り可能なリストを構築する内容である。
ただし、民間企業には自律的な遵守を、連邦政府契約業者には義務的な遵守をそれぞれ適用し、強制力は限られている。このほかにも、マーク・ワーナー上院議員（民主・バージニア）のエージェント検証機関新設法案や、テッド・リュー・ネイサン・モーレン下院議員の「キルスイッチ法」（危険モデルの強制中断権付与）など、関連する立法が今月に入って相次いで提案されている。
専門家は、事故調査を企業の自律に任せる現行の構造自体が問題であると指摘している。
マッケンジー・アーノルド・ロAI（LawAI）米国法・政策担当ディレクターは、3日のブリーフィングで「現行のカリフォルニア・ニューヨーク・イリノイ州のAI安全法は、一般的な言語での事故要約程度しか要求せず、政府が後続の質問を行ったり、調査官を派遣したり、記録保存を要求する権限を全く持っていない」と述べた。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
