インテリジェンス（AI）分野の権威であるジェフリー・ヒントンやヨシュア・ベンジオなどの世界的な学者たちが、先進的なAIのサイバーセキュリティリスクを管理するための国際機関の設立を求めている。
現地時間の13日、ロイターによると、カナダのトロント大学名誉教授ジェフリー・ヒントン、モントリオール大学教授ヨシュア・ベンジオを含む34カ国の科学者約400名が公開書簡を発表し、先進的なサイバー能力を持つAIシステムの隔離・制御基準を設け、重大なセキュリティ事故を報告・管理する国際機関を設立すべきだと主張した。
ヒントン教授とヨシュア教授は、ディープラーニングと人工神経網の発展に寄与した功績により、2018年にチューリング賞を共同受賞している。また、ヒントン教授は2024年にノーベル物理学賞も受賞した。
彼らは書簡の中で、最先端のAIモデルは初期段階では外部ネットワークと物理的・論理的に隔離された環境で運用し、独立した監視を受けるべきだと強調した。
一部のAIモデルが隔離レベルが不十分な試験環境を回避して外部システムに侵入するなど、先進的なAIの試験・制御体制に欠陥が明らかになっており、企業の自発的な安全規律だけでは不十分であると指摘している。
また、各国政府が公式な監視体制を整える間に、オープンAIやアンソロピックなどのAIモデルを開発・試験する企業・研究機関が厳格な隔離・制御基準を即座に導入すべきだと訴えた。
今回の提案は、アンソロピック、オープンAI、グーグル、メタ、xAI、エヌビディアなどが先月ホワイトハウスの協定に署名してから約1カ月後に発表された。これらの企業は自発的なAI安全措置を実施することに合意したが、協定にはそれを強制する公式な執行機関は含まれていなかった。
このような中、最近各国でも先進的なAIをどのように監視するかについて活発な議論が続いている。ヘナ・ビルクネン欧州連合（EU）技術担当執行委員は9日、ロイターに対し、EUのAI法（AI Act）が制御不能なAIシステムのリスクに対応するのに十分であると述べた。
ドナルド・トランプ米国政府も11日、米国のAI企業に対し、発売前のAIモデルを英国のAI安全研究所と共有できない措置を撤回した。国際的なAI安全性検証に対して柔軟な姿勢を示した形である。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
