ナデラCEOは11日、ソーシャルメディア(X・旧Twitter)に「スーパーインテリジェンス時代の内部者リスクとしてのモデル」というタイトルの投稿を行い、「新しい(AI)時代にふさわしい信頼体系を再検討すべき時だ」と述べた。
彼は「その行動を観察でき、限界を検証でき、行動を常に制御できるシステムを構築すべきだ」とし、「つまり、情報の提供と情報に対する制御権を分離すべきだ」と提案した。
ナデラCEOは、閉鎖型とオープンソースモデルを含む先進的なAIを企業内部のセキュリティリスク要素と同様に管理する方法も示した。企業が重要情報にアクセスする従業員の身元を確認し、業務権限を制限したり、活動履歴を記録するように、AIにもこれらのセキュリティ原則を適用すべきだという趣旨である。
彼は「モデルがどの情報にアクセスでき、どの作業を実行できるかを制御する装置はモデルの外部に存在すべきだ」とし、これは1970年代から適用されている情報セキュリティ原則であると説明した。
続けて「権限のある者はいつでも作業中にモデルを一時停止または終了できるべきだ」とし、AIの『緊急ブレーキ』機能を強調した。
さらに「より精緻なモデルほど、より進化した遮断技術が必要だ」とし、「我々はこれを標準化すべきだ」と付け加えた。
今回の発言は、AI技術の急速な進展に伴う安全性への懸念が高まる中で行われた。ダリオ・アモデイ・アンソロピックCEOをはじめとする主要AI企業の経営陣も、AIの進展速度と潜在的リスクについて相次いで警告している。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
