人工知能（AI）の進展により、人間が制御できない状況が頻繁に発生している中、グローバルなビッグテック企業から『AI速度調整論』が提起されている。
アメリカや中国を含む各国政府が立場を表明する中、韓国はフロンティアモデルの開発を遅らせず、検証されたAIエコシステムを構築するための安全・セキュリティも設計する『二本立て』戦略を推進すべきだとの声が上がった。
李元太安全特委員長は1日、国家AI戦略委員会が開催した『AI開発速度調整論』セミナーで、「グローバル企業が『速度調整』に関する問題を提起し、国家レベルでの議論が進行している中、韓国は『速度責任論』を具体化すべきだ」と述べた。
アメリカや中国を含む各国政府が立場を表明する中、韓国はフロンティアモデルの開発を遅らせず、検証されたAIエコシステムを構築するための安全・セキュリティも設計する『二本立て』戦略を推進すべきだとの声が上がった。
李元太安全特委員長は1日、国家AI戦略委員会が開催した『AI開発速度調整論』セミナーで、「グローバル企業が『速度調整』に関する問題を提起し、国家レベルでの議論が進行している中、韓国は『速度責任論』を具体化すべきだ」と述べた。
速度責任論は、フロンティア能力と安全・セキュリティの制御能力を同時に構築することを基本としている。
先月、ダリオ・アモデイ・アンソロピック最高責任者（CEO）が『AI速度調整論』に言及した。しかし、委員長はAI開発を中断するという意味ではないと解釈した。彼は「AI開発を遅らせるのではなく、AIが制御できないように放置してはいけないということだ」と分析した。
アモデイCEOが速度調整論を言及した後、グローバルビッグテック企業3社が新モデルを発表した。委員長は「AIのリスクを言及しながらも自社の市場を保護しようとする二重的なプレイ」とし、「韓国もAI開発を遅らせてはいけない」と強調した。結局、韓国はフロンティアモデルの開発を遅らせず、セキュリティが保証されるように努力しなければならないということだ。
また、委員長は現在のAI産業が二つの軸で進行していると見ている。一つはアメリカと中国が最小限のコミュニケーションチャネルを通じてAI産業を確保しようとしていることであり、もう一つはこの二国を除く多国間協議体である。
このような状況の中、韓国は『機能連帯』でAI戦略を構築すべきだと主張した。委員長は「どの陣営を選ぶのではなく、彼らが必要とする部分の共通項をうまく設計し、国際的な問題を先導して代案を提示できるようにしなければならない」と述べた。
続けて「標準が完成した後に遅れて参加するのではなく、二国間のルールを作り、規範をつなぐ共同設計者としての役割を果たすべきだ」と付け加えた。
最大線 崇実大学AI安全性研究センター長はフロンティアモデルの開発を進めながらも、AIに対する安全体制を構築するための制度的・技術的基盤が必要であることを強調した。
彼は「AIによるリスクがどの程度か分からないため、対策レベルとアプローチ範囲を定められず、悪意なく逸脱した場合の隔離レベルも決められない」とし、対応体制が必要だと指摘した。
現在、韓国はモデルのみを検証しているが、全体ソリューションを評価できる体制を構築し、悪用の可能性を制御できる法令が整備されるべきだと助言した。
金成勳 アップステージ代表は、時代の流れがAIから超知能（SI）段階に移行しており、『自ら改善する超』知能に進んでいると分析した。
このような状況で国内の速度調整がグローバルビッグテックとの格差を広げる可能性があるため、それを超えるモデルを開発すべきだと強調した。彼は「アメリカと中国が全速力で進んでいる状況で、我が国もSI2に移行できるように技術を開発しなければならない」とし、「その後に速度に対する責任が必要だ」と述べた。
速度責任のためには、韓国知能情報社会振興院（NIA）のベンチマークや人工知能分析などの第三者評価によって性能と限界を公開し、国家安全評価が進行されるべきであり、自ら改善するループに安全装置を設ける必要があるとした。
李漢鬱 エイムインテリジェンス副社長も韓国のフロンティアモデルは必要だと強調しつつ、評価可能な安全基準が必要であると強調した。
また、AIの悪用リスクを考慮し、モデルの公開範囲とアクセス対象を定め、エージェントに付与する権限や問題発生時の介入方法を検討する必要があると述べた。企業がセキュリティ業務にAIを導入する際、安全性が検証された技術の活用を難しくする要因も検討する必要があると説明した。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
