人工知能（AI）エージェントを利用したと疑われるサイバー攻撃が国内の金融機関を襲った中、AIの危険性を検証する国家評価予算は実質的に横ばいであることが明らかになった。来年度のAI安全研究所関連予算は今年より24%増加したが、増額分のほとんどが研究開発（R&D）に集中し、実際のAIモデル評価や脅威動向への対応予算は事実上変わらないという指摘がある。
6日、国会科学技術情報放送通信委員会に所属する李正憲（イ・ジョンホン）民主党議員が科学技術情報通信部から受け取った資料によると、2027年度のAI安全研究所に関連する政府予算案は159億4400万円で、今年度比23.8%の増加となる。
全体予算を押し上げたのはR&Dである。『共存可能な信頼AIのためのAIセーフティ技術開発』のR&D予算は39億7500万円から68億9100万円に73.3%増加する。全体の増額分の約95%を占める。科学技術情報通信部は、既存のアンチディープフェイク検出や敵対的攻撃の回復力研究を引き続き支援し、AIの安全性評価・検証技術の高度化のための新規課題2件を推進する予定である。
一方、現在発売されているAIモデルを実際に評価し、国内外の安全機関と協力したり、脅威動向を分析する非R&D予算は89億円から90億5300万円に1.7%の増加にとどまった。中長期評価技術開発のための研究費は拡大されたが、急増するモデル評価需要に応じる運営予算は実質的に凍結された。
AI安全研究所の評価負担は急速に増大している。研究所が評価したAIモデルは、昨年3月の6件から8月には11件に約83%増加した。エージェント型AIモデル1件を評価するのに通常7〜10日かかり、サイバー脅威評価にだけでも3〜4日を要する。ベンチマークを一度実行するのにかかるトークン費用も5000万〜6000万円に達する。
高性能グラフィック処理装置（GPU）も外部の支援に依存している。研究所の評価室は、大規模・フロンティア級AIモデル評価のために国家AIプロジェクトからB200サーバー2台、GPU基準で16枚を賃借して使用している。評価室が独自に追加購入したGPUや今後の購入が確定した数量はない。研究所は賃借を通じて追加の数量を確保する計画である。
これに対し、李正憲議員は「長期R&D予算だけを増やし、今すぐに押し寄せるグローバルフロンティアAIの危険性をリアルタイムで検証しなければならない『安全評価室』のGPUインフラを凍結レベルで放置するのは国家サイバー安全保障のゴールデンタイムを逃す深刻な卓上行政である」と指摘した。
続けて「AIが自ら脆弱性を探索し、侵入経路を設計する可能性が現実的な脅威として浮上しているため、事後対応だけでなく、AIモデルの攻撃能力を事前に検証し、制御する国家専任評価人員と運営予算、演算資源を共に拡充する必要がある」と強調した。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
