政府が人工知能（AI）モデルの危険性を評価するために設立した「韓国AI安全研究所（AISI）」が、テロや各種犯罪にAIが利用される可能性を調査する化学・生物・放射線・核（CBRN）特化評価の実績は「0」であり、現在ホームページは接続すらできない状況で、税金150億円が無駄になったのではないかとの疑惑が浮上している。
18日、韓国AI安全研究所のホームページが数日間ダウンして接続できないことが明らかになった。設立以来、AISIに配分された政府予算は約150億円に達する。
AISIの設立目的は、AIの危険対応及び安全性評価、グローバルAI規範及び政策の主導、国内AI企業の支援、専門人材及び技術の育成などである。その中でも最も重要なのは、AIが武器として利用される可能性を排除するためのCBRN評価である。AIモデルが化学兵器の合成、病原菌の設計、核装置の組み立てに関する情報を提供できるかどうかを測定する最高危険度評価項目である。
150億円の大部分がこの評価のために投入されたとされる。しかし、設立から3年が経過した現在まで、国内AI企業を対象としたCBRN評価結果を公開した事例はない。
英国のAI安全研究所は昨年、グローバル最先端AIモデル30種以上をテストし、サイバー・化学・生物関連評価能力を強化したと発表している。2024年にはAIフロンティアモデル5種を対象にCBRN評価を実施し、その結果を公開した。米国のAISIも、オープンAIのモデルやアンソロピック・クロードモデルに対する事前配布評価を行っており、オープンAIのo1モデルに対するCBRN評価を公開している。
米国と欧州を中心にCBRN評価が強化される中、アンソロピック、オープンAI、グーグル・ディープマインドなどのビッグテック企業もモデルをリリースするたびにCBRN評価を実施し、結果を詳細に公開している。
国内企業の中でAIモデルの安全性評価結果を外部に公開したのはカカオが唯一である。カカオは昨年12月、自社開発の言語モデル「カナナ-1.5-9.8B」に対する安全性評価結果を初めて公表した。しかし、評価項目は暴力・差別的表現など一般的な危険要素と武器・セキュリティの誤用シナリオに限られ、CBRN特化項目は含まれていなかった。
ネイバー、SKT、LGなど主要AI開発企業の安全性評価報告書は公開されておらず、現在AISIと安全評価を進めている企業も確認されていない。
AISIは各国政府との密接な協力が多く、明らかにできない部分が多いと述べた。具体的な成果について質問すると、AISIの関係者は「AISIの各種事業と成果はホームページに公示している」と答えた。しかし、ホームページがダウンしているため確認が不可能であった。150億円に達する予算が投入されている中で、各国政府との協力が主要業務であるという説明も納得しがたい。
AISIを傘下に持つ韓国電子通信研究院（ETRI）の関係者は「AISIの主要事業には国家政策の策定や海外政府との協力も含まれている」とし、「ほとんどが非公開の案件であるため、公開された成果が少ないように見える」と釈明した。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
