カイスト（KAIST）は、国内で唯一、マイクロソフト（MS）のグローバル人工知能（AI）安全性研究プログラムに選ばれ、次世代のAIセキュリティ・信頼性技術の開発に取り組むことになった。
カイストは、コンピュータ科学部のソン・スエル教授がMS AIレッドチームが運営するグローバルAI安全性研究プログラム「EXTRA（External Red Team Alliance、外部レッドチーム連合）」の研究支援対象者に選ばれたことを28日に発表した。
EXTRAは、MS AIレッドチームが今年新たに立ち上げたグローバル研究支援プログラムである。AIシステムの安全性とセキュリティの脆弱性を多角的に検証し、独立したAI安全性研究エコシステムを拡大することを目的としている。AI安全性評価を企業内部に限定せず、世界中の大学や研究機関に広げた点で意義が大きい。
MSは、AIシステムが高度化するにつれて、サイバーセキュリティ、多言語環境、地域・文化的文脈、AIの整合性、悪用の可能性など、さまざまな分野の専門性を総合的に検証する必要があると判断し、EXTRAを立ち上げた。
今回の選定により、カイストはMSからAI安全性、セキュリティ、AIの整合性および責任あるAI開発研究のために2万5000ドル（約3700万円）の研究支援金を受け取る。今回の支援は、研究課題の実施期間を特に定めない「ギフトアワード」形式で提供され、該当研究費はソン・スエル教授の研究チームのAIセキュリティおよび安全性研究に活用される予定である。
EXTRAにはカイストを含む世界の6大陸の10以上の大学が参加している。MSはこのプログラムを通じて、独立したAI安全性研究エコシステムを拡大し、学界と産業界の協力を強化していく計画である。
ソン・スエル教授は、「AIシステムが社会全体に急速に普及する中で、性能だけでなく安全性と信頼性を確保することが何よりも重要になっている」と述べ、「今回のMS AIレッドチームのEXTRA参加を契機に、実際のAIサービス環境で発生する可能性のあるさまざまなセキュリティ脅威を体系的に分析し、誰もが安心して利用できるAI技術の開発に貢献する」と語った。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
