KTは、自社開発の人工知能（AI）モデルルーティング技術『オートモデルルーター（AutoModelRouter）』が、巨大言語モデル（LLM）専門の公開ベンチマーク『ルーターアリーナ（RouterArena）』で総合2位を記録したと27日に発表した。
ルーターアリーナは、アメリカのライス大学の研究チームが開発したLLMルーター評価プラットフォームである。約8400件の質問を活用し、AIルーターの応答精度、コスト効率、入力変化に対する堅牢性などを評価する。
今回公開された『オートモデルルーター』は、公開リーダーボードで『KT-モデルルーター（ModelRouter）』という名前で登録された。精度とコスト評価部門である『Acc-Cost Arena』基準で2位にランクインした。
KTは、今回のオートモデルルーターが企業の要求する目標品質を満たしつつ、コスト効率を高めるように設計されたと説明した。例えば、相対的に簡単な翻訳や情報確認には必要な品質を満たすモデルを活用し、専門的な分析や高レベルの推論が必要な業務には高性能モデルを接続する方式である。利用者は1つのAIサービスを利用するが、実際のシステムでは要求の特性に応じて異なるモデルが活用されるという。
今回のオートモデルルーターは、KTが推進している『トークンファクトリー』モデルルーティング機能にも活用される。これにより、AIサービスの品質とトークン使用コストの削減を最適化する方針である。
KTは今後、オートモデルルーターを継続的に高度化し、新しいAIモデルを柔軟に追加できるマルチモデル運営環境を構築する計画である。
金俊碩（キム・ジュンソク）KTエージェンティックAIラボ長（常務）は、「AI時代には、最も優れた単一モデルの確保だけでなく、状況に応じた最適なモデルを知的に活用することが重要である」と述べ、「今回のオートモデルルーターはAIオーケストレーション能力を実現した技術であり、今後KTのエージェンティックAIサービス競争力を支える核心技術となるだろう」と語った。
一方、KTは来月、ベータ版を公開する政府の『みんなのAI』サービスにもこのようなモデルルーター方式を適用する計画である。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
