アップステージはAI半導体企業フュリオサAIと提携し、ポータル「ダウム」で国産フルスタックソバリンAIサービスを発表する。アップステージの大規模言語モデル（LLM）をフュリオサのAI神経網処理装置（NPU）で運用し、これをダウムのサービス「AIオーバービュー」に適用する形である。国産AI半導体とモデル、ポータルサービスを一つに結びつけ、国産AI技術の自立可能性を示す事例とされている。
金成勲アップステージ代表と白俊浩フュリオサAI代表、李建洙AXZ代表は15日にオンライン対談を開き、彼らが協力したダウムのリアルタイム検索要約サービス「AIオーバービュー」の事例を紹介した。また、ダウムのエージェントAI計画など3社の今後の協力方針についても言及した。
AIオーバービューはアップステージのLLMソーラーをフュリオサAI NPUレニゲードで運用するサービスである。ユーザーが複数のリンクを一つずつクリックして内容を確認する従来の検索方式とは異なり、AIが文書を先に読み、核心内容を要約して提供する。ダウムは1日からAIオーバービューの試験サービスを開始した。
李建洙代表は、ダウムのAIオーバービューはリアルタイム情報に基づいた最新情報の取り扱いに特化していると説明した。最近、グーグルが検索上部でAIが情報源を総合し、要約回答を表示するAIオーバービューをサービス開始した中、メディアとの提携、カフェ、ティストリーサービスを通じてダウムが保有する情報の中から最新情報を取得するサービスに注力していると述べた。
AIオーバービューには現在、サーバー3つのノードに約24個のチップが投入されており、1日約5億個のトークンを処理している。李代表は「キーワード検索方式とベクトル検索方式を組み合わせた『ハイブリッドサーチ』を適用し、最新情報を検索できるようにした。また、強力なハーネスエンジニアリングを適用し、事前に習得した知識を総合して要約する過程で発生する幻覚問題を解決するために努力した」と述べた。
白俊浩代表はレニゲードの強みとしてコストと電力効率を挙げた。ソーラーのようなフロンティアモデルを最適な性能で実現するためには最適化作業が必要であり、フュリオサAIはAIモデルを効率的に変換するコンパイラと、さまざまなサービスシナリオに適したモデルを提供するサービングエンジンをハードウェアと共に開発することで可能になったと説明した。
3社はダウムのエージェントAIサービスを通じて協力を続ける計画である。ダウムはAIオーバービューサービス以降、ショッピングやグルメなどのバーティカルAIサービスを拡張する。さらに、ダウムの「1人1エージェント」の普及を目指している。現在、AIオーバービューはダウム全体の検索クエリの約20%に露出している。ダウムは今後、AIオーバービューの露出比率を半分以上に拡大する目標を掲げている。
ダウムのAIエージェントはAIオーバービューとリアルタイムトレンドなど最新情報を積極的に反映する見込みである。ダウムのリアルタイムトレンドサービス以降、検索トレンドが変化しているため、これを基にユーザーの関心に応じたカスタマイズエージェントを構想していると説明した。
李代表は「最近のリアルタイムトレンド検索1位は『サムスン電子株価』である」と述べ、「ユーザーが毎日サムスン電子株価や関連銘柄、競合他社のニュースを検索しなくても、それぞれのユーザーに必要な情報を事前に届けるエージェントを作る」と語った。
フュリオサAIはダウムのAIオーバービューやエージェントAIサービスに最適なトークンコストと性能を支援するため、ソリューションと製品を引き続き拡張する計画である。
金代表は「ポータルダウムでAIオーバービューを使用すると、アップステージのソーラーとフュリオサAIのNPUを共に使用することになる。国産AIモデルとインフラの使用量が増えることで、品質も向上する好循環構造を作る必要がある」と述べた。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
