LGユプラスは人工知能(AI)トークン最適化戦略を基に、来年AI企業間取引(B2B)市場に参入する。AIエージェントの性能を高めつつ、トークンコストを低減する完成型技術を通じて市場を先取りする計画である。
李相燁LGユプラス最高技術責任者(CTO)は、12日の「AIトークン最適化勉強会」でこのような構想を明らかにし、「LGユプラスは理論的効率を超え、多くの実践サービスで検証を終えた」と述べた。LGユプラスは、協力企業との提携モデルおよび自社インフラ構築方式を通じて、来年からトークン事業を展開する方針である。
ユーザーが質問し、応答を受け取る過程でトークン原価を最適化するために、継続的に努力していると強調した。
この日、トークン最適化研究成果を発表した權基德人工知能転換(AX)エンジニアリングラボ長は、「ハネスエンジニアリング過程で質問の種類をパターン化し、探索・評価の繰り返しを減らすことで85~90%以上の効率化が可能である」と説明した。
モデルルーティング段階では、一般的な質問処理コストを25%、コーディングエージェントは30%以上削減したと付け加えた。AIエージェントが業務を遂行する過程で、不必要な検索や検証を繰り返さないようにする技術も開発中である。
LGユプラスはAIモデルを軽量化し、回答生成速度も向上させている。自社のオンデバイスAIモデルのサイズを従来の2.4~3ギガバイト(GB)から約3分の1の800メガバイト(MB)に削減した。權ラボ長は、「他のビッグテッククラウドに比べて性能も95%向上し、トークン生産量は競合他社に比べて優れている」と分析した。
また、小型モデルが迅速に回答を生成し、大型モデルが検証する技術を高度化した。このような研究成果により、AI学術大会「ニューリプス(NeurIPS)」に論文2編が同時に採択されたことも言及した。
インフラ段階ではチップミックス(Chip-Mix)戦略を追求している。NVIDIAやAMDのグラフィックス処理装置(GPU)に加え、国産AI半導体企業であるフュリオサAIと2年以上協力し、神経網処理装置(NPU)を検証中である。
李CTOは、「メモリが大きく演算が必要な作業とメモリ帯域幅が重要な作業を分け、コストパフォーマンスの高い半導体に分散処理し、効率を追求する予定である」と述べた。
LGユプラスはトークン最適化を実現できた背景として、大規模トラフィック運営の経験を挙げた。代表的なものとしてAI通話エージェント「イキシオ(ixi-O)」がある。
イキシオの発売初期、LG AI研究員のオンデバイスモデルとGoogleジェミナイを併用して活用したが、実践チューニングを経て自社AIモデルとエクサワン(EXAONE)の比率を組み合わせ、サービス品質とコスト効率を向上させた。
社内AXにもトークン最適化技術を活用している。開発者が使用するAIコーディングツール自体に自社AIモデルを活用し、既存の業務環境を維持しながらもAI利用コストを削減する方式である。
カカオと共に行う「みんなのAI」でもAIモデル運営を担当している。李CTOは、「フロント分野はカカオが担当するが、モデル領域は我々が進めており、さまざまなレシピや最適化方法が研究され、多様なトークンファクトリーサービス技術に発展するだろう」と述べた。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
