移動通信3社(SKテレコム・KT・LGユプラス)が、人工知能(AI)演算の核心であるトークンに注目している。通信事業で確保した接続・管理能力を結集し、AI時代に新たな収益源を確保することを目指している。
LGユプラスは、12日に『AIトークン最適化レシピ』に関するスタディを行い、来年AIトークン事業に参入すると発表した。LGユプラスは、来年協力会社との提携や自社インフラの構築を通じて市場を攻略する。
トークンは、AIモデルに質問し、回答を見つける過程で消費されるデータの基本単位である。AIの活用拡大や推論モデル・AIエージェントの増加に伴い、トークン使用量が急増し、企業は業務目的に応じて適切にAIを活用する『効率』を追求するようになった。
通信会社は、事業最適化過程で蓄積したインフラ能力をAIトークン市場で発揮できると強調している。イ・サンヨプLGユプラス最高技術責任者(CTO)は、「通信会社は周波数、トラフィック分野などで最適化作業を行ってきた」と述べ、「このような経験がトークン事業にも貢献するだろう」と語った。
このCTOは、「理論的効率化を超え、多くの実践サービスでトークン最適化の検証を終えた」とし、「トークンの『総コスト』を削減できるだろう」と強調した。
実際、適切なAIモデルに接続する『モデルルーティング』段階で、一般的な質問処理コストを25%、コーディングエージェントコストを30%以上削減した。トークン消費が最も激しいコーディング領域では90%削減した。AIモデルの軽量化にも成功した。自社のオンデバイスAIモデルのサイズを従来の2.4~3ギガバイト(GB)から3分の1の800メガバイト(MB)に縮小した。
チップミックス(Chip-Mix)戦略も打ち出した。NVIDIAやAMDのグラフィック処理装置(GPU)に加え、国産AI半導体企業であるフュリオサAIと協力し、神経網処理装置(NPU)を検証中である。このCTOは、「多くの演算が必要な作業と帯域幅が重要な作業を分割して分散処理し、効率を高める予定だ」と述べた。
SKテレコムとKTもトークンプラットフォームを発表し、市場攻略に乗り出している。SKTはトークンゲートウェイを提案している。SKTの主要事業である通信とAIサービス、AIインフラを有機的に結びつけ、トークン経済を先取りすることが狙いである。
特に顧客のAI使用パターンを管理し、最適なAIモデル・インフラに接続する監視役に重点を置いている。AI需要に結びつける2300万の顧客、安全な決済システムなど、さまざまな能力を結集し、一つの成長エンジンを作る構想も打ち出した。
KTも最近『トークンファクトリー』を発表した。トークンファクトリーは、国内外のAIモデルを統合・提供する方式である。加入から費用確認、費用管理、決済まで一か所で処理し、顧客の要求に合ったモデルを提供する方式である。
KTが自社開発したAIモデルルーティング技術『オートモデルルーター』を適用し、モデルを最適化し、プロンプト圧縮技術を通じてコスト負担と応答時間を低減した。KTはこれにより約25%の削減効果が確認されたと説明している。先月の発売以降、70種類のAIモデルを提供しており、今後500以上のモデルに拡大する予定である。
LGユプラスは、12日に『AIトークン最適化レシピ』に関するスタディを行い、来年AIトークン事業に参入すると発表した。LGユプラスは、来年協力会社との提携や自社インフラの構築を通じて市場を攻略する。
トークンは、AIモデルに質問し、回答を見つける過程で消費されるデータの基本単位である。AIの活用拡大や推論モデル・AIエージェントの増加に伴い、トークン使用量が急増し、企業は業務目的に応じて適切にAIを活用する『効率』を追求するようになった。
通信会社は、事業最適化過程で蓄積したインフラ能力をAIトークン市場で発揮できると強調している。イ・サンヨプLGユプラス最高技術責任者(CTO)は、「通信会社は周波数、トラフィック分野などで最適化作業を行ってきた」と述べ、「このような経験がトークン事業にも貢献するだろう」と語った。
このCTOは、「理論的効率化を超え、多くの実践サービスでトークン最適化の検証を終えた」とし、「トークンの『総コスト』を削減できるだろう」と強調した。
実際、適切なAIモデルに接続する『モデルルーティング』段階で、一般的な質問処理コストを25%、コーディングエージェントコストを30%以上削減した。トークン消費が最も激しいコーディング領域では90%削減した。AIモデルの軽量化にも成功した。自社のオンデバイスAIモデルのサイズを従来の2.4~3ギガバイト(GB)から3分の1の800メガバイト(MB)に縮小した。
チップミックス(Chip-Mix)戦略も打ち出した。NVIDIAやAMDのグラフィック処理装置(GPU)に加え、国産AI半導体企業であるフュリオサAIと協力し、神経網処理装置(NPU)を検証中である。このCTOは、「多くの演算が必要な作業と帯域幅が重要な作業を分割して分散処理し、効率を高める予定だ」と述べた。
SKテレコムとKTもトークンプラットフォームを発表し、市場攻略に乗り出している。SKTはトークンゲートウェイを提案している。SKTの主要事業である通信とAIサービス、AIインフラを有機的に結びつけ、トークン経済を先取りすることが狙いである。
特に顧客のAI使用パターンを管理し、最適なAIモデル・インフラに接続する監視役に重点を置いている。AI需要に結びつける2300万の顧客、安全な決済システムなど、さまざまな能力を結集し、一つの成長エンジンを作る構想も打ち出した。
KTも最近『トークンファクトリー』を発表した。トークンファクトリーは、国内外のAIモデルを統合・提供する方式である。加入から費用確認、費用管理、決済まで一か所で処理し、顧客の要求に合ったモデルを提供する方式である。
KTが自社開発したAIモデルルーティング技術『オートモデルルーター』を適用し、モデルを最適化し、プロンプト圧縮技術を通じてコスト負担と応答時間を低減した。KTはこれにより約25%の削減効果が確認されたと説明している。先月の発売以降、70種類のAIモデルを提供しており、今後500以上のモデルに拡大する予定である。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
