ソフトウェア(SW)業界は、急増する人工知能(AI)トークン費用について頭を悩ませている。主要なAIサービス企業が高性能な高価モデルを次々と発表し、月に1億円近くのトークン費用を支出する企業も現れている。
25日、情報技術(IT)業界によると、企業は開発業務と非開発業務全般にAIエージェントを導入し、トークン費用の負担が急速に増加している。
SW開発企業A社は、月のAI使用費が当初計画した予算の30%を毎月超過していると明らかにした。これは、費用増加の傾向を事前に計算して設定した予算であったが、為替レートが急騰し、予想以上のトークン使用量があったためである。
24日現在、ウォン・ドル為替レートは1546ウォンで、6ヶ月前の1400ウォン台中盤から約7%上昇した。同じ作業を行っても、7%に達する追加費用を支出しなければならない状況である。さらに、開発職の場合、膨大なコードベースを読み、推論し、修正し、再検証するプロセスを経る。AIに要求される作業レベルも高まり、トークン使用量も急増している。
A社の関係者は「月別予算を保守的に設定したわけではないが、予想以上に多くのトークンが使用されている。しかし、AIエージェントのバージョン更新の速度も速くなっており、予算編成が難しい状況である」と述べ、「今後、プロンプトの方法から始めて、トークン使用量を最小化・最適化する方法について検討し、全社通知を出す予定である」と語った。
ゲーム企業B社は、開発者1人あたり150～400ドルに達するトークン費用を毎日支払っていると明らかにした。まだ1人あたりの人件費には達していないが、近い将来人件費を超える可能性もあり、対策を講じる必要がある。
トークン使用を減らすためのガイドラインの配布や、部門ごとに差をつけてトークン使用量を制限する方向を議論中である。しかし、作業によって使用するAIモデルや性能レベルが異なるため、費用規模を事前に予測することができず、具体的なガイドラインの作成に苦労している。
市場調査会社IDCは、2027年までにAIエージェントの使用量が10倍増加し、トークン呼び出し回数は100倍増加すると予測している。特に、年間総トークン需要は、今年約100京(10^17)から2030年には約4垓(4×10^18)に増加すると予測されている。年平均増加率は約150%に達する。つまり、トークン費用が毎年2.5倍に増加するということである。
特に1人あたりのトークン使用量が急増していることは、企業にとって頭痛の種となっている。対話型AIに慣れたユーザーは、過去に比べてより長く複雑なプロンプトを入力している。この場合、トークン使用量が爆発的に増加する。さらに、複雑な推論、協業プロセス、コーディングなどをAIに委任することで、1人あたりのトークン使用量は増加し続けている。
ICT業界は、企業のAIに対する関心が「コスト管理」段階に入ったと見ている。B社の関係者は「AIが開発生産性を向上させることは明らかだが、コスト構造上無制限には使用できない」と述べ、「今や企業レベルで可能なコスト削減方法について考えている」と語った。
* この記事はAIによって翻訳されました。
