AIエージェント導入後、トークンコストが1000倍に....『トークンマキシング』企業の悩みの種に

AIエージェントが企業現場に本格的に普及する中、予期しない影響が続いている。エージェント特有のトークン過剰消費構造がAI導入コストを急騰させる中、従業員が社内AI活用指標を膨らませるために意味のない作業を繰り返すいわゆる『トークンマキシング』現象が加わり、企業の悩みが深まっている。

29日、マイクロソフト（MS）リサーチとスタンフォード大学が共同で発表した論文によると、エージェントによるコーディングタスクは一般的なチャットボットに比べて最大1000倍のトークンを消費することがわかった。

単にAIが外部システムを操作するツールコーリングエージェントも、一般的なチャットに比べて5〜30倍のトークンを使用することが示された。同じタスクを繰り返し実行する場合、トークン使用量のばらつきが最大30倍に達し、コスト予測自体が事実上不可能な構造である。

論文は特に「トークンを多く消費しても正確性が向上するわけではない」と実証した。中間コスト区間で正確性がピークに達した後、飽和状態に入るパターンが確認された。

コストの衝撃は実際の請求書に繋がっている。AIコストコンサルティング会社リンオプスの顧客事例によると、エンジニア35名規模のあるSaaSスタートアップは、クローコード・カーサーなどのコーディングエージェントと自社のバグトリアージエージェントを導入してから4ヶ月で月間AIコストが最大8万7000ドルに膨れ上がった。コンテキストプルーニング、軽量モデル分離、日次使用制限設定などの最適化措置を適用した後に、月2万4000ドル程度にまで低下させることができた。

トークンコストの問題とは別に、組織文化的な副作用も表面化している。アマゾンは開発者の80%以上に週次AI使用を義務付け、社内トークン消費量のリーダーボードを運営したが、従業員がスコアを上げるために社内AIエージェントプラットフォームで不必要な作業を繰り返すトークンマキシングが横行した。

これに対し、アマゾンはリーダーボードの可視性を制限する措置を講じた。メタでも類似の現象が見られた。従業員約8万5000人を対象とした社内リーダーボードでは、30日間の総トークン消費量が60兆個を超えた。

トークンコストの急騰は、中国のAI業界には反射利益をもたらす可能性が指摘されている。ディープシークV3.2のAPI単価は入力トークン100万個あたり0.14ドルで、GPT-5の2.50ドルに比べて約94%安い。

出力トークン基準では、ディープシークは0.28ドル、GPT-5は15ドルで、差がさらに広がる。トークン消費量が増えるほど単価の差が実際のコストに与える影響が大きくなるため、コスト削減が急務な企業の中国製モデル採用検討が増える可能性があるとの分析が出ている。

トークン使用量自体の急増も著しい。投資会社アルジャがオープンラウタープラットフォームのデータを分析した結果、昨年12月時点での週次トークン使用量は、最近12ヶ月で3800%以上増加し、2025年1月を境に増加傾向が急激に加速した。平均プロンプト長は2024年初めの約1500トークンから約6000トークンに4倍増加した。

* この記事はAIによって翻訳されました。

亜洲日報の記事等を無断で複製、公衆送信、翻案、配布することは禁じられています。