人工知能（AI）がチャットボットを超えて推論やエージェントの段階に進化する中、AIシステムのボトルネックが演算装置からメモリに移行している。SKハイニックスは、性能や電力効率に加え、資源活用の問題もAIシステムの核心的な課題がメモリに集中していると診断した。HBMを超え、メモリと演算装置の距離を縮め、複数のアクセラレーターがメモリを共有する「メモリ中心コンピューティング」がAI拡張の次の勝負所であると述べた。
主英表SKハイニックスシステムアーキテクチャ担当副社長は2日、アジュ経済新聞主催のソウル中区ザ・プラザで開催された『第18回善い成長、良い仕事グローバルフォーラム(2026 GGGF)』で「最近はメモリが問題のようだ」と述べ、「性能とエネルギー効率、そして資源効率の最適化問題がすべてメモリの前にある」と語った。彼は「ボトルネックがあるところがコンピューティングの中心であり、現在のボトルネックはメモリである」と強調した。
メモリ需要を押し上げているのはAIサービスの変化である。従来のチャットボットは利用者との対話の速度に合わせればよかったが、エージェントAIはAI同士で対話し、コードを生成・実行した後、エラーを修正して再作業する。主副社長は「人と対話する場合は1秒あたり20トークン程度で済むが、機械同士で対話する場合は数千単位の速度で回答を出さなければならない」と述べ、システム性能の要求が大幅に高まっていると説明した。
SKハイニックスはこれに対応するメモリ革新の方向性を性能、エネルギー効率、資源活用の三つの軸で定めた。限られた面積でメモリ帯域幅をどれだけ高めるか、データの1ビットをGPU・NPU・TPUなどの演算装置まで伝えるエネルギーをどれだけ削減するかが鍵である。高価なGPUとメモリが休むことなく動作するようにシステムの活用度を高めることも課題として挙げた。
HBMはこの変化を牽引した代表的な例である。主副社長は「GPUが注目されたおかげでHBMが注目されたとも言えるが、HBMのようなメモリがあったからこそGPUがより良い性能を発揮できた」と述べた。続けて、エージェントAI時代には現在のHBMとGPUの組み合わせだけで十分かどうかについて業界の悩みが深まっていると説明した。
代替案の一つはメモリと演算装置の距離をさらに縮めることである。DRAMをプロセッサの上または下に3次元で積むことでデータ移動距離を短縮できる。メモリ内または近くで直接演算するPIMも同様の文脈である。主副社長は「演算を一つ行うよりも、メモリからデータを取り出して演算装置まで持っていくのにはるかに多くのエネルギーがかかる」と述べ、「移動距離が遠くなるほどエネルギー効率が急激に低下する」と語った。ただし、3D積層には発熱や保存空間の減少など技術的課題が残っていると説明した。
複数のアクセラレーターがメモリを共有するCXLも解決策として提案された。従来はGPUが作業を終えた後、別のGPUが受け取る準備をするまで待たなければならなかったが、共有メモリを設けることでデータを預けておき、次の演算装置が必要な時に取り出すことができる。SKハイニックスはこれを通じてGPU間のデータコピーと同期プロセスの無駄を減らす方法を研究している。主副社長はCXLがAIのために生まれた規格ではないが、オープンメモリインターフェースという特性のためにAIシステムへの適用が拡大していると説明した。
AIアルゴリズムの効率化がメモリ需要の減少に直結するとの見方には否定的である。主副社長は自動車の燃費が良くなったが、全体の石油消費が逆に増えた『ジェバンズの逆説』を例に挙げ、「AIサービスのコストが下がれば、AIサービスをより多く利用することになる」と述べた。アルゴリズムの最適化により個別サービスのメモリ使用量が減少しても、全体のAI需要が増えればメモリ需要も増加する可能性があるという意味である。
主副社長は「過去にはCPUがシステムのボトルネックであり、CPUを良くすればシステム性能がそのまま上がった」と述べ、「現在のボトルネックはメモリにある」と語った。続けて「メモリの性能とエネルギー効率を高めれば、AIシステムがさらに良くなる可能性がある」と強調した。
* この記事はAIによって翻訳されました。
