
人工知能(AI)時代に急増するメモリのボトルネック(Memory Wall)を解決する次世代メモリ技術として、高帯域幅フラッシュ(HBF)が急浮上している。特にグーグルディープマインドが「AI推論時代の最適なメモリソリューション」としてHBFを挙げたことで、業界の関心が高まっている。
6日(現地時間)、アメリカ・カリフォルニアで開催された世界最大のメモリカンファレンスFMS 2026では、「HBFでメモリの壁を越える」をテーマに、SKハイニックス、グーグルディープマインド、サンディスクが共同パネル討論を行った。
4日にSKハイニックスとサンディスクがHBFの初の標準規格を公開した後、AIサービス企業とメモリ企業が商用化の方向性について議論した場である。
HBFは超高速DRAMであるHBMと大容量SSDの間に位置する新しいメモリ階層である。HBMレベルの高いデータ転送速度を実現しつつ、NANDフラッシュベースで容量を大幅に拡大できるのが特徴である。HBMを代替するのではなく、HBMと併用して不足するメモリ容量を補う構造である。
今回の議論にはAIモデルを直接開発・運営するグーグルディープマインドが参加したことに意義がある。メモリ技術を供給する企業ではなく、実際の需要企業がHBFの必要性を公に言及することで、今後の市場拡大の可能性に力を与えたとの評価がある。
グーグルディープマインドのシャオユイ・マー研究員は、AI産業が学習(Training)中心から推論(Inference)中心へと急速に移行していると診断した。彼は2024年から2034年までのAI推論用チップ市場規模が10倍以上成長すると予測し、既存のメモリ構造だけではこれに対応するのは難しいと述べた。
AIモデルのパラメータが急速に増加し、画像・映像・音声まで処理するマルチモーダルAIが普及する中、会話が長くなるほどKVキャッシュの処理量も爆発的に増加し、メモリ容量と帯域幅を同時に確保する必要があると説明した。
シャオユイ研究員は「従来はメモリ容量を増やすと帯域幅が低下し、帯域幅を高めるとコストと電力消費が増えるという相反関係があった」とし、「HBFは既存のストレージに比べて高い帯域幅とエネルギー効率を同時に確保できる新しい代替案である」と述べた。
サンディスクはAI推論システムにおけるHBFの経済性を強調した。ラジーブ・ナガビラバ副社長は、HBFを適用することでKVキャッシュを効率的に管理でき、システムのKV認識率(KV Aware)を2倍以上向上させることができ、結果的にトークン生成時間を短縮し、GPU使用量と運用コストも削減できると説明した。
また、NANDフラッシュベースであるため、電源が切れてもデータを保持する不揮発性特性を持ち、長期間データを保存できるほか、AI推論のように読み取り比率が高い環境ではNANDの耐久性問題も十分に克服できると付け加えた。
SKハイニックスはHBFの商用化にはメモリ自体だけでなく、システム全体の革新が並行して進められるべきだと強調した。
イム・ウィチョルSKハイニックス副社長は「NANDフラッシュは構造的に遅延時間(Latency)が長く、書き込み性能が低いという限界がある」とし、「プリフェッチング(Prefetching)、ムービングウィンドウメモリ(Moving Window Memory)、ハイブリッドメモリアーキテクチャなどハードウェアとソフトウェアを共に設計するコーデザイン(Co-design)アプローチが必要である」と述べた。
続けて「HBFを実際のAIシステムで適切に活用するためには、xPU設計企業やLLM開発者、ソフトウェアエンジニアなど多様なエコシステム参加者が共に完成度の高い標準を作り上げる必要がある」と強調した。
これに先立ち、SKハイニックスとサンディスクは2月にHBF標準化コンソーシアムを設立し、6ヶ月後に初の標準規格を公開した。この規格は8層と16層のNAND積層を基に最大512ギガバイト(GB)容量をサポートし、帯域幅は3つのグレードに分かれ、毎秒0.4テラバイト(TB/s)から3.0TB/sまで実現できるように規定されている。現在、コンソーシアムにはSKハイニックス、サンディスクのほか、グーグル、テンストレントなどが参加している。
* この記事はAIによって翻訳されました。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
