SKハイニックスは最近、米国カリフォルニア州サンノゼで開かれた「人工知能(AI)ハードウェア&エッジAIサミット2024」(AIハードウェアサミット)で、加速器カードであるAiMXなどAI時代のための技術を披露したと19日、明らかにした。
今回の行事で、SKハイニックスは「データセンターからエッジデバイスまでAI性能を加速するAiM」というスローガンを掲げて参加し、AiMソリューションと未来ビジョンを提示した。
AIハードウェアサミットは、グローバル情報技術(IT)企業と有望なスタートアップなどが参加し、最新技術と研究結果を共有し、ネットワーキングを通じて産業内の協力機会を模索する場だ。
AiMはSKハイニックスの知能型半導体（PIM）製品だ。 AiMXは、GDDR6-AiMチップを使って大規模言語モデル（LLM）に特化したSKハイニックスの加速器カードだ。
SKハイニックスは“私たちのAiMはメモリー内の一部演算を遂行し、既存メモリー対比高い帯域幅と優秀なエネルギー効率性を見せる”とし、“LLM基盤の生成AIが要求する高いコンピューティング性能をより経済的に具現できるようにしてくれる”と説明した。
続けて“既存エッジデバイスのメモリーインターフェースを変更しなくても性能を高めることができるのが今回のソリューションの強み”とし、“モバイルDラムをSKハイニックスのAiMに代替する場合、既存対比最大3倍以上のLLM速度向上とエネルギー効率が期待される”と付け加えた。
展示ブースでは、メタの最新LLMモデルである「Llama 370B」を活用し、AiMXの性能を試演した。
今回公開されたAiMXは、メモリー容量が16GB（ギガバイト）から32GBへと、従来比2倍に増えた。
ブースでは、複数のデータグループを同時に処理する技法であるMulti-Batchでデータを処理し、多くの関心を集めた。
SKハイニックスは今回の行事でデータセンターだけでなく、エッジデバイス(オンデバイスAI)にも適用可能なAiMソリューションを公開した。
SKハイニックスのイム·ウィチョル副社長はセッション発表を通じ、AiM技術がLLMサービスのための核心ソリューションであることを強調し、モバイルDラム基盤のオンデバイスAI用AiM製品開発計画を共有した。
亜洲日報の記事等を無断で複製、公衆送信 、翻案、配布することは禁じられています。
