LIQIDプレスリリース：AI・科学研究向けに業界最先端のCXLメモリープーリング基盤を提供開始
（以下はLIQIDホームページに掲載されたプレスリリース : Liqid Launches the Industry’s Most Advanced CXL Memory Pooling Platform for AI and Scientific Discoveryの弊社抄訳です。）
＜このリリースで特に重要なポイント（弊社コメント）＞
今回の内容は、これまで弊社が発信してきた「CXLメモリーをRAGやKV CacheなどのAIワークロードに使う」というLIQID CDI製品の狙いが、具体的に実現したユースケースだと思います。特に注目すべきは、単なる「CXLによるメモリー容量拡張」ではなく、CXL Memory Pooling → Memory Sharing → OSからファイルシステムとして利用 → アプリケーション変更なしで大容量メモリーを利用というところまで踏み込んでいる点です。
また、「最大30倍のグラフ分析」「最大7倍のtokens/sec」という数字を、LIQID単独の主張ではなく、Micronのラボベンチマーク結果として打ち出している点も大きな意義を持ちます。
=====
Liqid、AI・科学研究向けに業界最先端のCXLメモリープーリング・プラットフォームを提供開始
Liqid、Micron Technologyと協業し、Pacific Northwest National LaboratoryのAI・科学研究向け大規模メモリーセントリック・コンピューティング・プラットフォームを実現
ウェストミンスター（コロラド州）–（BUSINESS WIRE）–
ソフトウェア定義型メモリーおよびGPUプーリング・インフラストラクチャの世界的リーダーであるLiqid®は本日、米国エネルギー省（DOE）傘下のPacific Northwest National Laboratory（PNNL）向けにMicronが設計したメモリーセントリック・コンピューティング・システム「Abaco」において、戦略的テクノロジーパートナーとして参画することを発表しました。Liqidは、PNNLがデータ集約型の「AI for Science」ワークロードに対して、数百TB規模のコヒーレントなアクティブメモリーを利用可能にするスケールアップ型メモリープールを提供します。
Scientific AIにおける「メモリーウォール」を解消
数十年にわたり、メモリーアーキテクチャは、計算化学、分子生物学、AIを活用したシミュレーションなどのアプリケーションにおいて、それらが必要とする大容量メモリーへのアクセスが制限されることが性能上の制約となってきました。
Abacoシステムは、CXLによるメモリーのプーリングおよび共有を先駆的に実現し、個々のサーバーが持つメモリー容量の限界を打ち破ることで、大規模AIワークロードをサポートします。
Liqidは、業界初かつ唯一の完全ディスアグリゲーテッド型・ソフトウェア定義メモリープーリング・ソリューションを提供しています。Liqidのラックスケール構成では、最大160TBのDRAMを単一ホストに割り当てることができるほか、最大16台のサーバーノード間で動的に割り当て・共有することも可能です。
テラバイト単位のメモリーをリアルタイムに割り当てることで、**未使用のまま取り残されるメモリー容量をゼロにし、必要なときに大規模な性能スケーリングを実現**します。
LiqidがPNNLに提供するもの
1筐体あたり最大40TBのDRAMをサポートするCXL 2.0メモリー拡張システム。さらに、メモリーを大量に必要とするAI、HPC、データベース・ワークロード向けに、160TBを超える統合メモリープールへスケールすることができます。
プールされたメモリーをプログラム可能なリソースへと変える、オーケストレーションおよび管理ソフトウェア層です。
Liqid Matrixは、コンポーザブルなGPU、メモリー、ストレージをリアルタイムで展開、管理、オーケストレーションするための業界唯一の統合インターフェースを提供し、科学計算環境ですでに利用されているKubernetes、Slurm、Ansibleなどのツールとも統合できます。
専用のCXL 2.0スイッチとホスト・バス・アダプター（HBA）により、ホストとメモリープールの間を**超低遅延・広帯域**で接続します。
メモリー共有とベンチマーク結果
LiqidとMicronはさらに、真のメモリー共有機能をサポートする業界初のアーキテクチャを実現するために協業しています。
MicronのLinuxカーネル拡張機能「famfs」は、ソフトウェアによるキャッシュ・コヒーレンシーを利用してシステム間の高度なメモリー共有を可能にし、将来的に、より大規模な共有メモリープール、データ移動の削減、大規模データセットへのより効率的なアクセスによる性能向上の基盤を提供します。
famfsを利用すると、Liqidシステムのディスアグリゲーテッド・メモリープールがホストOSからファイルシステムとして認識されるようになります。そのため、アプリケーション層を変更することなく、プール型メモリーが持つ低レイテンシーと高帯域幅のメリットを活用できます。
Abacoシステム上で、Micronの大容量RDIMMとfamfs Linuxカーネルを組み合わせ、代表的なワークロードを用いてMicronのラボでベンチマークを実施したところ、性能向上が確認されました。
結果として、
- グラフ分析ワークロードでは最大30倍高速な処理時間
- 一部のKVキャッシュ・ワークロードでは最大7倍のtokens per second
を実現しました。
これらの結果は、AIおよび科学計算における**CXLメモリープーリングの有効性を実証するもの**であり、今後、プラットフォームに新たな機能が追加されることで、さらなる最適化と性能向上が期待されています。
エグゼクティブのコメント
- Liqid Founder & CTO、Sumit Puri氏
> 「PNNLは、コンポーザブルCXLメモリーが最先端の科学研究において何を可能にするのかを実証する、まさに理想的な環境です。PNNLとMicronは、AI for Scienceの次の10年を形作る可能性のあるワークロードのために設計された、他に類を見ないメモリーセントリック・システムを構築しました。Liqidは、メモリープールをプログラム可能なリソースへと変えるスケール、オーケストレーション、コンポーザビリティによって、このプラットフォームを拡張できることを光栄に思います。これこそが、国立研究機関の環境における『1ドルあたりのトークン数』と『1ワットあたりのトークン数』の姿です。」
- Micron Technology、Senior Director of Emerging Memory and Ecosystem Development、Vijay Nain氏
> 「PNNLの取り組みは、CXLベースのメモリープーリングによって、個々のサーバーの限界を超えてシステムのメモリーリソースを拡張できることを実証しています。Micronの大容量DRAMとディスアグリゲーテッド・メモリー・アーキテクチャを組み合わせることで、Abacoシステムは研究者に対し、科学計算ワークロード向けのより大規模なメモリープールへのアクセスを提供します。このプロジェクトは、コンピューティング要件が拡大し続ける中で、メモリーに関する課題に取り組む革新的なアプローチを示すものです。」
- Pacific Northwest National Laboratory、IDSD Chief Scientist for Computing、James A. Ang博士
> 「Abacoシステムのテストベッド設計によって、メモリー容量を桁違いに増加させることができます。これは科学計算ワークロードにとって極めて重要です。HPC、AI推論、ポストトレーニング・アプリケーションにおいて、こうした性能向上を定量的に評価できることを楽しみにしています。」
AI for Scienceにとっての意義
PNNLはAbacoを活用してAI for Scienceを推進します。最初のユーザー向けワークロードとして、AIを統合した計算化学が対象となります。
PNNLのプール型メモリーをLiqidのCXLメモリーファブリックによって拡張することで、このシステムは、
- より大規模な構造
- より広範なパラメータ空間
- より大量の中間データ
をアクティブメモリー上に常駐させることが可能になります。
これにより、これまで科学分野のAIを制約してきたメモリー・ボトルネックを直接的に解消します。
PNNLのテストベッドは、DOEのAdvanced Scientific Computing Researchプログラムが資金提供するAdvanced Memory to Support Artificial Intelligence for Science（AMAIS）イニシアチブを通じて、国立研究所および大学のDOE助成研究者が利用できます。