Primemas CXLメモリー AIC
CXL メモリーアドインカード PMA14, PMA16
Primemas AI データ・インフラストラクチャ・ソリューション
ソリューション・コア製品 CXLメモリーアドインカード
CXLメモリーAICイメージ図
AI 時代のコンピューティング課題
現代の AI や大規模データベースの性能は、もはやコンピューティング性能によって制約されているのではなく、データアクセスがボトルネックとなっています。最高性能GPU や CPU であっても、低速なストレージからデータが供給されるのを待つ間、多くの時間をアイドル状態で過ごしています。
真の性能向上やブレークスルーを実現するには、データセット全体をメモリー上に常駐させることが必要です。Primemasはそのために最適なメモリソリューションとしてCXLメモリーAIC(Add-in-Card)を提供します。
Primemas のソリューション
Primemas のCXLメモリーAICは「メモリーの壁（Memory Wall）」を打ち破ります。
Primemas のソリューションは、革新的な Falcon Hublet を中核技術として、DRAM メモリーをコンピュートリソースから分離（Disaggregation）します。
これにより、
・Direct Attached Memory（メモリー拡張）
・Switchless Pooled Memory（スイッチレス・プールドメモリー）
・Just a Bunch Of Memory（JBOM）
まで、大容量・低遅延・高いコスト効率を兼ね備えたメモリーソリューションを実現します。
導入効果
Primemas のCXLメモリーAICソリューションは、データセンターの TCO（総所有コスト）を大幅に削減するとともに、
- 大規模データベース
- AI ワークロード
- 日常的なデータセンターワークロード
Primemas CXLメモリーAICは、データインフラを性能のボトルネックから解放し競争優位を生み出す戦略的な資産へと変革します。
Primemasコアテクノロジー紹介動画
CXLとは？
CXLは、業界の主要な企業が標準化を進めてきているCPU, GPUおよびDRAM間の高速かつ低レイテンシーなインターコネクトの新しい規格です。CXLプロトコルはPCIe物理層の上位層に実装されることによりこれまでのPCIeの導入実績と互換性を有効活用することができることから、AIなど今日のワークロードに適合する機能と性能を提供することが期待されています。CXLは以下のような特徴を備えたプロトコルであり、今後も世代の進化とともに多彩な機能が追加されていくものと思われます。
CXLの特長
・ディスアグリゲーション
・広帯域
・低レイテンシー
・動的メモリープロビジョニング
・メモリープールおよび共有
・キャッシュコヒーレンシーサポート
・スケーラビリティの改善
・低消費電力
・TCOの低減
・将来的な有効活用を担保（拡張性）
CXLメモリーはこれらの特長を網羅する新しいデバイスです。従来のサーバアーキテクチャでは、マザーボード上のメモリースロットにDRAM/DIMMを挿入することが一般的ですが、リアルエステートの問題もありこれには物理的（スロット数）な制約が避けられません。この課題を解決するために、CXLプロトコル（すなわちPCIeの上位層）を介して使用できる新しいメモリデバイスであるCXLメモリーが考案され、すでに各社から市場に投入されてきています。フォークファクターとしては、E3.SやPCIeスロットにドロップインできるAIC型（アドインカード型）が採用され、いずれもPCIeバスを介して接続されます。
このCXLメモリーの登場と合わせて、システムベンダー各社は次のような提供価値を念頭に製品開発を進めています。
・メモリー拡張：従来メモリスロットのみだったメモリー実装にPCIe経由での拡張が可能となる
・メモリープール：サーバ外部にメモリープールを用意して複数のホストで共有することが可能となる
・アプリケーション性能の改善：搭載可能なメモリ容量の拡張により処理性能の向上が可能となる
・メモリー使用率の改善：個々のサーバにおけるメモリ容量を柔軟かつ動的に最適化できるようになる
・ソフトウェアライセンス費用の低減：メモリーのプール化によってサーバ台数の低減が可能となる
・VM密度の向上：サーバ当たりのVM（Virtual Machine）密度の向上が可能となる
など
いずれも従来のサーバ・アーキテクチャにとっては難題ですが、それゆえにCXLの普及とエコシステムの発展に期待が膨らみます。
CXLは、業界の主要な企業が標準化を進めてきているCPU, GPUおよびDRAM間の高速かつ低レイテンシーなインターコネクトの新しい規格です。CXLプロトコルはPCIe物理層の上位層に実装されることによりこれまでのPCIeの導入実績と互換性を有効活用することができることから、AIなど今日のワークロードに適合する機能と性能を提供することが期待されています。CXLは以下のような特徴を備えたプロトコルであり、今後も世代の進化とともに多彩な機能が追加されていくものと思われます。
CXLの特長
・ディスアグリゲーション
・広帯域
・低レイテンシー
・動的メモリープロビジョニング
・メモリープールおよび共有
・キャッシュコヒーレンシーサポート
・スケーラビリティの改善
・低消費電力
・TCOの低減
・将来的な有効活用を担保（拡張性）
CXLメモリーはこれらの特長を網羅する新しいデバイスです。従来のサーバアーキテクチャでは、マザーボード上のメモリースロットにDRAM/DIMMを挿入することが一般的ですが、リアルエステートの問題もありこれには物理的（スロット数）な制約が避けられません。この課題を解決するために、CXLプロトコル（すなわちPCIeの上位層）を介して使用できる新しいメモリデバイスであるCXLメモリーが考案され、すでに各社から市場に投入されてきています。フォークファクターとしては、E3.SやPCIeスロットにドロップインできるAIC型（アドインカード型）が採用され、いずれもPCIeバスを介して接続されます。
このCXLメモリーの登場と合わせて、システムベンダー各社は次のような提供価値を念頭に製品開発を進めています。
・メモリー拡張：従来メモリスロットのみだったメモリー実装にPCIe経由での拡張が可能となる
・メモリープール：サーバ外部にメモリープールを用意して複数のホストで共有することが可能となる
・アプリケーション性能の改善：搭載可能なメモリ容量の拡張により処理性能の向上が可能となる
・メモリー使用率の改善：個々のサーバにおけるメモリ容量を柔軟かつ動的に最適化できるようになる
・ソフトウェアライセンス費用の低減：メモリーのプール化によってサーバ台数の低減が可能となる
・VM密度の向上：サーバ当たりのVM（Virtual Machine）密度の向上が可能となる
など
いずれも従来のサーバ・アーキテクチャにとっては難題ですが、それゆえにCXLの普及とエコシステムの発展に期待が膨らみます。
CXLメモリーAIC（メモリー拡張）
CXLメモリーAIC（メモリー拡張：256GB～4TB）
PrimemasのCXLメモリーAICをCXL対応のマザーボードのPCIeスロットに搭載することでメモリーを拡張でき、メモリを大量に消費するタスク向けに個々のサーバーの性能を瞬時に向上させることができます（下図参照）。
Primemasの高密度CXLメモリ拡張モジュールは、ローカルメモリの制限を打破する最も簡単な方法であり、要求の厳しいアプリケーションに対して、即座に低遅延のパフォーマンス向上を実現します。
PrimemasのCXLメモリーAICをCXL対応のマザーボードのPCIeスロットに搭載することでメモリーを拡張でき、メモリを大量に消費するタスク向けに個々のサーバーの性能を瞬時に向上させることができます（下図参照）。
Primemasの高密度CXLメモリ拡張モジュールは、ローカルメモリの制限を打破する最も簡単な方法であり、要求の厳しいアプリケーションに対して、即座に低遅延のパフォーマンス向上を実現します。
メモリー・プール（スイッチレス）
メモリー・プール（スイッチレス 1TB~20TB）
通常サーバー内部に搭載されるDRAMメモリを専用の別シャーシに移動し、複数のサーバーからアクセス・共有できる大きなメモリプールを構築することで、データセンターの総所有コスト（TCO）を削減します。
サーバー個々にメモリーを装備するのではなくプールとして外部に集約することで、数台から数十台のサーバーが柔軟に共有可能なメモリー資源を構築し、データセンターのTCOを大幅に削減します。Primemas独自のスイッチレスアーキテクチャは、外部CXLスイッチの高コスト、長いレイテンシ、余分な電力消費を排除し、優れたパフォーマンスと劇的なコスト削減を実現します。
（下図はシステムトポロジーイメージ）
通常サーバー内部に搭載されるDRAMメモリを専用の別シャーシに移動し、複数のサーバーからアクセス・共有できる大きなメモリプールを構築することで、データセンターの総所有コスト（TCO）を削減します。
サーバー個々にメモリーを装備するのではなくプールとして外部に集約することで、数台から数十台のサーバーが柔軟に共有可能なメモリー資源を構築し、データセンターのTCOを大幅に削減します。Primemas独自のスイッチレスアーキテクチャは、外部CXLスイッチの高コスト、長いレイテンシ、余分な電力消費を排除し、優れたパフォーマンスと劇的なコスト削減を実現します。
（下図はシステムトポロジーイメージ）
JBOM(ジャスト・バンチオブ・メモリー)
メモリアプライアンス（JBOM）（10TB～PB）
エンタープライズ規模のミッションクリティカルなAIとデータベースを、大容量DRAMメモリで駆動し、20～40倍のパフォーマンス向上を実現します。
PrimemasのエンタープライズグレードJBOM（Just a Bunch of Memory）システムは、エクサスケール時代に向けて設計されています。数十テラバイトから数百テラバイトものデータセット全体をDRAMに格納できるようにすることで、データセンターのストレージボトルネックを完全に解消し、リアルタイムデータ分析や大規模AIモデルに革新的なスピードをもたらします。
エンタープライズ規模のミッションクリティカルなAIとデータベースを、大容量DRAMメモリで駆動し、20～40倍のパフォーマンス向上を実現します。
PrimemasのエンタープライズグレードJBOM（Just a Bunch of Memory）システムは、エクサスケール時代に向けて設計されています。数十テラバイトから数百テラバイトものデータセット全体をDRAMに格納できるようにすることで、データセンターのストレージボトルネックを完全に解消し、リアルタイムデータ分析や大規模AIモデルに革新的なスピードをもたらします。
NMC(ニア・メモリー・コンピューティング）
ニア・メモリー・コンピューティング（NMC）
プロセッサ（CPUなど）とメモリの距離を極限まで近づけ、データ移動の遅延と消費電力を削減する次世代のコンピューティング技術です。加えてバス負荷の軽減を軽減できるため、離れた場所でのデータやり取り（バス通信）を減らし、処理スピードを高め、その結果、データの移動にかかる無駄な電力を大幅に抑えます。AIやビッグデータの普及で、扱う情報量が爆発的に増えています。
Primemasのソリューションは、メモリ集約型ワークロードの処理を最適化するために、ニアデータ処理（NDP）技術を統合しています。NDPはメモリ近傍で演算を実行することでデータ移動を最小限に抑え、レイテンシを低減し、エネルギー効率を向上させます。このアーキテクチャにより、データスループットの向上、大規模ワークロードに対する拡張性の向上、および総所有コスト（TCO）の削減が実現します。
プロセッサ（CPUなど）とメモリの距離を極限まで近づけ、データ移動の遅延と消費電力を削減する次世代のコンピューティング技術です。加えてバス負荷の軽減を軽減できるため、離れた場所でのデータやり取り（バス通信）を減らし、処理スピードを高め、その結果、データの移動にかかる無駄な電力を大幅に抑えます。AIやビッグデータの普及で、扱う情報量が爆発的に増えています。
Primemasのソリューションは、メモリ集約型ワークロードの処理を最適化するために、ニアデータ処理（NDP）技術を統合しています。NDPはメモリ近傍で演算を実行することでデータ移動を最小限に抑え、レイテンシを低減し、エネルギー効率を向上させます。このアーキテクチャにより、データスループットの向上、大規模ワークロードに対する拡張性の向上、および総所有コスト（TCO）の削減が実現します。