LIQID CXLソリューション製品概要（４）データベースの性能改善

前回のコラムではCXLメモリによる新しいメモリ実装方法を活用したユースケースをご紹介しました。今回はCXLメモリによるシステム性能の向上・改善が期待されるユースケースについてご紹介したいと思います。

CXLメモリを採用してサーバのメモリ容量を拡張する場合、サーバ本体のPCIeスロットに導入する方法か、或いはLIQID製品のように外部の専用筐体（LIQIDではCXLメモリ拡張シャーシと呼ぶ）にCXLメモリデバイスを搭載する方法があります。後者は、CXLメモリの外部プールを構築し、CXLファブリック・ネットワーク（物理層はPCIeファブリック）を介してサーバとCXLメモリ・プールを接続するという方法です。どちらの拡張方法でも、サーバ内部のメモリスロットの帯域は共通ですが、CXLメモリデバイスを追加することによりシステム全体のメモリ帯域が拡張されることになります。下図は、LIQID CXLメモリ拡張シャーシを用いてCXLメモリ・プールを構築し、サーバと接続した場合の概念図です。拡張シャーシの背面にはPCIe x16外部ポートが5ポートが装備されており、そのポートを介してサーバ（に搭載されるCXLホストバスアダプタ）と接続することができます。概念図では全５ポートを1台のサーバと接続し、最大で512GB/sのメモリ帯域が拡大されることを示しています。

アプリケーションによっては、メモリ帯域或いはメモリ容量が拡大しても性能が向上しないものもありますが、今回のコラムでは、メモリ帯域の拡大或いはその結果可能となるメモリ容量の拡大が性能向上に寄与するデータベース・アプリケーションに注目してユースケースをご紹介したいと思います。

1. グラフデータベース

まず最初のユースケースはグラフデータベースです。LIQID CXLメモリ製品を採用したことで、これまで処理に8時間かかっていたグラフ分析が20分に短縮されるという捗々しい効果を見た事例です。

LIQID CXLメモリ製品を用いてシステム設計したことで最大100TB（このコラムを書いている時点で200TB仕様品を評価中）のCXLメモリ・プールが構築でき、このメモリ容量と帯域の拡大により前述の性能向上が実現されました。

１台のサーバに100TBのCXLメモリを接続し、従来NVMe SSDに格納されDRAMとの間でI/O処理されていたデータをCXLメモリ上に展開することで、クエリが最大100倍高速化されました。また複数台のサーバをクラスタリング接続するためのネットワークが不要となりレイテンシ・ペナルティもありません。

2. RAGデータベース

次にご紹介するのはRAGデータベースのユースケースです。企業などが社内システムで生成AIを使用する場合、汎用のLLMのデータのみではなく、社内データによる生成AIの出力の補整のためにRAGの活用が広まっています。通常、RAG用のデータはNVMe SSDなどのドライブに格納するのが一般的ですが、それをCXLメモリ上に展開することで性能向上が期待されます。通常はサーバの物理的制約により、そこまで大きなメモリを搭載することができませんが、CXLメモリの採用によりこの課題を解消することが可能です。

多くの場合、RAGのパイプラインは大規模なベクトル・データベースへの高速かつ正確なアクセスに大きく依存しています。これらのデータベースは、最近傍探索（Nearest Neighbor Search）に使用される埋め込みベクトル（embedding）を格納しており、探索は計算負荷およびメモリ負荷の高い処理です。

LIQID CXLメモリ製品は、サーバ間で動的に割り当て可能なコンポーザブルなメモリ・プールを実現し、メモリ容量が個々のサーバ内部のローカルメモリ容量の制限に縛られずにRAGワークロードをスケール可能にします。

3. インメモリデータベース

上の２つのユースケースは、いずれもデータをNVMe SSDなどのドライブからCXLメモリに展開することで性能向上を実現するアプローチです。同じ発想で、以下のようなインメモリ・データベースを使用するアプリケーションでも同じように、巨大なデータセットをインメモリ化することで同様の効果が期待されます。

Redis、Hazelcast、Memcachedなどの高速なキー・バリュー型ストア、SAP HANA、Oracle Database In-Memory、Microsoft SQL Server In-Memory OLTPなどの商用製品、あるいはMilvus/Zilliz, LanceDB, Pinecone, Vald, Qdrant, Vespa, Weaviate, Elasticsearchなど。

今回のコラムでは、LIQID CXLメモリ製品の採用によって性能向上が期待できるデータベース・アプリケーションのユースケースついてご紹介いたしました。

（MF）