NVIDIA Spectrum-X
イーサネット プラットフォーム

NVIDIA Spectrum-X™ イーサネットプラットフォームは、AIファクトリーやクラウドを支えるイーサネットベースのAIインフラの性能と効率を飛躍的に向上させるために設計されています。この革新的なテクノロジーは、AIネットワーク性能を1.6倍向上させ、マルチテナント環境においても一貫性と予測可能なパフォーマンスを実現します。Spectrum-Xは、NVIDIA Spectrum-X イーサネットスイッチとNVIDIA® SuperNIC™アダプターの緊密な連携によるネットワーク革新を基盤に構築されています。Spectrum-Xのネットワーク最適化により、大規模なトランスフォーマーベースの生成AIモデルの実行時間を短縮し、より迅速なインサイト獲得を可能にします。

AIのためにイーサネットを進化
AIワークロードには、低レイテンシかつ高い実効帯域幅を備え、さらにNVIDIA Collective Communications Library (NCCL)などのコレクティブライブラリと互換性のあるネットワークが不可欠です。 複数のジョブが同時に実行される環境では、テナント間の干渉を防ぐためのパフォーマンス分離が重要です。 AIクラウドに求められる高性能ネットワークとマルチテナンシーを両立するため、Spectrum-X イーサネットは、RDMA over Converged Ethernet (RoCE)拡張を活用します。標準イーサネットをベースにしたこれらの拡張により、実効帯域幅を向上させ、ワークロード間の性能分離を確保します。

図1. RoCEアダプティブルーティングによるAI向けAll-Reduce

NVIDIA Spectrum-X イーサネットの主なメリット

• AI性能の向上: AIネットワーク性能を1.6倍に強化し、AIワークロードの処理・分析・実行を加速。AIソリューションの開発・展開を迅速化。


• NCCLマルチサイト性能の加速: トポロジー認識型輻輳制御と負荷分散により、マルチサイトNCCLコレクティブを1.9倍高速化。データセンター間でのトレーニング・推論のスケールを実現。


• 標準のイーサネットとの接続性: イーサネット機能を強化しながら、完全に標準準拠で既存のイーサネットスタックと相互運用可能。


• 電力効率の向上: パフォーマンス改善により、AI環境の電力効率を高め、消費電力と運用コストを削減。


• マルチテナント性能の強化: パフォーマンス分離により、各テナントのワークロードが最適かつ安定して動作。顧客満足度とサービス品質を向上。


• AIファブリックの可視性向上: 複数スイッチを跨ぐフローの可視化により、ボトルネックを特定。自動化されたファブリック検証に不可欠。


• AIスケーラビリティの向上: 単一ホップで256×200Gポート、2層リーフ/スパイン構成で数千の800Gエンドポイントにスケール可能。進化するAIクラウドに最適。


• ネットワークセットアップの高速化: AIワークロード向けに最適化された高度なネットワーク機能を自動でエンドツーエンド構成。


• 高いレジリエンス: リンク障害によるカスケード的性能低下を排除し、帯域損失を単一リンクに限定。


• エンドツーエンドAIファブリックセキュリティ: Spectrum-X イーサネットは、スイッチ、SuperNIC、ケーブルにわたるハードウェアルートオブトラスト、セキュアブート、ファームウェア暗号化、物理攻撃防御、VXLAN BGP EVPNによるテナント分離、IPsec/PSP暗号化のオフロードを提供。GPU間通信を安全・準拠・高信頼でAIスケールに対応。


• AIネットワークの水平・広域スケーリング: Spectrum-X イーサネットは、スイッチ、SuperNIC、ケーブル全体にわたり、ハードウェアルートオブトラスト、セキュアブート、ファームウェアおよび物理攻撃防御、VXLAN BGP EVPNによるテナント分離、さらにIPsec/PSP暗号化のオフロードを備えた保護機能を提供します。これにより、AIスケールでのGPU間通信を、機密性・コンプライアンス・高いレジリエンスをもって実現します。

電力効率の向上
データセンターでは、計算リソース需要の増加とエネルギーコスト管理の必要性から、電力キャッピングが一般的な運用となっています。ワット当たりのAI性能の改善は、より高い計算効率と迅速なインサイト獲得を実現し、電力予算内で運用するために不可欠です。特にディープラーニングのようなモデル学習は計算負荷が高く、大量の電力を必要とします。Spectrum-X イーサネットは、単なる性能向上にとどまらず、電力効率を改善し、標準イーサネットを超える優れたワット当たりの性能を提供します。

Spectrum-Xの技術革新
Spectrum-X イーサネットスイッチとSuperNICは緊密に連携し、AIクラスタ性能を最大化するために設計されたNCCL最適化ネットワークファブリックを形成します。このファブリックは、エンドツーエンドの革新的な機能群によって構築されています。

• RoCEアダプティブルーティング: 輻輳を回避するため、大規模AIフローを動的に迂回。ネットワーク資源利用率、リーフ/スパイン効率、パフォーマンスを改善。Spectrum-Xスイッチはきめ細かな負荷分散でアクティブフローを再ルーティングし、輻輳を排除。さらにSuperNICは順序の乱れたパケットを正しく並べ替え、宛先メモリに配置。プロファイルに基づく効率的なプロビジョニングと自動化をサポート。


• RoCE輻輳制御: インバンドネットワークテレメトリで性能データを収集し、SuperNICがスイッチのテレメトリ情報を活用してデータレートを最適化。SuperNICアルゴリズムはディープラーニングモデルを用いてマルチジョブ・マルチテナント環境の設定を最適化。


• エンドツーエンド可視性: NVIDIA NetQ™により、GPUからSuperNICまでのフロー性能をトレースし、スイッチポートやRoCEキューを跨ぐ経路と挙動をマッピング。


• NVIDIAフルスタック統合: NetQ、NCCL、Nsight™、Blackwell/Hopperプラットフォーム、Spectrum-4スイッチ、ConnectX-8、BlueField-3 SuperNIC、SDK、ソフトウェアを統合。NVIDIA Base Command™ Managerで簡単に構成し、本番環境対応の迅速なAI導入を実現。


• 超低レイテンシ: Spectrum-4スイッチによる400/800 GbEスイッチングで、AI/MLワークロードに不可欠な低レイテンシと低ジッターを保証。


• NCCL最適化スイッチ閾値: バッファと輻輳閾値をAIワークロード向けに調整し、同期コレクティブ操作を最適化。輻輳やパケットロスの発生を低減。

Spectrum-X イーサネットは、イーサネットベースのマルチテナントAIインフラを構築する組織にとって画期的なソリューションです。性能と電力効率を高め、予測可能で一貫した動作を実現。これにより、市場投入までの時間を短縮し、競争優位性を強化します。

Spectrum-X イーサネットは、イーサネットベースのマルチテナントAIインフラ構築において画期的なソリューションです。性能と電力効率を高め、予測可能で一貫した動作を実現。これにより、市場投入までの時間を短縮し、競争優位性を強化します。

Spectrum-X イーサネットは、AIファブリック全体にわたる包括的なセキュリティを提供し、データの完全性・機密性・コンプライアンスを確保しながら性能を犠牲にしません。スイッチとSuperNICはセキュアブート、ハードウェアルートオブトラスト、暗号化ファームウェア、物理攻撃対策を搭載。マルチテナント環境ではVXLAN BGP EVPNによる安全なセグメンテーションとテナント分離を実現。さらに、BlueField-3およびConnectX-8 SuperNICがIPsecとPSP暗号化をオフロード・高速化し、AIファブリック全体で透過的なラインレート暗号化を提供。これらの機能により、Spectrum-X イーサネットは世界最大規模のAIワークロードを保護するために設計された、レジリエントでスケーラブルなネットワーク基盤となります。

AI需要の増加に伴い、より大規模なAIファクトリーが必要になりますが、電力や物理的制約により、単一の建物やキャンパス内でのデータセンター拡張には限界があります。標準イーサネットによる複数データセンター接続では、長尾レイテンシ、ジッタ増加、予測不能な性能低下が発生します。この課題を解決するため、NVIDIA Spectrum-XGS イーサネットは、複数のデータセンターをギガスケールで単一の巨大データセンターとして動作可能にする高性能スケールアクロスネットワーキングを提供します。
Spectrum-XGS イーサネットは、Spectrum-X イーサネットスイッチとConnectX-8 SuperNICの同一ハードウェア構成を基盤に、距離を考慮した輻輳制御アルゴリズムを導入し、トラフィックを効率的に分散。さらに、エンドツーエンドのテレメトリと精密なレイテンシ管理により、決定論的な性能を保証。これにより、数百キロメートル離れたデータセンター同士が単一のAIファクトリーとして機能し、最大規模のトレーニングや推論ワークロードに対応します。