NVIDIA、「ストレージからGPUに直接データ転送」技術をオープンソース化。“メモリを介さない”高速アクセス推進へ

NVIDIAは8月4日、米国カリフォルニア州サンタクララで開催中の「FMS: the Future of Memory and Storage」において、「cuFile API」およびその基盤となるストレージソフトウェアスタックをオープンソース化すると発表した。

NVIDIAが公式ブログにて公開した内容によると、cuFile APIは同社の「NVIDIA GPUDirect Storage」技術を構成するオープンソースのコンポーネントだという。NVIDIA GPUDirect Storageは、ストレージとGPU間でデータを直接転送できるようにする技術だ。従来であれば、ストレージ上のデータをGPUで処理する場合、データをメインメモリの一時バッファに読み込み、そこからGPUのメモリへとデータをコピーする必要があった。NVIDIA GPUDirect Storageは、メインメモリを介さずにデータをGPUで低遅延かつ高速に扱えるようにする技術というわけだ。

NVIDIAによると、cuFile APIとその基盤技術をオープンソース化することで、複数のプラットフォームに対応する共通インターフェースを整備し、相互運用性を確保する狙いがあるとのこと。GitHubではxio-sigというプロジェクトが準備されており、Google、Intel、Meta、NVIDIAの4社が初期メンテナーを務めるそうだ。

さらにNVIDIAは、DDNやキオクシア、Micronをはじめとするストレージ業界の40社以上の企業とともに、「Storage-Next」と呼ばれるイニシアチブを形成したと発表した。GPU駆動型ストレージがどのように動作すべきかについて合意を図り、そこで生まれた技術的進歩を、相互運用可能なオープンな業界標準へと発展させることを目指している。参加する各社がNVIDIAとともに次世代AIストレージ技術の開発に取り組むそうだ。

そんなStorage-Nextを支えるフレームワーク「SCADA（Scaled, Accelerated Data Access）」は、膨大なAIデータセットにおいても、大規模並列GPUがアプリケーションに必要なデータだけをストレージからGPUの高速メモリに取り込めるようにする技術だという。ここでも、メインメモリを介さずにストレージとGPU間でデータを直接やり取りする技術が押し出されているわけだ。

ところで、同イベントでは、キオクシアが「KIOXIA XL1シリーズ」を発表している。同製品は、低遅延のフラッシュメモリ「XL-FLASH」をCXL規格を通じて接続し、メインメモリの拡張領域として利用できるモジュールだ（関連記事）。GPUからストレージ上のデータへと直接アクセスしやすくするNVIDIAの取り組みとは異なり、こちらは外部メモリを拡張するという点で、異なるアプローチを採っている。

とはいえ、いずれも現状では一般向けのPCではなくAIデータセンターなどにおいて、大量のデータに効率よくアクセスすることを支える技術といえる。AI需要の拡大によって高速かつ大容量のメモリの価格が高騰するなかで、メインメモリやGPUメモリだけに頼らず、ストレージなどの階層も効率よく活用する技術としても注目されそうだ。