[市場動向]
富士通、GPU処理の割り当てを動的に切り替える技術「アダプティブGPUアロケーター」を開発
2023年11月10日(金)日川 佳三(IT Leaders編集部)
富士通は2023年11月9日、GPUを効率よく利用するための技術「アダプティブGPUアロケーター」を開発したと発表した。同時・複数実行する処理のうち、GPUリソースを割り当てることで最も効率が向上する処理を判断し、リアルタイムかつ優先的に割り当てる。合わせて、HPCシステムで実行しているプログラムをリアルタイムに切り替える「インタラクティブHPC」技術を開発した。
富士通の「アダプティブGPUアロケーター」は、GPUを効率よく利用するための技術である。同時・複数実行する処理のうち、GPUリソースを割り当てることで最も効率が向上する処理を判断し、リアルタイムかつ優先的に割り当てる。
GPUを割り当て済みの処理が終了するまで待つことなく、GPUを使えるようになる。すでにCPUで処理が始まっている処理に対しても、GPUに切り替えたほうが全体として効率が上がる場合、GPUに切り替える。
拡大画像表示
図1は、3つのプログラムをCPU1台、GPU2台で動かし、GPUの割り当てを動的に切り替える例である。まずは、処理の実行順にプログラム1と2にGPUを割り当てる。その後、プログラム3を起動すると性能計測のためにGPUの割り当てをプログラム1から3に変更し、GPU処理による高速化が可能な度合いを測る。
計測の結果、プログラム1より3にGPUを割り当てたほうが全体として処理時間が短縮することがわかれば、プログラム3にGPUをそのまま割り当て、プログラム1にはその間CPUを割り当てる。プログラム2の終了後はGPUが空くため、再度GPUをプログラム1に割り当てる。
一方の「インタラクティブHPC」は、複数台のコンピュータを協調動作させるHPCシステムで実行中のプログラムを、リアルタイムに別のプログラムへと切り替える技術である。現在実行中のプログラムの完了を待たずに利用でき、リアルタイム性が求められるプログラムの実行にHPCシステムを利用できるようになる(図2)。
拡大画像表示
「従来の制御方式は、各サーバーで実行中のプログラムを切り替えるための通信を、各サーバーに対するユニキャスト通信で行っていた。サーバーそれぞれ個別に通信することから、切り替えタイミングのばらつきが生じ、実行するプログラムをリアルタイムに一括で切り替えることが難しかった」(富士通)。
そこで、プログラム実行を切り替えるための通信にブロードキャスト通信を採用。従来、実行するプログラムの切り替え間隔は秒単位だったが、これを256ノードのHPC環境において100ミリ秒へと短縮し、プログラムのリアルタイムでの一括切り替えを実現している。