[市場動向]
NTT、エッジ拠点のカメラ映像を100km離れたデータセンターで高速にAI分析する実証実験
2024年2月20日(火)日川 佳三（IT Leaders編集部）
NTTは2024年2月20日、エッジ拠点のカメラ映像を100km離れたデータセンターのGPUで高速にAI分析する実証実験の結果を発表した。分析完了までの時間を最大60％短縮することを確認したという。遠隔地に処理をオフロードしても高速に処理可能な仕組みとして、メモリー上のデータをCPUを介さずにネットワーク転送するRDMA（Remote Direct Memory Access）と、NTTのオールフォトニクスネットワーク（APN：全光ネットワーク）を用いて構築している。2026年の商用化を目指すとしている。
NTTは、エッジ拠点のカメラ映像を100km離れたデータセンターのGPUで高速にAI分析する実証実験を行い、分析完了までの時間を最大60％短縮することを確認した。
遠隔地に処理をオフロードしても高速に処理可能な仕組みとして、メモリー上のデータをCPUを介さずにネットワーク転送するRDMA（Remote Direct Memory Access）と、NTTがIOWN（Innovative Optical and Wireless Network）構想の下で開発するオールフォトニクスネットワーク（APN：全光ネットワーク）を用いて構築している。2026年の商用化を目指すとしている（図1）。
図1：エッジ拠点のカメラ映像を郊外データセンターで高速にAI分析する実証実験の概要（出典：NTT）拡大画像表示
取り組みに至った技術的な課題として、カメラ映像などのセンサーデータをAIを使ってリアルタイムに分析するのに、GPUなどのAI分析のための計算リソースをどこに配置すればよいかという問題を挙げている。
「センサーを設置したエッジ拠点に計算リソースを配置する方法は維持管理費用が高くつく。また、外部のデータセンターにデータ転送する方法だと、距離に応じてネットワークの遅延時間が問題になるほか、ネットワーク転送に伴うCPU処理のオーバーヘッドの影響がある」（NTT）という。
そこで今回、APNとRDMA転送を組み合わせて（RDMA over APN）、外部のデータセンターにデータを転送する方法ながら、ネットワーク遅延やCPUによる処理のオーバーヘッドを回避し、高速にデータを分析する仕組みを検証した。
実証実験の環境として、センサー設置拠点（神奈川県横須賀市）と郊外型データセンター（東京都武蔵野市）を光ファイバ距離約100kmのAPNで接続するシステムを構築した（図2）。
図2：RDMA転送と全光ネットワークにより、分析完了までの時間を60％短縮（出典：NTT）拡大画像表示
RDMAはネットワークインタフェースカード（NIC）に備わる機能で、CPUによるプロトコルスタックの処理をバイパスしてホスト間の通信遅延時間を短縮する。CPUを介すことなく、メインメモリーやGPUメモリー上のデータを別のホストのメモリーに転送可能である。
実証実験では、センサーとして多数のカメラ接続を行い、この状態でAPN/RDMAを用いないケースと比較。結果、センサー設置拠点でデータを受信してから郊外型データセンターでAI分析が完了するまでの時間を最大60％短縮できることを確認したという。
この仕組みでは、データセンターの電力消費量の低減も図る。実証実験では、データセンターにおけるカメラごとのAI分析に要する電力消費量を最大40％削減している。また、GPUを増設するだけで、CPUボトルネックを生じさせることなく、より多数のカメラを収容できることから、1000台のカメラ接続を想定したケースにおいて、最大60％の電力消費量削減を見込めるとしている。
