NVIDIA、AIインフラの効率指標「パフォーマンス・パー・ワット」の重要性を解説

NVIDIAは公式ブログで、AIインフラの効率性を測る上で「パフォーマンス・パー・ワット（ワットあたりの性能）」こそが最も重要な指標であるとする見解を発表した。

電力がAIインフラの制約条件に

同社によれば、電力はAIインフラにとって避けられない制約条件となっている。データセンターが利用できる電力には上限があり、その限られた電力予算の中でどれだけのトークンを生成できるかが、AIファクトリー（AI推論・学習を行う大規模データセンター）の収益とビジネスとしての採算性を直接左右するという。

ワットあたり性能はごまかせない指標

ブログでは、パフォーマンス・パー・ワットはベンチマーク上の数値操作では達成できず、実運用における実際の成果を通じてのみ得られる指標であると強調されている。これは、GPUやシステム単体のスペックだけでなく、ソフトウェアの最適化や運用効率まで含めた総合力が問われることを意味する。

エージェント型AIの普及が背景に

さらに、自律的にタスクをこなす「エージェント型AI」の普及によって、生成されるトークン数の需要が急増していることも背景として挙げられている。トークン需要が増えるほど、限られた電力の中でいかに多くのトークンを生成できるかという効率性が、AIインフラ全体の競争力を決める要因になっていくとしている。