NVIDIA、TensorRTでRTX PC向けStable Diffusionの生成速度を高速化
NVIDIAはTensorRTの最適化をStable Diffusion ControlNetsに拡張し、RTX搭載PCやワークステーションでの画像生成を高速化した。あわせて新しいベンチマークでRTXの性能を示している。
NVIDIAは「AI Decoded」シリーズの最新ブログにて、TensorRTによるAI高速化がStable DiffusionのControlNetsにも対応したことを発表した。TensorRTはNVIDIA GPU向けにディープラーニングモデルの推論を最適化するSDKで、これまでもStable Diffusionのテキストから画像への生成を高速化する用途で利用されてきた。今回の拡張により、画像の構図やポーズなどを制御しながら生成するControlNetsのワークフローでも、RTX搭載PCやワークステーション上でより高速な処理が可能になる。
Stable Diffusion向け最適化の拡大
ControlNetsは、参照画像から得られるエッジ検出やポーズ推定などの情報を条件として画像生成をコントロールする仕組みで、クリエイターやデザイナーの間で広く使われている。TensorRTの最適化がこの領域に及んだことで、AUTOMATIC1111などの人気UI環境を通じて、より複雑な生成タスクでもRTX GPUの性能を引き出せるようになる。
新ベンチマークでRTXの性能を提示
ブログでは、新たなベンチマークを用いてRTX搭載システムの生成性能を示している。TensorRTによる最適化を適用したStable Diffusionのワークフローが、他の構成と比較して高いスループットを発揮することを紹介しており、ローカル環境でのAI画像生成をより実用的なものにする狙いがあるとみられる。
NVIDIAは近年、RTX PCをローカルでの生成AI活用の基盤として位置づけており、TensorRTの継続的な最適化はその戦略の一環と言える。
原文ソース
NVIDIA