DiffusionGemma — 拡散モデル方式で最大4倍高速なテキスト生成

Googleは2026年6月10日、テキスト拡散（text diffusion）という手法を採用した実験的オープンモデル「DiffusionGemma」をApache 2.0ライセンスで公開した。

自己回帰方式との違い

一般的な言語モデルは「1トークンずつ順番に生成する」自己回帰方式で動作するが、DiffusionGemmaは画像生成の拡散モデルに近いアプローチを取る。ランダムなプレースホルダートークン列から出発し、複数パスをかけて正しいトークンを段階的に「ロック」しながら文章全体を洗練させていく仕組みで、256トークンを並行して生成できるという。

性能

この方式により、GPU上で最大4倍のテキスト生成速度を実現。NVIDIA H100では1000トークン/秒以上、RTX 5090でも700トークン/秒以上を記録したとしている。モデル自体は26BパラメータのMixture of Expertsだが、推論時に活性化するのは3.8Bパラメータのみで、速度と規模のバランスを取っている。

提供形態

モデルウェイトはHugging Faceで公開されており、MLX・vLLM・Hugging Face Transformersなど主要な推論ツールに対応。Google Cloud上やNVIDIA NIM経由でのクラウド利用も可能となっている。