Qwen、安全性判定モデル「Qwen3Guard」を公開

Qwenチームは、Qwen3ファミリー初の安全性ガードレールモデルとなる「Qwen3Guard」を公開した。強力な基盤モデルであるQwen3をベースに、安全性分類タスク向けに専用のファインチューニングを施している。

概要と特徴

Qwen3Guardは、ユーザーからの入力プロンプトとモデルの応答の両方に対して、安全性の判定を行うことができる。単なる安全・危険の二値判定にとどまらず、リスクレベルとカテゴリ分類を組み合わせた詳細な評価を出力する点が特徴で、より精緻なモデレーションを可能にしている。

モデル名にある「Token Stream」という表現が示す通り、リアルタイムでのトークン生成に対応した安全性チェックを想定した設計となっている。生成の途中経過に対しても継続的に安全性を監視できる仕組みを備えており、対話型AIサービスにおける実運用を意識した構成といえる。

ベンチマーク性能

Qwenチームによれば、Qwen3Guardは主要な安全性ベンチマークにおいて最先端の性能を達成しているという。特に、プロンプト分類・応答分類の両タスクにおいて、英語・中国語に加え多言語環境でも高い精度を示しており、グローバルな展開を見据えた設計がなされている。

公開状況

Qwen3Guardの技術詳細をまとめたテックレポートに加え、GitHub、Hugging Face、ModelScopeの各プラットフォームでモデルが公開されている。開発者コミュニティはDiscordを通じて情報交換や質問が可能となっており、幅広い利用と検証が期待される。