OpenAI、動画生成AI「Sora 2」と新アプリの安全な提供に向けた取り組みを発表

OpenAIは、最先端の動画生成モデル「Sora 2」と、それを用いた新しいソーシャル創作アプリの提供にあたり、安全性確保への取り組みをまとめたブログ記事を公開した。高精度な動画生成モデルと、ユーザーが作品を共有・拡散できるプラットフォームの組み合わせは、これまでにない安全上の課題を生むとし、同社は設計段階から安全性を組み込んだと述べている。

新モデル・新プラットフォーム特有のリスク

Sora 2は映像のリアリズムが大幅に向上した動画生成モデルであり、加えて新設のアプリはSNSのようにユーザー同士が作品を閲覧・共有できる仕組みを持つ。OpenAIは、こうした「高性能な生成モデル」と「拡散力を持つ創作プラットフォーム」の組み合わせが、誤情報やディープフェイク、権利侵害コンテンツなど、単体のモデル提供時とは異なる新たなリスクをもたらすと説明している。

具体的な保護策

記事では、これらのリスクに対応するための「具体的な保護策」を安全対策の中心に据えたと述べられている。詳細な技術的仕組みまでは踏み込んでいないが、コンテンツモデレーションや利用ガイドライン、悪用防止のための制御機構などを組み合わせ、責任あるかたちでSora 2とアプリを展開する姿勢が示されている。

OpenAIはこれまでも画像生成やテキスト生成モデルの公開時に段階的な展開や安全対策の強化を行ってきており、今回の発表もその延長線上にある取り組みと位置づけられる。動画生成AIの一般利用が広がる中、生成コンテンツの真正性や信頼性の確保が今後も重要な論点となりそうだ。