OpenAI、ChatGPT Atlasのプロンプトインジェクション対策を強化

OpenAIは、AIブラウザ「ChatGPT Atlas」をプロンプトインジェクション攻撃から守るための取り組みを公式ブログで発表した。ウェブ上のコンテンツに悪意のある指示を埋め込み、AIエージェントを乗っ取ろうとする攻撃に対して、継続的な防御強化を進めているという。

自動レッドチーミングによる先回り対策

今回の取り組みの核となるのは、強化学習で訓練された自動レッドチーミングシステムだ。人手による検証だけに頼らず、AIを使って新たな攻撃手法（エクスプロイト）を能動的に探索し、発見された弱点を即座に修正するという「発見と修正（discover-and-patch）」のループを回している。これにより、攻撃者に先んじて脆弱性を潰すプロアクティブな防御体制を目指している。

エージェント化するAIへの備え

ChatGPT Atlasのようなブラウザエージェントは、ユーザーに代わってウェブページを閲覧・操作するため、ページ内に隠された悪意ある指示（プロンプトインジェクション）を実行してしまうリスクが常につきまとう。OpenAIは、AIがより自律的にタスクをこなす「エージェント化」が進むほど、こうした攻撃対象領域が拡大すると指摘し、継続的なセキュリティ強化の必要性を強調している。今回の発表は、AIエージェントの安全性確保に向けた研究開発の一環と位置づけられる。