研究論文
研究論文の記事一覧
セキュリティエージェント評価は「成功率」だけでは不十分 — コスト込みで見る攻防の非対称性
攻撃側(CTF)と防御側(SOC調査)のエージェント性能を推論コスト込みで比較。攻撃側はテスト時計算量でスケールする一方、防御側は規律あるツール利用の巧拙が成果を左右すると指摘。
学習済みLLMのトークナイザを『その場で』拡張する手法 — 多言語対応を後付けで改善
既存モデルの埋め込みをそのまま活かしつつトークナイザを拡張する手法を提案。LFM2-8B-A1Bに適用し、ヒンディー語・ベトナム語のトークン数を半分以下に削減、最大3.7倍のデコード高速化を実現。
「公開討論の場」を通じた事前学習データ汚染の脅威 — HalfLifeによる検証
Wikipediaなど限定的なソースを超え、掲示板等の公開討論インターフェースを使ってWebスケールの事前学習データを汚染できることを実証。新指標HalfLifeで汚染混入率を推定する。
LLMの確率推定は「足し算」が合わない? 統計的自己無矛盾性の検証で明らかになった「マクロの誤謬」
大規模言語モデルへのプロンプトを条件付き確率の推定とみなす立場から、細分化した部分集団への回答を集約した値が全体集団への直接推定と一致するかを検証した研究。多くのケースで基本的な確率法則に反する不整合が確認され、細分化した推定の方がむしろ人間データに近いという「マクロの誤謬」が報告された。
NVIDIAら、ロボット基盤モデルのコンテキスト長を8000ステップに拡張する「RoboTTT」を発表
NVIDIAの研究チームが、ロボット向けVision-Language-Actionモデルのコンテキスト長を従来比1000倍の8000タイムステップまで拡張する手法「RoboTTT」を発表した。推論の遅延を増やさずに長期タスクの遂行能力や模倣学習性能を大幅に向上させたという。
論文の改訂履歴から学ぶ科学図表編集AI「SciDiagramEdit」
arXivの論文改訂履歴から図表の修正前後ペアを収集し、自然言語指示に基づく科学図表編集を自動化するベンチマークとフレームワーク「SciDiagramEdit」が提案された。編集可能なベクター形式の図を対象に、実行履歴から編集スキルを継続的に洗練させる手法により、検証データでの編集精度が向上することが示された。
言語モデルの事前学習データ、公開コメント欄経由で汚染される恐れ
研究者らは、掲示板やコメント欄などの公開討論インターフェースを通じて、Web規模の事前学習データに悪意あるコンテンツを注入できることを実証した。新手法「HalfLife」により、クロールとデータキュレーションを経てもそうしたコンテンツが訓練データに残存する可能性を分析している。
SceneBind:視覚・音声・言語を横断し「何が」「どこに」あるかを同時に捉えるマルチモーダル表現
研究者らは、シーン全体の意味理解と3D空間理解を統合したオムニモーダル表現「SceneBind」を提案した。従来のモデルが苦手としていた物体の空間的位置関係を明示的に捉えることで、クロスモーダル検索や物体特定タスクで高い性能を達成している。