cs.CV cs.AI cs.GR Oct 27
Prakhar Kaushik, Soumava Paul, Alan Yuille
TL;DR: Hexelsは、効率的な3Dシーンおよび2D画像表現のための新しい平面六角形表面要素で、リソース制約のある環境でも高いPSNRと低いVRAMを実現し、従来の手法に比べてエラーを28.9%削減します。これにより、Hexelsは品質と効率のトレードオフを最適化し、特に表面再構築において優れた性能を示します。
Novel view synthesis and 3D reconstruction have advanced rapidly with radiance fields and splatting, yet their memory and computational demands limit their use in resource-constrained settings. We int...
cs.RO cs.AI cs.CV Oct 27
Chaehyun Kim, Chi-Pin Huang, Jisoo Kim +4
TL;DR: ThinkWorldは、世界のダイナミクスに基づいた行動推論を強化するVLA学習フレームワークで、Chain-of-Dynamics（CoD）を用いて人間の動画からの経験を活用し、ロボットの操作能力を向上させることを目指しています。実験により、人間からロボットへの効果的な知識移転と未経験のタスクや環境への強い一般化が確認されました。
Vision-Language-Action (VLA) models have made substantial progress in robotic manipulation, but their generalization remains constrained by the diversity and coverage of action-labeled robot demonstra...
cs.CV Oct 27
Jialv Zou, Xiaotong Li, Zhengrong Yue +6
TL;DR: 離散的視覚トークンは、言語に類似した形で視覚を表現し、次のトークン予測の目的の下でマルチモーダルモデリングに適したインターフェースを提供するが、量子化誤差が意味的損失を引き起こすという仮定を再検討し、量子化誤差が必ずしも信頼できないことを示した。新たに提案されたFactorized Vector Quantizationは、視覚特徴の補完的な固定次元ビューを量子化し、より大きなビット予算での性能向
Discrete visual tokens represent vision in a discrete form analogous to language, offering a native interface for multimodal modeling under a shared next-token prediction objective. However, quantizat...
cs.LG Oct 27
Jiahao Zhang, Xinling Wen, Liangliang Li +1
TL;DR: PORTALは、テスト時の適応を制御し、介入が必要なタイミングやラベル付けする入力を選択することで、モデルのパフォーマンスを向上させる手法です。このアプローチにより、介入が全体的な精度を損なう場合でも、特定のバッチで有効な選択肢となり、変化する条件に応じてモデルの適応能力を高めます。
Test-time adaptation helps a deployed model respond to changing inputs, but the same intervention can rescue one batch and damage the next. Updating normalization statistics, for example, can improve ...
cs.LG cs.CL cs.CR Oct 27
Igor Shilov, Xiaoxue Yang, Alexander Panfilov +6
TL;DR: Heads of Security (HoS)は、学習された注意ゲートを用いて指示とデータの分離を強化し、プロンプトインジェクションに対する防御を提供します。HoSは、適応攻撃に対する高い耐性を示し、標準的なユーティリティベンチマークでのパフォーマンスも向上させることが実証されています。
We introduce Heads of Security (HoS), a prompt injection defense that enforces instruction-data separation via a small set of learned per-head attention gates. HoS learns how each head should redistri...
cs.LG cs.AI physics.comp-ph Oct 27
Aakash Sarkar, Ananya Mukherjee, Motoshige Sato
TL;DR: TL;DR: 本稿では、関係がウィルソンループを通じてのみ相互作用することを示し、エッジアテンションをウィルソンループに基づく独自の形式として提案します。このアプローチは、一般的な関係グラフ上でのホロノミーアテンションとして実装され、トレーニングなしで未観測の関係を高精度で推測します。
Relations compose through the entity they share - Alice is Bob's mother and Bob is Carol's father, so Alice is Carol's grandmother - and the order matters, since a father's mother is not a mother's fa...
cs.AI Oct 27
Wenqing Peng, Michael Boy, Zhi-Song Liu
TL;DR: KPPaxは、KPP言語で書かれた大気化学メカニズムから、微分可能で即時コンパイル可能な化学コードをJAXで生成する新しいキネティック前処理器です。このツールは、パラメータ推定やハイブリッド物理-機械学習モデリングにKPPメカニズムを直接利用可能にします。
Atmospheric chemical mechanisms are commonly distributed in the language of the Kinetic PreProcessor (KPP), which generates efficient Fortran or C code but does not fit into the differentiable program...
cs.RO cs.LG eess.SY Oct 27
Ian Chuang, Hiya Shah, Vamsi Chilamkur +2
TL;DR: 多指ハンドによる巧妙な操作の研究では、物体の位置や姿勢を自在に移動させる技術が進展し、安全性を重視したポリシーが開発され、実際のロボットでも高い精度と耐障害性を示しました。新たな手法により、物体の落下を75%削減し、さまざまな目標に対して91.5%の成功率を達成しています。
Dexterous manipulation with multi-fingered hands is the next frontier of robotics, yet learned hand skills remain limited to simple grasps or basic repeated motions, such as rotating an object. As rob...
cs.CL Oct 27
Zack Yu, Nicholas Lee, Minjae Lee +8
TL;DR: GEPA-Curatorは、自己改善エージェントのためにタスクを選別し、信頼性の低い学習信号を排除することで、プロンプト最適化の性能を向上させるフレームワークです。この手法は、GoBrowseやALFWorldなどの環境での評価で、従来の手法に対して最大21.2%の性能向上を示しました。
Large Language Models (LLMs) are increasingly used in multi-turn agentic workloads that require sustained interaction with complex environments. Existing reflective prompt optimizers such as GEPA lear...
cs.CL cs.AI cs.MA Oct 27
Zhen Yang, Wen Wang, Xander Xu +1
TL;DR: LLMsが自由探索を通じて隠れた物理法則を発見できるかを評価するために、LongChangという自動化フレームワークを導入し、GPT-6-Astraが16.7%の発見率を達成した一方で、他の11のLLMは0%に留まったことが示された。探索記録は未調査の異常を明らかにし、変更された物理法則の部分的な特定にとどまった。
Scientific discovery often begins with an unexpected observation that prompts a new research question. In a world with altered physical laws, can large language models (LLMs) notice unexpected behavio...
cs.LG Oct 27
Andrew Szot, Samira Abnar, Omar Attia +5
TL;DR: TL;DR: 本研究では、合成環境のデータ構成が大規模言語モデル（LLM）ツール使用エージェントの訓練に与える影響を探求し、SynthAPIパイプラインを提案。生成環境の多様性を制御することで、ツール使用エージェントの一般化を予測するスケーリング法則を導出し、データの複雑さを増すことがエージェントの性能向上に寄与することを示した。
We explore how to build performant large language model (LLM) tool-use agents that complete complex, multi-step tasks. Specifically, we study how data composition in synthetically generated tool-use e...
cs.LG cs.AI math.OC Oct 27
Athanasios Glentis, Dawei Li, Mingyi Hong
TL;DR: MuonGSは、重みのノルムを固定せずにGram-Schmidt射影を使用して、言語モデルの事前訓練における最適化性能を向上させる手法であり、特に長期トレーニングにおいて低い検証パープレキシティを達成し、最大15%のトークン相当のスピードアップを実現します。
Weight decay and explicit weight-norm constraints improve optimizer performance in language model pretraining, yet a unified understanding of why such control helps and how much is needed remains inco...