WorldVLA

Cen (Alibaba) 2025 · 論文

一行要約 — WorldVLAは、ビジョン・言語・行動モデルと世界モデルを、ロボットの行動トークンと未来の画像トークンの両方を予測する単一の自己回帰トランスフォーマーに統合し、環境の物理を学習することと行動を生成することが相互に強化し合うようにする。

問題

ロボット学習のパイプラインは、互いの強みを無視する2つの流派に分裂してきた。ビジョン・言語・行動モデル(RT-2、OpenVLA)は観測と指示を行動に写すが、行動を専ら出力としてのみ扱い — 理解すべき入力としては扱わない — ため、その行動の結果を予測する仕組みを持たない。世界モデル(GAIA-1、Cosmos)は観測と行動から視覚世界がどのように進展するかを予測するが、それ自体は行動を生成しない。WorldVLAは、単一の自己回帰モデルが両方を行えるかを問う。すなわち、行動と画像の理解および生成を単一の枠組みに統合できるかを問う。

手法とアーキテクチャ

WorldVLAは、画像観測 $o$、行動 $a$、言語指示 $l$ にわたる、行動(方策)モデル $\pi_\theta$ と世界モデル $f_\phi$ を定義する。

$$a_t = \pi_\theta(a_t \mid o_{t-h:t},\, l), \qquad o_t = f_\phi(o_t \mid o_{t-h:t-1},\, a_{t-h:t-1})$$

そして、両者を、方策ヘッドと世界ヘッドがすべての重みを共有する単一モデル $M_\psi$ に統合する。

• 1つのトランスフォーマー、3つのトークナイザ: バックボーンは、統一された画像理解/生成MLLMであるChameleonから初期化される。画像トークナイザはVQ-GAN(圧縮率16、コードブック8192。256×256画像あたり256トークン、512×512では1024トークン)である。行動トークナイザは、7つの行動次元(相対位置3つ、相対角度3つ、グリッパー状態1つ)それぞれを256ビンに離散化するため、1つの行動は7トークンとなる。テキストはBPEトークナイザを使用し、その65,536語の語彙は8192個の画像コードと256個の行動コードを内包する — すべてのモダリティが1つの語彙と1つの自己回帰エンジンを共有する。
• 2種類の交互データ形式: 行動モデル用のサンプルは、$M$枚の観測画像に対して「{指示}のためにロボットはどの行動を取るべきか」を問い、出力される$K$個の行動トークンのみを教師する($\mathcal{L}_{action}$)。世界モデル用のサンプルは「現在の画像と行動が与えられたときの次のフレームを生成する」ことを求め、生成された画像トークンのみを教師する($\mathcal{L}_{world}$)。これを$N$回繰り返す。行動が次状態を完全に決定するため、世界側では指示は不要である。
• 学習目的関数: 混合された交差エントロピー損失

$$\mathcal{L} = \mathcal{L}_{action} + \alpha\, \mathcal{L}_{world}$$

$\alpha = 0.04$ は、少数の行動トークン(7個)と多数の画像トークン(256/1024個)のバランスを取る。

• 行動チャンクのアテンションマスク: 素朴な因果的アテンションでは、チャンク内の後続の行動が、以前に予測された行動に依存してしまう。行動はMLLMの事前学習には存在しなかったため、汎化性能は弱く、誤差が伝播する。WorldVLAのマスクは、各行動がテキストと画像トークンにのみアテンションし、先行する行動にはアテンションしないようにすることで、並列な行動生成を可能にする。世界モデル側は標準的な因果マスクを維持する。
• 設定: $M=2$個の過去フレーム、チャンクサイズ$K=5$(LIBERO-Longでは$K=10$)、$N=1$。

実験結果

LIBEROベンチマーク(タスクごとに50回のロールアウトに対する成功率)において、512×512のWorldVLAはSpatial / Object / Goal / Longでそれぞれ87.6 / 96.2 / 83.4 / 60.0、平均81.8を記録し、大規模なロボット事前学習を用いずに、離散行動版のOpenVLAベースライン(平均76.5)を上回る。256×256版は平均79.1である。アブレーションは相互強化の効果を切り分けている。世界モデルのデータを追加することで、純粋な行動モデルの平均SRは62.8から67.2に上昇する。素朴な自己回帰的行動チャンキングはこれを54.0に低下させるが、提案されたアテンションマスクは76.6(世界データありのフルモデルでは78.1)まで回復させる。要約すると、同一バックボーンの行動モデルに対して把持SRで約+4%、素朴なチャンキングによるSRの低下が1050%、そしてマスクによる改善が423%である。逆方向にも、行動データは世界モデリングを改善する。50フレームのロールアウトにおいて、FVDは純粋な世界モデルに対して718.6から674.1(約10%改善)に低下し、PSNRは23.98から24.30に上昇する。純粋な世界モデルは物理を明らかに誤って捉えている(物体が消える、引き出しが開かない、など)。世界モデルのタスクのみで行動モデルを事前学習することも有効である(62.8から66.8)。

SLAMにおける意義

WorldVLAは、このレベルにおける2つの大きな潮流 — 世界モデル(GAIA-1、Cosmos)とVLA(RT-2、OpenVLA)— を単一のアーキテクチャに収束させ、世界を予測することと世界の中で行動することの間の一貫性のギャップを埋める。そのアブレーションは、SLAM研究者が直感的に理解していることを定量化している。すなわち、運動の幾何的な結果を予測しなければならないモデルは、行動を選ぶためのより良い表現を学習する、という逆もまた成り立つ関係である。SLAMにとって、これはSpatial AIスタックの実現可能な将来像を描き出す。学習されたダイナミクスと行動生成が単一モデルに融合され、明示的なSLAM幾何が、モデルの想像するロールアウトを制約し検証する計量的グラウンディングの補完的な源として残る、という将来像である。

関連ノート

• World model
• RT-2
• OpenVLA
• GAIA-1
• NVIDIA Cosmos