VLA(視覚-言語-行動)モデルとは?
VLAモデルは、カメラ画像と言語の指示を入力として受け取り、ロボットの行動を直接出力するロボット基盤モデルです。
更新:
定義
視覚-言語-行動(VLA)モデルは、「ロボットが何を見ているか」と「何を指示されたか」を「何をすべきか」に変換します。多くは事前学習済みの視覚言語モデルを出発点に、ロボットデータで学習した行動ヘッドを加えます。
仕組み
- 画像(多くはロボット状態も)とテキスト指示を符号化。
- エンドエフェクタの姿勢やグリッパー指令など将来の行動を予測。
- 一部を実行し、再び観測して計画し直す。
なぜ重要か
VLAは、タスクやロボットの種類をまたいで働く「汎用」ロボット方策の主流アプローチです。身体性AIも参照。
よくある質問
視覚言語モデル(VLM)との違いは?
VLMは文章で答えます。VLAは行動の出力(通常は短い将来のモーター指令列)を加え、ロボットを制御できます。
アクションチャンクとは?
一度に予測される固定長の将来の行動列です。Velaなどの研究は、代わりに連続した軌道を使う方法を探っています。
VLAの限界は?
多くは現在のカメラ画像に頼り、触覚や記憶がなく、長く接触の多い作業が苦手です。NEURAのNeuron AIなどは感覚と記憶を追加しています。
関連記事
NEURAのNeuron AI:ロボット基盤モデルに触覚・聴覚・記憶を追加
NEURA Roboticsは、3D視覚、触覚、力覚、音声、ロボット状態、言語を記憶とともに統合する「知覚-言語-行動」モデルNeuron AIを発表。ヒューマノイド4NE1で11分間の洗濯作業を披露する。
Physical Intelligence、π0ロボットモデルをAPIで公開
Pi APIベータでは、データをアップロードしてPiの基盤上でπ0/π0.5をファインチューニングし、ホスト型推論で実行できる。
Unitreeの上位モデル「G1+」、日本で予約開始
GMO AIRが10月13日にG1+の国内予約を開始。首の自由度、強化モーター、3D LiDAR、音声対話を搭載。創業者の王興興氏はエンボディドAIの転換点を1〜2年と予測。
1X、家庭用ヒューマノイドNEOを実際の家庭でベータ試験
約3か月の試験で、2万ドルのNEOが安全かつ確実に家事をこなせるかを顧客出荷前に検証する。
Ultraが倉庫向けRaaSで6200万ドル調達、頭脳はPhysical Intelligence
ブルックリンのUltraがFramework主導の5000万ドルのシリーズAなど計6200万ドル。OP1をリースし、AIはPhysical Intelligenceが供給。
Vela:アクションチャンクではなく滑らかな軌道を予測するVLA
復旦大学・香港中文大学チームのVelaは、適応的な時間幅を持つスプライン曲線を出力し、LIBERO-X、EBench、実機の卵焼きケーキ調理とジャガイモのすりおろしでπ0.5を上回った。
SkildのS1、シミュレーションで自ら140年相当のサッカーを学習
単一動画デモで微調整なしに動く基盤モデルS1の後、Physical Self-Playを公開。Isaac Simで自己対戦し、ヒューマノイドへ転送。
Figure「Helix 2.5」、初めて入る30軒の家で家事
Figureのヒューマノイドが、現地データなしでベイエリアの30軒の家で片付け・タオル畳み・ベッドメイクを実施。背景にはNscaleとの35億ドルの計算資源契約。
Newsletter
Robrief Weekly
重要なロボットニュースを週1回お届け。無料・いつでも解除できます。