정의

LLM에 vision encoder(눈)와 action 출력(행동)을 붙여 만든 범용 로봇 제어 모델. VLM(Vision-Language Model)에 action을 추가한 구조이며, 하나의 모델이 어떤 몸체(embodiment)와 어떤 task든 수행하는 Robot Foundation Model을 구현하는 주된 수단이다.

핵심 속성

  • 구조: LLM → (vision 추가) VLM → (action 추가) VLA. 예: SmolLM → SmolVLM → SmolVLA
  • action 정의: 로봇 각 관절의 각도/좌표 값. 게임의 방향키 입력에 해당
  • World Knowledge 활용: LLM이 가진 상식 덕에 처음 보는 모양의 컵도 “컵”으로 인식해 집을 수 있음 — 기존 rule-based 로봇은 불가능했던 일반화
  • generalist 전환: specialist 모델(걷기 전용, 잡기 전용)에서 모든 task를 하는 범용 모델로 이동
  • 유사 용어: RFM(Robot Foundation Model), LBM(Large Behavior Model) — VLA로 수렴 중

관계

인용

LLM에다가 양쪽에다가 눈 붙이고 행동 붙여서 만든 모델이 VLA이고 대부분의 VLA는 거의 다 이렇게 만들어지고 있어요.

출처

클리핑 · youtu.be