정의

Physical AI는 기존의 규칙 기반(rule-based) 제어를 대체하는 end-to-end 학습을 통해 비정형적이고 동적인 물리적 상황을 처리하는 지능을 말한다. 이 지능의 핵심 구현체가 VLA(Vision-Language-Action) 모델로, LLM에 시각 인코더(Vision Encoder)와 행동 출력 헤드(Action Head)를 결합하여 시각·언어 입력으로부터 연속적인 로봇 동작(action value)을 생성한다.

핵심 속성

  • 기반 모델: VLA는 대부분 사전 학습된 VLM(Vision-Language Model, 예: PaliGemma, SmolVLM)을 backbone으로 사용하며, 여기에 action expert(Flow Matching 또는 Diffusion Transformer)를 추가한다.
  • 아키텍처 수렴: 2025년 이후 주요 VLA 모델(GR00T N1.6, Helix, Gemini Robotics, π0.5)은 모두 System 1/2 구조로 수렴했다. System 2(느린 인지, 10Hz 이하)가 상황 이해와 명령 해석을 담당하고, System 1(빠른 행동, 200Hz)이 연속적인 action token을 생성한다. 일부 모델은 추가로 System 0(reflex 수준의 초고속 루프) 을 두어 촉각이나 안정화를 처리한다.
  • 행동의 연속성: 기존의 이산 토큰 기반(discrete action, 예: RT-1)과 달리 현재 VLA는 Diffusion/Flow Matching을 사용하여 연속적인 action value를 출력하므로 부드럽고 정밀한 동작이 가능하다.
  • 데이터 병목: action 데이터는 인터넷에 존재하지 않아 teleoperation, 시뮬레이션, 커뮤니티 수집 등으로 확보해야 한다. 이는 LLM의 텍스트 스케일링과 근본적으로 다른 도전 과제이다.
  • 일반화 수준: in-distribution task는 거의 완벽, out-of-distribution(새 환경, 새 물체)에 대한 일반화는 아직 제한적이나 π0.5 등에서 진전이 관찰됨.

관계

인용

“Physical AI라는 건… end-to-end 학습을 통해서 어떤 비정형적인 상황들을 다 커버하는 그런 진짜 물리적인 지능들이 들어오는 것…” “VLA는 LLM에 vision encoder 붙이고 action을 추가해서 만든 모델… 대부분의 VLA는 거의 다 이렇게 만들어지고 있다.” “모델들은 다 System 1, 2 구조를 가지고 있다… intelligence라는 게 사실은 두 개가 어느 정도 분리가 되어 있다는 것을 나타내기도 한다.”

출처

클리핑 · youtube.com