휴머노이드 로봇의 학습 구조, VLA와 Sim-to-Real로 이해하기

'휴머노이드 로봇'이라는 단어는 더 이상 공상과학의 영역에 머물지 않습니다. 테슬라 옵티머스, 보스턴다이내믹스 아틀라스, 피규어 Helix 같은 이름이 뉴스를 뒤덮고 있죠. 궁금한 건 그 다음입니다. 이 휴머노이드 로봇은 도대체 무엇을 보고, 어떻게 판단하고, 어떤 방식으로 움직임을 익히는 걸까요?

답을 찾으려면 두 가지 개념을 알아야 합니다. 하나는 휴머노이드 로봇의 두뇌 역할을 하는 VLA(Vision-Language-Action) 모델이고, 다른 하나는 로봇의 몸이 실제 세상에 적응하는 방식인 Sim-to-Real 학습 기법입니다.

VLA와 Sim-to-Real은 역할이 다르지만 짝을 이뤄야 비로소 휴머노이드 로봇이 공장과 가정에서 작동할 수 있죠. 이 글에서는 두 축이 어떻게 맞물려 돌아가는지, 최신 모델과 한국 현장 사례를 통해 정리해 봅니다.

1. 휴머노이드 로봇이 작동하는 두 개의 축, VLA와 Sim-to-Real

과거의 로봇 제어는 조각조각 설계된 시스템이었습니다. 인지(카메라로 보기), 계획(어떻게 움직일지 결정), 제어(모터 명령 생성)를 각각 다른 모듈이 담당했죠. 엔지니어가 상황별로 규칙을 짜 넣어야 했고, 환경이 조금만 바뀌어도 로봇은 멈춰 섰습니다.

통합 신경망으로의 전환

최근 휴머노이드 로봇의 가장 큰 변화는 이 분리된 구조를 하나의 신경망으로 통합한다는 점입니다. 카메라 영상과 사람의 언어 명령을 입력받으면, 신경망이 바로 저수준 제어 신호(모터의 각도, 토크 같은 가장 낮은 단계의 명령)를 출력합니다. 중간 단계가 사라지는 거예요. 이 접근을 가능하게 한 핵심 모델이 바로 VLA입니다.

학습 데이터는 어디서 오는가

문제는 데이터입니다. 사람과 비슷한 체형의 휴머노이드 로봇이 다양한 환경에서 수백 가지 동작을 하려면 어마어마한 학습 데이터가 필요합니다. 실제 로봇으로 데이터를 수집하려면 비용이 수십억 원 들고, 로봇이 고장 날 위험도 큽니다. 그래서 등장한 해법이 Sim-to-Real입니다. 가상 시뮬레이터에서 수천 개 환경을 병렬로 돌려 학습한 뒤, 그 결과를 실제 로봇에 옮기는 방식이죠.

두 축은 서로 다른 문제를 풉니다. VLA는 '무엇을 할지'를 판단하는 지능의 문제고, Sim-to-Real은 '어떻게 안전하고 안정적으로 움직일지'를 익히는 데이터와 학습의 문제입니다. VLA부터 하나씩 뜯어 보겠습니다.

2. VLA, 휴머노이드 로봇의 두뇌가 되는 통합 AI 모델

VLA는 Vision-Language-Action의 약자입니다. 영상(Vision)을 보고 언어(Language)로 된 명령을 이해해 행동(Action)을 출력하는 모델이에요. 기존 LLM이 텍스트를 받아 텍스트를 뱉는 것과 달리, VLA는 이미지와 명령을 받아 휴머노이드 로봇의 관절 명령을 뱉습니다.

“AI의 다음 개척 분야는 피지컬 AI, 즉 인지하고 추론하며 계획하고 행동할 수 있는 AI입니다.”
- 젠슨 황(NVIDIA 창업자 겸 CEO), CES 2025 기조연설

젠슨 황이 같은 자리에서 "범용 로봇 분야의 '챗GPT 모멘트'가 바로 코앞으로 다가왔습니다."라고 덧붙인 데에는 VLA가 범용 로봇의 임계점을 열고 있다는 판단이 깔려 있어요. VLA가 어떤 흐름으로 발전해 왔는지 세 모델을 통해 살펴봅니다.

Google RT-2가 연 가능성

VLA의 출발점으로 자주 언급되는 모델은 Google DeepMind의 RT-2(2023)입니다. 로봇의 제어 명령을 언어 토큰처럼 이산화해, 사전학습된 비전과 언어 모델이 그대로 다룰 수 있게 만들었습니다. 덕분에 웹에서 학습한 상식과 추론 능력이 로봇 동작에 자연스럽게 흘러 들어왔죠. '빨간 캔을 집어 쓰레기통에 버려줘' 같은 복합 명령을 로봇이 따를 수 있게 된 전환점이었습니다.

Figure Helix의 이중 시스템 구조

2025년 2월 피규어 AI가 공개한 Helix는 또 한 단계를 올렸습니다. 피규어 AI는 공식 블로그에서 Helix가 상체 전체(손목, 몸통, 머리, 손가락)를 동시에 연속 제어하는 최초의 VLA라고 발표했어요. 핵심은 이중 시스템 구조입니다.

피규어 AI 공식 블로그에 따르면 Helix는 두 개의 네트워크로 나뉩니다. System 2는 비전과 언어 모델이 담당해 7~9Hz로 '무엇을 할 것인가'를 추론하고, System 1은 비주모터 정책(visuomotor policy, 영상 입력을 받아 모터 명령을 바로 출력하는 신경망)이 담당해 200Hz로 '어떻게 움직일 것인가'를 즉시 실행합니다. System 2가 1초에 7~9번 생각할 때, System 1은 같은 시간에 200번 몸을 움직인다는 의미죠. 사람이 생각(느린 계획)과 반사(빠른 반응)를 분리해 쓰는 방식과 비슷합니다.

NVIDIA Isaac GR00T, 오픈 파운데이션 모델의 등장

NVIDIA는 2025년부터 Isaac GR00T 시리즈를 공개하고 있습니다. GR00T N1은 휴머노이드를 위한 오픈 파운데이션 모델이에요. NVIDIA가 공개한 arXiv 논문 기준으로 22억 파라미터 규모이며, L40 GPU에서 16개 액션 샘플링에 63.9ms가 걸립니다. 액션 모듈로는 Diffusion Transformer를 썼는데, 로봇 움직임처럼 연속적인 출력을 다루기에 적합한 구조입니다.

오픈 모델의 등장은 중요한 의미가 있어요. 지금까지 VLA는 소수의 빅테크가 폐쇄적으로 개발해 왔지만, GR00T 같은 공개 모델이 나오면서 각국 연구팀과 스타트업이 같은 출발선에 설 수 있게 되었습니다.

세 모델의 공통점

세 모델은 하나의 신경망에 인지와 제어를 통합했고, 사람이 쓰는 자연어로 지시를 받으며, 사전학습된 지식을 로봇 동작에 그대로 이식했다는 공통점을 갖습니다. 이것이 VLA가 휴머노이드 로봇의 두뇌로 자리 잡은 이유예요.

3. Sim-to-Real, 가상에서 현실로 옮기는 핵심 기술

아무리 똑똑한 VLA 모델도 학습 데이터가 없으면 작동하지 못합니다. 그런데 실제 휴머노이드 로봇으로 데이터를 모으는 건 비현실적입니다. 하루 종일 돌려도 몇 시간치 데이터를 얻기 어렵고, 로봇이 실수로 넘어지거나 부딪히면 수리비도 큽니다. 그래서 등장한 접근이 Sim-to-Real입니다. 시뮬레이터에서 학습한 정책을 실제 로봇으로 옮기는 거예요.

Reality Gap, Sim-to-Real의 가장 큰 장벽

문제는 시뮬레이터가 완벽하지 않다는 점입니다. 물리 엔진은 마찰, 질량, 공기 저항을 근사치로만 계산합니다. 카메라 센서가 실제 세계에서 포착하는 노이즈나 조명 변화도 가상에서는 미묘하게 다르죠. 이 차이를 'Reality Gap'이라고 부릅니다. 시뮬레이터에서 완벽했던 정책이 실제 로봇에서는 비틀거리는 이유입니다.

Domain Randomization, 변동에 강건해지기

Reality Gap을 좁히는 대표 기법이 Domain Randomization입니다. OpenAI 연구팀이 2017년 발표한 arXiv 논문에서 제안한 방식이에요. 시뮬레이터에서 학습할 때 텍스처, 조명, 카메라 위치, 물리 파라미터(마찰, 질량, 지연 시간)를 매번 무작위로 바꿉니다. 그러면 정책이 특정 환경에 과적합되지 않고, 변동 자체에 익숙해져요. 실제 로봇의 조건이 어느 범위 안에 들어오면 정책이 자연스럽게 적응합니다.

예를 들어 로봇 팔로 물체를 집는 과제를 학습할 때, 어떤 에피소드에서는 바닥 색을 빨강으로, 다음에는 체크무늬로 바꿉니다. 마찰 계수도 0.3일 때와 0.9일 때를 섞고, 카메라도 조금씩 위치를 흔듭니다. 수백만 번 반복하면 정책은 '구체적 조건'이 아니라 '물체를 집는다는 과제 자체'를 배우게 되죠. 실제 로봇의 조명과 바닥 재질이 학습 데이터와 완전히 같지 않아도 작동하는 이유입니다.

OpenAI Dactyl의 상징적 사례

Sim-to-Real의 가능성을 크게 알린 사례는 OpenAI Dactyl입니다. 2019년 arXiv 논문에서 공개된 이 프로젝트는 로봇 손으로 루빅스 큐브를 푸는 데 성공했어요. 핵심은 시뮬레이션에서 수천 개 환경을 병렬로 돌려 학습했다는 점입니다. 각 환경마다 큐브 크기, 손가락 마찰, 중력 벡터, 센서 노이즈가 모두 달랐습니다. 실제 로봇 손에 정책을 올리자, 한 번도 겪어보지 않은 조건에서도 큐브를 풀어냈죠. Sim-to-Real이 추상적인 연구 주제가 아니라 실용적 해법이 될 수 있다는 증명이었어요.

NVIDIA Isaac Sim과 Isaac Lab

요즘 Sim-to-Real의 사실상 표준 플랫폼은 NVIDIA Isaac Sim과 Isaac Lab입니다. GPU 가속으로 수천 개 환경을 동시에 시뮬레이션할 수 있고, 강화학습 알고리즘과 긴밀히 통합되어 있어요. 이 플랫폼이 보급되면서, 소수 연구실만 다루던 Sim-to-Real이 휴머노이드 로봇 엔지니어의 일상 도구로 바뀌고 있습니다.

학술 커뮤니티에서는 Humanoid-Gym 같은 오픈소스 프레임워크도 활발해요. Isaac Gym 위에서 휴머노이드의 걸음걸이를 Zero-shot으로 Sim-to-Real 전이하는 코드가 공개되어, 전 세계 연구자가 같은 벤치마크로 실험할 수 있게 되었습니다. ROS2 공식 튜토리얼이나 NVIDIA Isaac Lab 문서처럼 공개된 입문 자료가 많아, 관심 있는 사람이라면 자기 노트북에서도 첫 걸음을 떼 볼 수 있습니다.

4. VLA와 Sim-to-Real이 만나는 지점

두 축을 따로 설명했지만, 실제 휴머노이드 로봇의 학습은 이 둘이 맞물려 돌아갑니다. 어떤 조합이 어디서 쓰이는지 정리해 보죠.

역할 분담 구조

• VLA는 두뇌입니다. 영상과 명령을 받아 '무엇을 할지'를 결정하고 저수준 제어 신호(모터 각도, 토크 같은 가장 낮은 단계의 명령)를 생성해요.

• Sim-to-Real은 몸의 운동 능력을 길러주는 훈련장입니다. 걷기, 균형잡기, 넘어지지 않기 같은 저수준 운동 제어 정책을 가상에서 수백만 번 반복 학습한 뒤 실제 로봇에 이식합니다.

하나의 휴머노이드 로봇이 '컵을 집어 테이블에 놓아줘'라는 명령을 수행한다면, VLA가 '컵을 어떻게 잡고 어디로 옮길지' 계획을 세우고, Sim-to-Real로 학습된 저수준 정책이 '팔과 손가락을 비틀거리지 않게 움직이는 운동 제어'를 담당하는 식이에요.

Figure Helix가 보여준 분업

피규어 Helix의 System 2(7~9Hz)와 System 1(200Hz) 구조가 바로 이 분업의 사례입니다. System 2는 느리지만 똑똑하게 상황을 해석하고, System 1은 빠르게 몸을 제어합니다. System 1의 저수준 운동 정책은 결국 수많은 시뮬레이션 데이터로 다져진 결과물이고요.

데이터 플라이휠, 돌수록 커지는 선순환

한 가지 더 주목할 흐름은 '데이터 플라이휠'입니다. 플라이휠은 한 번 돌기 시작하면 관성으로 더 쉽게 돌아가는 바퀴를 뜻해요. 데이터 영역에서는 '데이터가 쌓일수록 모델이 좋아지고, 좋아진 모델이 더 좋은 데이터를 모은다'는 선순환을 가리킵니다.

휴머노이드 로봇에서는 VLA가 실제 로봇에서 수집하는 데이터와, 시뮬레이터에서 생성되는 합성 데이터가 서로 보완합니다. 실제 데이터는 양이 적지만 품질이 높고, 합성 데이터는 양이 압도적이지만 Reality Gap이 있습니다. 두 종류를 혼합해 학습하면 서로의 약점을 메울 수 있어요. NVIDIA가 GR00T에 도입한 접근도 이 방향입니다.

5. 한국 산업 현장과 휴머노이드 로봇 기술을 다루기 위한 역량

이 흐름은 한국에서도 빠르게 전개되고 있습니다. 투자 리포트에만 등장하는 미래가 아니에요.

K-휴머노이드 연합의 출범

2025년 4월 산업통상자원부가 주도해 K-휴머노이드 연합이 출범했습니다. 2028년까지 로봇 AI 파운데이션 모델(RFM)을 개발하는 것이 목표고, VLA 기반 통합 모델을 지향한다고 밝혔어요. 산업통상자원부 보도자료에 따르면 2030년까지 R&D, 펀드, M&A 등으로 1조 원 이상의 민관 투자가 이어질 것으로 기대됩니다. 2028년까지 하드웨어 목표는 60kg 이하, 관절 수 50개 이상, 20kg 이상 적재, 초속 2.5m 이상 이동으로 명시되었습니다.

현대차와 삼성의 움직임

현대차그룹은 보스턴다이내믹스와 함께 전동식 아틀라스를 공개하고 2028년 공장 투입을 준비하고 있습니다. 포브스 보도에 따르면 전동식 아틀라스는 56 자유도를 갖추고 있으며, 보스턴다이내믹스는 2026년 생산 물량이 사실상 완판되었다고 밝혔습니다. 삼성전자는 2024년 말 콜옵션을 행사하며 레인보우로보틱스 지분을 추가 확보해 최대주주로 올라섰고, 이후 지분을 늘려 자회사로 편입했습니다. 레인보우로보틱스 창업자인 오준호 교수는 삼성 미래로봇추진단장을 맡고 있어요.

중국과의 경쟁

중국은 더 공격적입니다. 글로벌타임스가 보도한 자료를 헤럴드경제가 인용한 바에 따르면, 중국의 휴머노이드 분야 신규 채용 수요는 1년 사이 215.8% 급증했고 평균 연봉은 약 8,800만 원 수준입니다. 인재 확보 경쟁이 이미 시작된 거예요. 국내는 아직 '휴머노이드 로봇 AI 엔지니어'만을 분류한 정식 통계가 없어 수요와 연봉을 단정하기 어렵지만, 인접 직무인 로봇 SW 엔지니어 채용 공고가 꾸준히 늘고 있다는 점을 참고 지표로 삼을 수 있습니다.

이 기술을 다루기 위해 필요한 역량

휴머노이드 로봇의 학습 구조를 실제로 다루려면 다층의 역량이 요구됩니다. 하나씩 짚어 보죠.

• ROS2와 로봇 미들웨어: 센서, 액추에이터, 알고리즘을 연결하는 통신 표준. 모든 로봇 프로젝트의 기본기입니다.

• PyTorch와 강화학습 기초: VLA 모델의 파인튜닝과 Sim-to-Real 정책 학습 모두 딥러닝 프레임워크 위에서 돌아갑니다. PPO, SAC 같은 강화학습 알고리즘 이해도 필수고요.

• Isaac Sim과 Isaac Lab 운영: 가상 환경에서 수천 개 병렬 학습을 돌리고, Domain Randomization 설정을 조정할 수 있어야 합니다.

• Computer Vision과 SLAM: 카메라 영상에서 객체를 인식하고, 휴머노이드 로봇이 자기 위치를 파악하도록 하는 기술. VLA의 Vision 입력을 처리하는 토대입니다.

• 운동학과 동역학 기초: 로봇 팔의 자세를 계산하거나 넘어지지 않는 보행을 설계하려면 역운동학(Inverse Kinematics)과 동역학에 대한 이해가 필요합니다.

• Sim-to-Real 전이 경험: 시뮬레이션에서 학습한 저수준 운동 정책이 실제 로봇으로 넘어갈 때 발생하는 문제를 디버깅할 수 있는 감각. 이것은 결국 많은 시행착오로만 쌓입니다.

일반 소프트웨어 엔지니어와 가장 다른 지점은 '물리 세계와 이어진다'는 사실입니다. 서버 코드는 버그가 나도 재시작하면 되지만, 로봇 제어 코드는 버그가 로봇 팔의 충돌이나 추락으로 이어질 수 있습니다. 그래서 안전과 디버깅 감각이 커리어의 중요한 자산이 됩니다.

휴머노이드 로봇의 학습 구조를 이해했다면, 다음 질문은 '이 역량을 어떻게 쌓느냐'로 넘어갑니다. 로봇 분야는 소프트웨어만으로 끝나지 않아요. ROS2 코드가 돌아갈 실제 로봇, Isaac Sim 시뮬레이션을 돌릴 GPU, 그리고 함께 디버깅할 환경이 필요합니다. 독학으로는 벽에 부딪히는 지점이 분명히 있죠.

KANT의 Physical AI 로봇 엔지니어 과정은 이 벽을 넘기 위해 설계되었습니다. 9개월 과정에서 6개월간 ROS2, Isaac Sim, VLA, Sim-to-Real을 체계적으로 다루고, 이어지는 3개월은 기업 연계 프로젝트로 실제 산업 문제를 해결합니다.

로봇팔(FR3), 3D LiDAR, RGB-D 카메라 같은 실습 장비가 전용 캠퍼스에 갖춰져 있어 가상 학습과 실제 로봇 사이의 간격을 좁힐 수 있고, 수강생 전원이 Kaggle형 기업 연계 미니 인턴십을 경험하도록 설계되어 있습니다.

이 모든 과정을 국비 지원으로 0원에 수강할 수 있으며, 우수 수료생에게는 팀스파르타 협력사 1,000곳을 통한 인턴십 연계 기회가 열립니다.

지금 바로 KANT의 ‘피지컬 AI 로봇 엔지니어’ 부트캠프 커리큘럼과 모집 일정을 살펴 보세요.

출처

• NVIDIA Blog, CES 2025 Jensen Huang Keynote (2025)

• Figure AI, Introducing Helix (2025)

• NVIDIA, GR00T N1 arXiv 논문 (2025)

• Google DeepMind, RT-2 Vision-Language-Action Models (2023)

• OpenAI, Domain Randomization for Transferring Deep Neural Networks arXiv 논문 (2017)

• OpenAI, Solving Rubik's Cube with a Robot Hand arXiv 논문 (2019)

• 산업통상자원부 보도자료, K-휴머노이드 연합 출범 (2025)

• 헤럴드경제, K-휴머노이드 하드웨어 목표 보도 (2025)

• Forbes, Atlas Humanoid Robots Production (2026)

• 삼성전자 뉴스룸, 레인보우로보틱스 자회사 편입 (2024)

• 헤럴드경제, 중국 휴머노이드 인재 수요 보도 (2025)