Chapter 2: 무엇으로 사전학습하는가 — 로봇 데이터, 서로 다른 로봇 형태와 행동 표현

2.1 학습 목표와 실험 질문

로봇 파운데이션 모델(robot foundation model)의 재료는 영상이나 궤적의 개수가 아니라 의미가 보존된 경험입니다. 이 장을 마치면 독자는 로봇 에피소드, 사람 영상, 언어 주석, 시뮬레이션과 합성 자료가 각각 무엇을 가르치고 무엇을 가르치지 못하는지 구분하고, 행동 표현(action representation)을 과제와 제어기에 맞춰 선택하며, 서로 다른 로봇 형태 간 학습(cross-embodiment learning)의 손실 구간을 감사할 수 있어야 합니다.

이 장을 읽고 나면... 자료 원천의 결손을 같은 축에서 비교하고, 시간·좌표·제어 의미가 다른 에피소드를 격리하며, 조립 단계에 맞는 행동 표현을 선택하고, 혼합 영수증과 형태 변환 감사표로 실제 로봇 승격 여부를 판정할 수 있습니다.

관통 실험은 단일 팔·평행 그리퍼가 부품을 집어 운반하고, 접촉 전 자세에서 멈춘 뒤, 제한된 힘으로 치구에 삽입하는 탁상형 조립입니다. 질문은 “가장 큰 데이터셋은 무엇인가?”가 아닙니다. 이 자료를 섞었을 때 삽입에 필요한 좌표·시간·접촉·실패 의미가 남는가, 그리고 정책 출력이 기존 실행·안전 계약으로 되돌아올 수 있는가?가 질문입니다.

앞 권에서 물려받는 것과 이 장이 만드는 것

• S11 연결: 실제 로봇·그리퍼·카메라 식별자, 보정 버전, 좌표계, 시계, 제어 주기, 충돌·힘 한계, 감시 장치, 보호 정지, 비상 정지와 사람 책임자를 확인합니다.
• S12 연결: 버전이 지정된 과제·기술 API, 관측과 행동 스키마, proposal → projected → sent → accepted/executed 로그, 실행 가능성 투영, 접촉 제어, 독립 평가기와 되돌리기 튜플을 고정합니다.
• S13의 새 산출물: 자료·행동 표현 선택표, 혼합 영수증, 그리고 각 원천 형태에서 기본 셀로 내려오는 형태 변환 감사표를 만듭니다.

상속 항목이 실제로 없으면 모델이 채우게 하지 않습니다. missing, not measured, not exercised, incompatible 중 하나로 기록하고 해당 자료의 승격 관문을 닫습니다.

2.2 책임 모형: 공통 표현은 공통 제어기가 아니다

데이터 파이프라인의 책임은 다섯 층으로 나눕니다.

이 분리는 단순한 문서화가 아닙니다. 정규화 층에서 6자유도 말단 증분을 “공통 행동”으로 만들 수 있어도, 그 증분을 만드는 관절 속도·특이점 여유·그리퍼 지연·접촉 제어 모드는 로봇마다 다릅니다. 공유 표현은 학습을 돕는 인터페이스일 뿐, 공유된 물리나 공유된 안전 증명이 아닙니다.

2.3 무엇을 섞는가: 자료 원천의 같은 축 비교

로봇 학습 자료는 서로 대체재가 아니라 서로 다른 결손을 가진 측정입니다. 초기 대규모 자기지도 파지는 실제 영상과 행동 결과를 제공했지만 좁은 그리퍼·과제 분포에 머물렀고 Pinto & Gupta, 2016, 다중 로봇 영상 자료는 형태 다양성을 늘리는 대신 카메라와 행동 공간의 플랫폼별 처리를 요구했습니다 Dasari et al., 2020. 사람 영상으로 학습한 시각 표현은 적은 로봇 시범의 인식 표본 효율을 높일 수 있지만 로봇 행동, 힘, 접촉 결과를 직접 제공하지 않습니다 Nair et al., 2022.

도메인 무작위화는 실제 장면을 훈련 변형 중 하나로 보이게 할 수 있지만 시각적 무작위화만으로 동역학과 접촉이 전이되지는 않습니다 Tobin et al., 2017. UMI는 휴대형 그리퍼로 야외 사람 시범을 로봇 정책에 연결하는 실용적 경로를 보여주지만, 저자들이 지적하듯 사람이 만든 유효한 동작도 대상 하드웨어에서는 실행 불가능할 수 있습니다 Chi et al., 2024. 그러므로 “사람 자료 포함”은 행동 공간이 채워졌다는 뜻이 아니라 변환해야 할 관측·의도 신호가 추가됐다는 뜻입니다.

규모 수치를 읽는 규칙

Open X-Embodiment가 보고한 22개 로봇, 21개 기관, 527개 기술, 160,266개 과제는 여러 실제 하드웨어 원천을 모은 범위를 보여주지만, 원천별 제어기·접촉·실패·평가 규약이 하나의 공통 분모라는 뜻은 아닙니다 Open X-Embodiment Collaboration, 2024, §S3–S6와 표 S4.T1·S5.T2. 이 수치는 해당 논문의 분류와 버전에 묶어 보존하며, S13 탁상형 조립 성공률의 분모로 합치지 않습니다.

DROID가 보고한 76,000개 궤적, 350시간, 564개 장면, 86개 과제도 그 자료원의 현장 규모를 나타내는 수치일 뿐, 실패·개입·접촉 사건과 훈련–평가 겹침이 같은 비율로 포괄됐다는 증거는 아닙니다 Khazatsky et al., 2024, arXiv:2403.12945v2. 따라서 “시간당 성공 에피소드”와 “실패가 포함된 방문 상태”를 별도 열로 집계해야 합니다.

규모의 반례는 간단합니다. 최적 시범만 계속 추가하면 정상 경로의 모양은 잘 배우지만, 오정렬 뒤 힘이 증가하는 상태나 사람이 중단한 상태는 거의 보지 못합니다. DAgger는 학습자가 실제로 방문한 상태에 전문가 표식을 요청해 공변량 이동(covariate shift)을 줄이는 원리를 제시하지만, 위험 상태를 일부러 방문시키는 것은 허용되지 않습니다 Ross et al., 2011. 안전한 그림자 실행, 기존 실패 로그, 제한된 개입 수집과 시뮬레이션 반례를 조합해야 합니다.

2.4 먼저 맞출 것은 스키마와 시간이다

한 에피소드의 최소 키는 다음과 같습니다.

episode_id, source_id, task_version, embodiment_id, calibration_id
observation: value, unit, frame_id, capture_time, arrival_time, validity
action: proposal, projected, sent, accepted, executed, control_mode
event: contact, intervention, protective_stop, e_stop, timeout, reset
outcome: goal_state, failure_class, evaluator_version, human_override
lineage: raw_hash, transform_version, split_id, license_snapshot

사건 시간, 도착 시간, 실행 시간을 하나의 timestamp로 합치면 오래된 영상에 최신 행동을 붙이는 오류를 찾을 수 없습니다. 관측 나이 a_t = t_execute - t_capture, 제안 지연, 대기열 지연, 제어기 수락 지연을 따로 기록합니다. 자료 원천의 명목 주파수가 같아도 지터와 누락, 명령 유지 방식이 다르면 동일한 10 Hz가 아닙니다.

서로 다른 로봇 자료를 함께 학습하려면 행동 좌표, 단위, 주파수, 제어 모드와 그리퍼 의미를 명시적으로 매핑해야 하며, Open X-Embodiment의 원천별 정규화, Octo의 새 관측·행동 공간 적응, UMI의 사람–로봇 인터페이스는 모두 무손실 보편 변환이 이미 존재한다는 증거가 아닙니다 Open X-Embodiment Collaboration, 2024; Octo Model Team et al., 2024; Chi et al., 2024.

예를 들어 gripper=1이 어떤 원천에서는 닫기, 다른 원천에서는 열기, 또 다른 원천에서는 목표 폭 1 m를 뜻할 수 있습니다. 말단 자세도 절대 자세인지 증분인지, 기준이 세계·베이스·카메라·도구 좌표계인지에 따라 물리 의미가 달라집니다. 누락된 의미를 데이터 통계로 추정해 채우지 말고 incompatible로 격리합니다.

시간·스키마 정렬 관문

2.5 행동 표현을 같은 축에서 고른다

행동을 더 압축하면 학습과 장기 문맥에는 유리할 수 있지만, 압축 과정에서 삽입 접촉의 미세 수정과 마감 시간 정보가 사라질 수 있습니다. 반대로 매 주기 연속 행동을 내면 세밀하지만 추론 지연과 다중 모드 평균화에 취약합니다. 암시적 행동 복제는 행동 분포를 에너지로 표현해 다중 모드를 다루지만 샘플링 비용과 분포 밖 보정 문제가 남습니다 Florence et al., 2021. 흐름 기반 \pi_0는 고주파 연속 행동 분포를 모델링하는 경로를 제시하지만, 다양한 사전학습만으로 실수 뒤 회복이 자동 확보되는 것은 아니라고 보고합니다 Black et al., 2024.

S13의 설계 감사에서는 연속 행동, 행동 묶음(action chunk), 행동 토큰(action token), 잠재 행동(latent action), 기술 호출(skill call)을 세부 보존, 압축률, 다중 양식성, 추론·실행 지연의 공통 축에 놓습니다. Diffusion Policy는 다중 양식 연속 행동열, π0는 흐름 정합 기반 연속 행동 묶음, FAST는 압축 기반 행동 토큰화를 각각 다루지만, 이 근거들은 다섯 표현을 기본 셀에서 동일 조건으로 비교하지 않습니다 Chi et al., 2023; Black et al., 2024; Pertsch et al., 2025. 따라서 논문 간 성공률이 아니라 아래의 시스템 축으로 선택합니다.

FAST는 여러 로봇의 1초 행동 구간으로 보편 토크나이저를 학습하는 방법을 제시하지만, “적용 가능”은 대상 셀의 접촉 정밀도와 마감 시간을 보존한다는 뜻이 아닙니다 Pertsch et al., 2025. 토큰 재구성 오차를 위치 평균 하나로만 재면 드문 그리퍼 전환과 삽입 직전 회전 오차가 가려집니다. 단계별 오차, 극값, 접촉 구간, 제어기 포화까지 측정합니다.

조립 과제용 선택

기본 선택은 계층형입니다. 언어 조건 모델은 버전 기술 호출 또는 짧은 말단 궤적을 제안합니다. 자유 공간 운반에는 행동 묶음을 허용하되 접촉 전 정지선에서 묶음을 폐기하고 최신 관측으로 다시 추론합니다. 삽입은 대상 셀에서 검증된 짧은 연속 참조와 S12의 임피던스·힘 제어기가 담당합니다. 토큰과 잠재 행동은 훈련 표현으로 쓸 수 있지만 역변환 뒤 실행 가능성 투영을 건너뛰지 않습니다.

2.6 자료 혼합과 표본 가중치

원천 d의 혼합 가중치(mixture weight)를 단순히 에피소드 수에 비례시키면 가장 오래 기록되거나 가장 높은 주파수로 저장된 로봇이 목적함수를 지배합니다. 실제 표집 확률은 최소한 다음처럼 기록합니다.

$$

p(d, k, y) \propto w_d\,w_k\,w_y\,q^{-1}_{dup}\,q_{valid},

$$

여기서 k는 조립 단계, y는 성공·실패·개입 범주, q_{dup}는 근접 중복 군집 크기, q_{valid}는 센서·시간·면허 유효성입니다. 이 식은 정답이 아니라 무엇을 얼마나 반복해서 보여줬는지 재현하는 영수증입니다.

혼합 설계는 다음 순서를 따릅니다.

1. 과제·형태·장면·지시·결과 축으로 원천별 히스토그램을 만듭니다.
2. 같은 원시 영상이나 연속 촬영 구간의 근접 중복을 군집화한 뒤 분할합니다.
3. 성공 시범과 실패·개입·회복을 별도 층으로 표집합니다.
4. 카메라 프레임 수가 아니라 에피소드·시간·접촉 사건 세 단위의 기여도를 함께 기록합니다.
5. 원천별 손실과 기울기 크기, 소수 원천 성능, 기본 셀 성능을 감시합니다.
6. 혼합 변경은 새 데이터셋 버전과 체크포인트로 만들고 이전 조합을 재현 가능하게 남깁니다.

Bridge Data는 넓은 환경·과제 자료가 후속 모방 학습을 도울 수 있음을 보였지만 공통 형태 중심이라 형태 전이를 입증하지 않으며, 다양성이 시각·과제 겹침의 부재를 보장하지 않습니다 Ebert et al., 2021. Octo도 대규모 최적 시범 중심 혼합의 한계로 손목 카메라 지원, 언어 조건화와 비최적 자료를 향후 과제로 남깁니다 Octo Model Team et al., 2024. 자료가 적은 실패 원천을 무조건 과표집하면 센서 오류나 잘못된 사람 개입까지 학습할 수 있으므로, 실패 분류와 품질 검토가 가중치보다 먼저입니다.

2.7 형태 변환 감사: 무엇이 공유되고 무엇이 남는가

형태 간에 비교적 잘 공유되는 것은 물체 외형, 언어의 목표 관계, 일부 시각 특징, 거친 과제 단계와 결과 상태입니다. 직접 공유하기 어려운 것은 관절 수와 한계, 도달 가능 집합, 말단 도구 중심점, 그리퍼 기구, 촉각·힘 관측, 제어 모드, 명령 주기와 접촉 안정성입니다.

서로 다른 로봇 형태 간 전이 증거는 기구학, 센싱, 말단 장치, 행동 스키마와 제어에서 무엇이 바뀌었는지 명시해야 하며, 휴머노이드·양손 결과는 단일 팔·평행 그리퍼 기본 셀의 직접 근거가 아니라 고급 분기입니다 Open X-Embodiment Collaboration, 2024; Octo Model Team et al., 2024; NVIDIA et al., 2025.

탁상형 조립 형태 변환 감사표

형태 변환(embodiment transform)은 하나의 행렬이 아니라 위 표의 버전 묶음입니다. 관측 인코더가 새 카메라를 받아들이거나 행동 머리를 미세조정했다고 해서 그리퍼 힘 의미와 보호 정지 책임까지 전이된 것은 아닙니다. Open X-Embodiment의 긍정적 전이와 Octo의 적응 가능성은 이 감사를 시도할 근거이지 생략할 근거가 아닙니다.

2.8 출처·권리·오염 원장

데이터 계보(data lineage)는 파일 경로가 아니라 원본 → 정제 → 동기화 → 변환 → 혼합 → 분할 → 체크포인트 → 평가의 방향 그래프입니다. 각 변에는 코드 버전, 인수, 입력·출력 해시와 손실 필드를 둡니다. 평가 장면의 다른 카메라 영상, 같은 연속 촬영의 인접 구간, 동일 언어 지시의 바꿔 말하기처럼 겉보기 파일이 달라도 사실상 중복인 사례를 군집 단위로 분할합니다.

따라서 S13은 코드, 데이터, 가중치, 영상·이미지와 주석을 서로 다른 자산 종류로 감사합니다. Open X-Embodiment 저장소는 소프트웨어를 Apache 2.0, 그 밖의 저장소 자료를 CC BY 4.0으로 두고, Octo와 DROID 정책 학습 저장소는 코드를 MIT로 표시하지만, 이런 저장소 수준의 허락이 모든 구성 데이터셋·가중치·미디어·주석까지 자동으로 허락하지는 않습니다. 완전한 훈련 명세가 없으면 겹침은 부재가 입증된 것이 아니라 여전히 가능성이 남은 상태입니다.

면허 스냅숏에는 확인 날짜, 원문 URL, 자산 종류, 상업·연구 사용, 수정·재배포, 표시 의무, 사람 동의와 개인정보 상태를 따로 기록합니다. 법률 판단이 필요한 항목은 review_required로 닫고 추론하지 않습니다. 오염 감사에는 정확 해시, 지각 해시, 시간 인접성, 장면·물체·지시 식별자, 인터넷 사전학습 포함 여부를 둡니다. 명세가 공개되지 않았다면 평가 카드에 possible overlap; manifest unavailable을 남깁니다.

2.9 최소 재현 작업 흐름과 승격 관문

다음 흐름은 새 모델을 훈련하기 전에 데이터 계약을 실패시킬 수 있도록 설계합니다.

1. 동결: 조립 과제 버전, 초기 상태 분포, 기술 API, 대상 셀과 평가기를 동결합니다.
2. 수집 목록화: 원천별 자산·면허·동의·원본 해시와 장치·보정 식별자를 기록합니다.
3. 스키마 검사: 단위·좌표·세 시간축·제어 모드·그리퍼 의미가 없는 에피소드를 격리합니다.
4. 정렬 재생: 원본에서 정규화 자료를 다시 만들고 영상–상태–행동 지연을 시각·수치로 확인합니다.
5. 중복·분할: 원천을 합치기 전에 근접 중복 군집을 만들고 군집 단위로 훈련·검증·평가를 분리합니다.
6. 혼합 영수증: 원천·단계·결과별 가중치와 유효 표본 수를 기록합니다.
7. 표현 왕복 시험: 행동을 부호화·복호화해 위치·회전·그리퍼·접촉 단계 오차와 마감 시간 위반을 측정합니다.
8. 형태 변환 시험: 대상 IK, 제약 투영, 제어기 수락까지 오프라인 재생하고 거부 이유를 보존합니다.
9. 증거 단계 승격: 오프라인→재생→시뮬레이션→그림자 실행→사람이 승인한 제한 시험 순서를 지킵니다.
10. 되돌리기: 데이터 버전, 변환 버전, 혼합 영수증, 모델·토크나이저, 제어기·평가기 버전의 전체 튜플로 복귀를 연습합니다.

제한 시험에서도 모델 출력은 제안입니다. 실행 가능성 투영, 충돌·힘 관문, 실시간 제어기, 독립 평가기, 감시 장치, 보호 정지, 비상 정지와 사람 권한은 자료나 모델에서 상속되지 않습니다.

2.10 실패 증상에서 원인으로 내려가기

원인 규칙은 “모델이 나쁘다”에서 끝나지 않습니다. 같은 체크포인트로 원본 좌표 재생, 정규화 재생, 대상 역변환, 실행 가능성 투영을 차례로 비교해 최초 불일치 경계를 찾습니다. 물리 시험은 그 뒤에만 진행합니다.

2.11 근거, 반례와 남는 한계

실제 로봇 대규모 수집은 표본 폭을 키웠고 Levine et al., 2016, 다중 과제·오프라인–온라인 혼합은 자료 재사용의 가치를 보여주었습니다 Yu et al., 2021; Lu et al., 2022. 그러나 좁은 파지 분포나 큰 재설정·사람 노출 비용은 규모 표에서 쉽게 사라집니다. robomimic의 통제 연구도 자료 품질, 관측 양식과 학습 선택이 결과에 크게 관여함을 보였으며, 오프라인 성공률만으로 재설정·개입 비용을 읽을 수 없음을 상기시킵니다 Mandlekar et al., 2021.

이 장의 근거는 다음을 보이지 않습니다.

• 어느 하나의 데이터셋이나 표현도 S13 탁상형 조립 전체를 검증하지 않았습니다.
• 서로 다른 논문의 성공률은 로봇·과제·자료량·적응·재설정·평가 규약이 달라 순위표로 합칠 수 없습니다.
• 행동 정규화가 힘·촉각·순응성·접촉·지연 의미를 무손실로 보존한다는 증거는 없습니다.
• 알려지지 않은 훈련 명세는 깨끗한 평가를 뜻하지 않습니다.
• 사람·영상·시뮬레이션 자료의 폭은 대상 하드웨어에서의 실행 가능성과 안전 권한을 주지 않습니다.
• 관측 나이 꼬리, 대기열·오래된 명령, 재연결, 원격 장애와 정확한 되돌리기 의미는 원 논문 다수에서 보고되지 않았습니다.

따라서 이 장의 결론은 “큰 혼합을 쓰지 말라”가 아닙니다. 공유 가능한 표현은 넓게 학습하되, 손실된 물리 의미는 형태별 어댑터·검증·실행 계약으로 다시 명시하라는 것입니다.

2.12 기록할 지표와 산출물

지표

• 원천·과제 단계·형태별 에피소드, 시간, 접촉 사건, 성공·실패·개입·회복 수
• 유효 관측 비율, 누락·지터, 관측 나이의 중앙값·95/99백분위, 오래된 명령 거부율
• 좌표·단위 변환 왕복 오차와 행동 부호화 재구성 오차의 평균·95백분위·최댓값
• 그리퍼 전환, 접촉 전 정지, 삽입 구간의 단계별 오차
• 중복 군집 수, 분할 간 정확·근접 겹침, 명세 미공개 비율
• 원천별 표집 확률, 유효 표본 수, 손실·기울기 기여와 소수 원천 성능
• 실행 가능성 거부, 제어기 포화·거부, 충돌·힘 사건, 보호 정지와 사람 개입
• 형태별 성공·실패 분모, 회복 성공, 추론·대기열·실행 지연과 비용

필수 산출물

• dataset_manifest: 원천·버전·해시·자산·면허·동의
• schema_registry: 관측·행동·단위·좌표·시간·제어·그리퍼 의미
• transform_receipt: 원본→공통→대상 변환과 손실·시험
• split_overlap_report: 중복 군집과 훈련·검증·평가 겹침
• mixture_receipt: 가중치, 유효 표본 수, 성공·실패·개입 구성
• action_representation_card: 표현·토크나이저·정규화·왕복 오차·지연
• embodiment_transform_audit: 위 감사표와 대상 셀 시험 결과
• promotion_and_rollback_receipt: 증거 단계, 승인자, 정확한 되돌리기 튜플

2.13 Codex용 제한된 구현 지시문

목표:
robot-motion-101-part-3의 탁상형 조립 자료를 읽기 전용으로 감사하고,
dataset_manifest, schema_registry, mixture_receipt,
action_representation_card, embodiment_transform_audit 초안을 만든다.

맥락:
- 대상은 단일 팔+평행 그리퍼 기본 셀이다.
- S11의 셀·보정·시간·안전 버전과 S12의 기술 API·실행 로그·평가기 계약을 입력으로 쓴다.
- 모델 출력은 bounded proposal이며 실제 명령 권한이 아니다.

제약:
- 원본 자료, 분할, 모델, 로봇 설정을 수정하거나 로봇 명령을 보내지 말 것.
- 단위·좌표·시간·제어 모드·그리퍼 의미를 추정하지 말 것.
- 누락은 missing/not measured/not exercised/incompatible로 기록할 것.
- 논문·코드·데이터·가중치·미디어의 면허를 서로 대신하지 말 것.
- 정확/근접 중복은 군집 단위로 보고하고 평가 오염 없음이라고 추정하지 말 것.

완료 조건:
1) 모든 원천에 해시·버전·권리 상태가 있다.
2) 세 시간축과 proposal/projected/sent/accepted/executed가 분리된다.
3) 행동 왕복 오차가 위치·회전·그리퍼·접촉 단계별로 보고된다.
4) 형태 변환 감사의 각 행이 pass/fail/missing 중 하나다.
5) 혼합 가중치와 유효 표본 수를 재현할 수 있다.
6) 닫힌 관문, 실패 이유와 정확한 롤백 튜플이 요약된다.

안전:
충돌·힘 관문, watchdog, 보호 정지, E-stop과 사람 승인자는 변경하지 않는다.
하나라도 확인되지 않으면 하드웨어 승격을 거부한다.

2.14 Terry의 관련 읽을거리

아래 글은 개념을 더 읽기 위한 정확한 독자 링크이며, 이 장의 주장 근거를 대신하지 않습니다.

• \pi_0: VLA와 흐름 기반 행동 모델
• DexForce: 힘 정보를 포함한 행동
• RoboPaint
• Gen-0 체화 파운데이션 모델
• Gen-1과 규모 확장
• ACT-1 로봇 파운데이션 모델
• UMI: 범용 조작 인터페이스
• UMI-FT: 순응 조작
• Octo 범용 정책

2.15 다음 장으로 넘기는 다리

이 장은 어떤 데이터와 행동 부호가 모델에 들어갈 자격이 있는지 정했습니다. 다음 장은 같은 입력 계약을 고정한 채 시각·언어 인코더, 다중 양식 결합과 행동 머리가 이 자료로부터 어떤 형태의 제안을 만드는지 비교합니다. 모델 계열이 달라져도 이 장의 계보, 형태 변환, 시간 정렬, 실행 가능성 투영과 독립 안전 권한은 변하지 않습니다.

보충 근거 지도

다음 묶음은 독립 S13 원장에서 이 장과 연결된 검증 원 자료다. 기존 주장과 분모를 바꾸지 않고 탐색 범위만 명시한다.

• 자료·모방학습 계보: BC-Z: Zero-Shot Task Generalization with Robotic Imitation Learning, PaLM-E: An Embodied Multimodal Language Model, AW-Opt: Learning Robotic Skills with Imitation and Reinforcement at Scale, Behavior Transformers: Cloning k Modes with One Stone — 개별 출처의 과제·자료·근거 단계를 합치지 않는다.
• 불확실성·신뢰도: Masked Visual Pre-training for Motor Control, ReconVLA: An Uncertainty-Guided and Failure-Aware Vision-Language-Action Framework for Robotic Control, VLAConf: Calibrated Task-Success Confidence for Vision-Language-Action Models — 개별 출처의 과제·자료·근거 단계를 합치지 않는다.
• 세계 모델·행동 생성: Rethinking Visual-Language-Action Model Scaling: Alignment, Mixture, and Regularization, World Action Models are Zero-shot Policies, FreeAction: Training-Free Techniques for Enhanced Fidelity of Trajectory-to-Video Generation — 개별 출처의 과제·자료·근거 단계를 합치지 않는다.

참고문헌

1. Argall, B. D., Chernova, S., Veloso, M., & Browning, B. (2009). A Survey of Robot Learning from Demonstration. Robotics and Autonomous Systems.
2. Ross, S., Gordon, G., & Bagnell, D. (2011). A Reduction of Imitation Learning and Structured Prediction to No-Regret Online Learning. AISTATS. arXiv:1011.0686.
3. Pinto, L., & Gupta, A. (2016). Supersizing Self-supervision: Learning to Grasp from 50K Tries and 700 Robot Hours. IEEE ICRA. arXiv:1509.06825.
4. Levine, S., Pastor, P., Krizhevsky, A., & Quillen, D. (2016). Learning Hand-Eye Coordination for Robotic Grasping with Deep Learning and Large-Scale Data Collection. ISER. arXiv:1603.02199.
5. Finn, C., Goodfellow, I., & Levine, S. (2016). Unsupervised Learning for Physical Interaction through Video Prediction. NeurIPS. arXiv:1605.07157.
6. Finn, C., Yu, T., Zhang, T., Abbeel, P., & Levine, S. (2017). One-Shot Visual Imitation Learning via Meta-Learning. CoRL. arXiv:1703.07326.
7. Tobin, J., Fong, R., Ray, A., Schneider, J., Zaremba, W., & Abbeel, P. (2017). Domain Randomization for Transferring Deep Neural Networks from Simulation to the Real World. IEEE IROS. arXiv:1703.06907.
8. Dasari, S., et al. (2020). RoboNet: Large-Scale Multi-Robot Learning. CoRL. arXiv:1910.11215.
9. Ebert, F., Nair, S., Lee, A., Levine, S., & Finn, C. (2021). Bridge Data: Boosting Generalization of Robotic Skills with Cross-Domain Datasets. CoRL. arXiv:2109.13396.
10. Florence, P., et al. (2021). Implicit Behavioral Cloning. CoRL. arXiv:2109.00137.
11. Mandlekar, A., et al. (2021). What Matters in Learning from Offline Human Demonstrations for Robot Manipulation. CoRL. arXiv:2108.03298.
12. Yu, T., et al. (2021). MT-Opt: Continuous Multi-Task Robotic Reinforcement Learning at Scale. arXiv:2104.08212.
13. Lu, Y., et al. (2022). AW-Opt: Learning Robotic Skills with Imitation and Reinforcement at Scale. PMLR 164.
14. Nair, S., Rajeswaran, A., Kumar, V., Finn, C., & Gupta, A. (2022). R3M: A Universal Visual Representation for Robot Manipulation. CoRL. arXiv:2203.12601.
15. Chi, C., et al. (2023). Diffusion Policy: Visuomotor Policy Learning via Action Diffusion. Robotics: Science and Systems. arXiv:2303.04137.
16. Open X-Embodiment Collaboration. (2024). Open X-Embodiment: Robotic Learning Datasets and RT-X Models. IEEE ICRA. arXiv:2310.08864.
17. Khazatsky, A., et al. (2024). DROID: A Large-Scale In-The-Wild Robot Manipulation Dataset. arXiv:2403.12945.
18. Chi, C., et al. (2024). Universal Manipulation Interface: In-The-Wild Robot Teaching Without In-The-Wild Robots. arXiv:2402.10329.
19. Octo Model Team, et al. (2024). Octo: An Open-Source Generalist Robot Policy. arXiv:2405.12213.
20. Black, K., et al. (2024). $\pi_0$: A Vision-Language-Action Flow Model for General Robot Control. arXiv:2410.24164.
21. Pertsch, K., et al. (2025). FAST: Efficient Action Tokenization for Vision-Language-Action Models. arXiv:2501.09747.
22. NVIDIA, et al. (2025). GR00T N1: An Open Foundation Model for Generalist Humanoid Robots. arXiv:2503.14734.
23. Jang, E., et al. (2022). BC-Z: Zero-Shot Task Generalization with Robotic Imitation Learning. CoRL. arXiv:2102.02005.
24. Driess, D., et al. (2023). PaLM-E: An Embodied Multimodal Language Model. ICML. arXiv:2303.03378.
25. Lu, Y., et al. (2022). AW-Opt: Learning Robotic Skills with Imitation and Reinforcement at Scale. CoRL 2021 / PMLR 164. arXiv:2111.05424.
26. Shafiullah, N. M. M., et al. (2022). Behavior Transformers: Cloning k Modes with One Stone. NeurIPS. arXiv:2206.11251.
27. Xiao, T., et al. (2022). Masked Visual Pre-training for Motor Control. arXiv preprint. arXiv:2203.06173.
28. Chen, L., et al. (2026). ReconVLA: An Uncertainty-Guided and Failure-Aware Vision-Language-Action Framework for Robotic Control. arXiv primary preprint (2026-04-17). arXiv:2604.16677.
29. Huang, D., et al. (2026). VLAConf: Calibrated Task-Success Confidence for Vision-Language-Action Models. arXiv primary preprint (2026-05-28). arXiv:2605.29605.
30. Wang, Y., et al. (2026). Rethinking Visual-Language-Action Model Scaling: Alignment, Mixture, and Regularization. arXiv primary preprint (2026-02-10). arXiv:2602.09722.
31. Ye, S., et al. (2026). World Action Models are Zero-shot Policies. arXiv primary preprint (2026-02-17). arXiv:2602.15922.
32. Kim, S., et al. (2025). FreeAction: Training-Free Techniques for Enhanced Fidelity of Trajectory-to-Video Generation. arXiv primary preprint (2025-09-29). arXiv:2509.24241.