제2부: 새 로봇·새 과제·긴 지평선에 적응한다

Chapter 4: 새 로봇과 과제에 어떻게 맞추는가 — 미세조정, 행동 머리와 형태 적응

집필일: 2026-07-16 최종수정일: 2026-07-16

개요

적응(adaptation)은 사전학습 체크포인트에 새 자료를 더 넣는 행위가 아닙니다. 새 카메라가 다른 광학계와 시각을 만들고, 새 팔이 다른 좌표계·작업 공간·제어 모드를 가지며, 새 그리퍼가 같은 숫자를 다른 물리 상태로 해석한다면 모델 앞뒤의 인터페이스도 함께 바뀝니다. 그래서 적응의 배포 단위는 가중치 파일 하나가 아니라 기본 모델 + 전처리 + 입력 매핑 + 행동 머리 + 행동 변환 + 보정 + 제어기 + 평가기 + 안전 구성의 호환 튜플입니다.

S11에서 물려받는 것은 실제 셀의 로봇·카메라·시계·좌표계·보정 식별 정보, 제어기, 충돌·힘 한계, 감시 장치, 보호 정지, 비상 정지와 사람 책임자입니다. S12에서 물려받는 것은 버전이 지정된 과제·기술 API, 행동 의미, proposal → projected → sent → accepted/executed 기록, 실행 가능성 투영, 고전·학습 기준선, 독립 평가기와 되돌리기 규약입니다. 이 장의 새 질문은 그 하위 계약을 고정한 채 새 과제와 새 로봇에 맞추기 위해 무엇을 동결하고 무엇을 학습하며, 어느 실패가 가중치가 아니라 인터페이스 탓인지 어떻게 판별할 것인가입니다.

이 장을 읽고 나면... - 전체·부분 미세조정, 매개변수 효율적 조정, 프롬프트 조건화, 새 머리, 증류와 검색 보완을 같은 축에서 선택할 수 있습니다. - 새 카메라·좌표계·제어 모드·행동 주기·그리퍼 의미를 별도 연결 계층과 시험으로 감사할 수 있습니다. - 과제 전이와 서로 다른 로봇 형태 간 전이를 분리하고, 실제 로봇 근거가 없는 셀을 비워 둘 수 있습니다. - 탁상 조립을 위한 새 로봇 적응 실행 안내서와 정확한 되돌리기 영수증을 만들 수 있습니다. - 기준선 퇴행, 음의 전이, 접촉 실패와 지연을 원인 순서대로 진단할 수 있습니다.

실험 질문은 다음과 같습니다. 같은 조립 성공 정의·초기 상태 분포·평가기·하위 제어기·안전 한계와 같은 목표 로봇 자료 예산을 고정했을 때, 사전학습 정책의 적응이 목표 로봇 전용 S12 정책보다 새 지시·배치·물체 또는 제한된 형태 변화에서 이득을 주며, 그 이득을 정확히 재현하고 되돌릴 수 있는가?

1. 정신 모형: 적응은 버전형 인터페이스 변경이다

전체 미세조정(full fine-tuning)은 본체와 머리의 대부분 또는 전부를 갱신합니다. 부분 미세조정(partial fine-tuning)은 뒤쪽 블록, 정규화 층, 투영층처럼 선택한 부분만 엽니다. 매개변수 효율적 미세조정(parameter-efficient fine-tuning, PEFT)은 기본 가중치를 고정하고 작은 학습 모듈만 추가합니다. 대표적으로 어댑터(adapter)는 층 사이에 병목 모듈을 끼우고, LoRA는 업데이트를 저랭크 행렬로 표현합니다 ^[5] ^[7]. 두 원 연구는 언어 과제의 계보이므로 로봇 제어 안정성의 직접 근거가 아니라 구현 후보입니다.

프롬프트 조건화(prompt conditioning)는 자연어, 목표 영상, 로봇 식별자 또는 과제 토큰으로 이미 학습된 정책을 선택적으로 작동시킵니다. 새 행동 머리(action head)는 공유 표현을 목표 로봇의 행동 차원·분포·지평선으로 투영합니다. 정책 증류(policy distillation)는 큰 교사나 여러 정책의 출력을 작은 학생 정책에 옮깁니다. 검색 보완(retrieval augmentation)은 현재 관측·지시와 가까운 검증된 에피소드, 기술 예제 또는 실패 기록을 찾아 조건으로 제공합니다. 마지막 두 방법은 이 장의 근거 묶음에서 고정 예산 실제 조립 비교가 부족하므로 기본 승격 방법이 아니라 별도 실험 셀입니다.


새 과제 또는 새 로봇
        ↓
차이 원장: 관측 | 좌표계 | 행동 | 시간 | 접촉 | 과제
        ↓
호환 연결 계층 ── 불가능하면 관문 닫기
        ↓
가장 작은 학습 변경: 조건 → 머리 → 어댑터 → 부분 → 전체
        ↓
기록 재생 → 시뮬레이션 → 그림자 실행 → 사람 검토 제한 시험
        ↓
독립 평가 + 퇴행 판정 + 전체 튜플 되돌리기

모든 단계 바깥: 충돌/힘 관문 · 감시 장치 · 보호 정지 · 비상 정지 · 사람 권한

전체·부분 조정, 어댑터, 프롬프트, 새 머리, 증류와 검색 보완은 바꾸는 상태와 실패 반경이 다르므로 각각 별도의 퇴행 시험과 되돌리기 근거가 필요합니다 ^[1] ^[5] ^[7] ^[12]. 다만 어댑터와 LoRA의 원 계보는 언어 모델 중심이고 MAML의 로봇 근거도 목표 조립과 다르므로, “적은 매개변수면 안전하고 잘 전이된다”는 결론은 성립하지 않습니다. 방법 이름은 저장 비용을 설명할 수 있어도 카메라·행동·접촉 호환성을 보증하지 않습니다.

선택	고정하는 것	학습하는 것	적합한 첫 가설	중단 신호	되돌리기 단위
조건·프롬프트	본체, 머리	지시/목표/로봇 조건 또는 작은 조건층	행동 의미가 같고 과제 선택만 다름	조건을 바꿔도 행동이 분리되지 않음	조건 템플릿·조건층
새 머리	인코더·본체	목표 행동 투영·분포	표현은 유용하나 행동 차원·지평선이 다름	프레임·제어 모드가 머리 안에 숨음	머리 + 행동 변환
어댑터·LoRA	기본 체크포인트	작은 삽입/저랭크 모듈, 필요 시 머리	자료·메모리 예산이 작고 기본 능력 보존이 중요	목표 접촉 정보가 고정 표현에 없음	기본 + 어댑터 + 머리
부분 조정	앞쪽 공유 표현	선택 블록·투영·머리	시각·상태 통계가 중간 정도 달라짐	열린 층 선택에 따라 결과가 불안정	동결 마스크 포함 체크포인트
전체 조정	초기 체크포인트만	전체 모델	충분한 목표 자료와 큰 분포 차이	이전 과제 퇴행·과적합·복구 상실	전체 체크포인트와 훈련 상태
증류·검색	교사/기본 정책	학생 또는 검색 색인·결합기	추론 비용 또는 사례 재사용이 병목	교사 오류 복제·낡은 사례 선택	교사·학생/색인·검색기 튜플

가장 작은 변경부터 시작한다는 것은 작은 방법이 항상 낫다는 뜻이 아닙니다. 원인이 행동 차원 불일치라면 새 머리가 최소 변경이고, 손목 카메라가 추가됐는데 본체가 그 입력을 처리하지 못하면 입력 투영 또는 본체 일부를 열어야 합니다. 접촉 제어 모드가 위치 증분에서 힘·임피던스 기술 호출로 바뀌었다면 저랭크 업데이트만으로 의미를 복구할 수 없습니다. 먼저 새 출력 계약을 설계하고 안전한 하위 실행기를 검증해야 합니다.

Figure 4.1: 카메라·좌표계·행동·제어 모드·주기·그리퍼 호환성을 먼저 닫은 뒤 조건, 새 머리, 어댑터/LoRA, 부분 조정, 전체 조정 가운데 가장 작은 충분한 변경을 고른다. 각 선택은 동결·학습 모듈, 별도 버전 연결 계층, 퇴행 시험과 되돌리기 단위를 함께 기록해야 한다. 도해: 저자 제작 결정론적 SVG

2. 과제 전이와 형태 전이를 다른 실험으로 만든다

과제 전이(task transfer)는 같은 로봇·카메라·좌표계·행동·제어기에서 새 부품, 새 배치, 새 지시 또는 새 조립 순서를 시험합니다. 서로 다른 로봇 형태 간 전이(cross-embodiment transfer)는 로봇의 기구학, 카메라 배치, 작업 공간, 행동 차원, 제어 모드, 그리퍼와 접촉 기하 가운데 하나 이상이 바뀝니다. 두 실험을 “새로운 것”이라는 한 분모로 합치면 성공의 원인을 알 수 없습니다.

과제 전이와 형태 전이는 서로 다른 시험이며, 형태 전이는 카메라, 좌표계, 행동 주기, 제어기, 그리퍼와 접촉 기하를 별도로 감사해야 합니다 ^[11] ^[12]. Open X-Embodiment의 정규화·역정규화와 Octo의 유연한 입출력은 여러 로봇을 연결하는 설계 근거이지만 보편 어댑터를 만들지는 않습니다. 특히 자료 수준 정규화는 힘·순응성·시각·대기열·접촉 의미를 모두 보존하지 않습니다.

고정/변경 축	과제 전이 시험	형태 전이 시험	필요한 호환 근거	실패 상태
장면·카메라	같은 카메라, 새 물체/가림	위치·렌즈·해상도·노출·카메라 수 변경	영상 시각, 내·외부 보정, 제거 시험	`missing` 또는 `incompatible`
좌표계	같은 기준, 새 목표 자세	밑동·도구·카메라 프레임 변경	변환 트리·단위·회전·왕복 재생	`frame_mismatch`
행동	같은 의미, 새 순서	관절/말단, 절대/증분, 차원 변경	정규화 분할, 포화, 투영량	`action_semantics_unknown`
시간	같은 주기, 긴 과제	센서/정책/제어 주기 변경	사건·도착·적용 시각, 최신성, 대기열	`not measured`
그리퍼·접촉	같은 도구, 새 부품 공차	폭/힘/손가락/순응성 변경	부호·범위·완료 상태·힘 영점	`contact_interface_unverified`
과제	새 지시·물체·배치	같은 목표 상태를 새 몸으로 수행	성공 정의·초기 분포·재시도 고정	비교 불가능

RoboNet은 여러 로봇 자료가 공유 표현에 도움을 줄 수 있음을 보이지만 카메라와 행동 공간의 플랫폼별 처리가 필요하고 주된 과제가 짧은 밀기입니다 ^[6]. Bridge Data는 공통 형태 안의 장면·과제 다양성에는 강하지만 형태 자체의 변화 근거는 제한됩니다 ^[8]. One-Shot Visual Imitation Learning도 공유된 과제 구조와 같은 형태에서의 빠른 학습이지 새로운 행동 의미를 한 시범으로 해결하는 방법은 아닙니다 ^[2]. “적은 시범”과 “적은 인터페이스 차이”는 같은 말이 아닙니다.

3. 다섯 연결 계층을 가중치 앞에 검증한다

3.1 카메라 연결

장면·손목 카메라별 이름, 광학 프레임, 해상도, 자르기, 왜곡 보정, 색 순서, 노출과 시각을 고정합니다. 학습 때 손목 영상이 없었다면 영상을 조용히 복제하지 않고 입력 설계를 바꾼 사실을 기록합니다. 시각 무작위화는 배경·조명 변화에 대한 도구일 수 있지만 동역학과 접촉을 전이하지 않으며, 무작위화 범위가 실제 광학 차이를 덮는지도 검증해야 합니다 ^[3].

3.2 좌표계 연결

모델 출력과 기술 API 사이에 명시적 변환기를 둡니다. 병진 단위, 회전 표현, 증분 합성 순서, 기준 프레임, 도구 중심점과 동작 적용 시각을 기록합니다. 알려진 자세의 왕복 변환, 축별 단위 동작, 정지 상태 재생을 통과하지 못하면 학습을 시작하지 않습니다. 모델이 프레임 오차를 시범으로 보상하면 한 배치에서는 성공해도 보정이 바뀐 순간 실패합니다.

3.3 제어 모드 연결

관절 위치, 관절 속도, 말단 자세 증분, 기술 호출은 서로 다른 출력 계약입니다. 목표 모델의 머리가 위치 증분을 내는데 셀이 임피던스 기술을 요구하면 중간층이 참조 자세와 시간 제한을 만들고, 하위 제어기가 힘·순응성과 중단을 소유합니다. 모델 출력에서 토크나 힘 제한으로 곧장 우회하는 경로를 만들지 않습니다.

3.4 행동 주기 연결

자료의 표본 주기, 모델 호출 주기, 동작열의 예측 길이와 실제 실행 길이, 제어기 주기를 분리합니다. 단순 반복이나 보간이 유효하려면 속도·가속도·최신성 한계와 접촉 전환 시험을 통과해야 합니다. 자유 공간에서는 긴 동작열을 쓸 수 있어도 접촉 전 정지 뒤에는 실행 길이를 줄이고 새 힘 사건에 반응해야 합니다.

3.5 그리퍼 의미 연결

0과 1이 열림/닫힘인지, 미터 폭인지, 힘 요청인지, 속도인지부터 확인합니다. 평행 그리퍼의 폭과 다지 손의 관절 벡터를 같은 “그리퍼” 칸으로 정규화하지 않습니다. 완료 판정도 명령값이 아니라 폭·전류·힘·미끄럼과 과제 상태의 독립 관측으로 정의합니다. 미확인 부호나 범위는 추정하지 않고 관문을 닫습니다.

연결 시험	최소 입력	통과 산출물	숨은 오류를 찾는 반례
카메라 제거·교체	동일 장면의 카메라별 기록	입력 민감도와 결측 처리	손목 영상을 가려도 결과가 같음
축별 왕복 변환	알려진 6자유도 자세	프레임·단위 오차 표	회전 순서가 특정 자세에서만 맞음
제어 모드 모형	한계 안/밖 후보	수락·거부·포화 이유	잘못된 모드가 숫자 범위만 통과
주기·대기열 주입	지연·역순 동작열	최신성 거부와 대체 동작	오래된 꼬리가 접촉 뒤 실행
그리퍼 최소쌍	열림/닫힘·빈 파지·끼임	명령/관측/완료 분리 로그	부호 반전이 파지 성공으로 집계

Figure 4.2: 원천 로봇과 목표 로봇 사이의 카메라, 좌표계, 제어 모드, 행동 주기와 그리퍼·접촉 의미를 다섯 개의 독립 연결 계층으로 검사한다. 각 계층은 반례 시험과 통과 산출물을 요구하며, missing·incompatible·not measured 상태는 가중치 학습 전에 관문을 닫는다. 도해: 저자 제작 결정론적 SVG

4. 무엇을 동결하고 무엇을 학습할지 관문으로 고른다

결정은 자료량만으로 하지 않습니다. 먼저 차이 원장에서 관측·행동 의미가 호환되는지 판정합니다. 다음으로 고정 본체의 표현이 목표 상태를 분리하는지 선형 조사, 최근접 검색, 목표/오답 최소쌍으로 검사합니다. 표현은 충분하지만 출력 차원만 다르면 머리를 바꿉니다. 새 카메라나 상태가 필요하면 입력 투영과 관련 블록을 엽니다. 목표 자료가 충분하고 이전 능력의 퇴행을 감당할 평가 묶음이 있을 때만 전체 조정을 후보로 둡니다.

OpenVLA는 같은 연구 안의 Franka 탁상 과제에서 LoRA가 전체 조정에 가까운 결과를 작은 학습 비율로 낼 수 있음을 보고하지만, 이 결과가 다른 로봇·접촉·카메라에 자동 전이되지는 않습니다 ^[13]. 이는 “항상 LoRA”라는 규칙이 아니라 첫 비교 후보를 정하는 근거입니다. 로봇별 입력과 행동을 유연하게 붙이도록 설계된 Octo도 손목 카메라 지원과 최적 시범 중심 자료의 한계를 밝힙니다 ^[12].

4.1 복합 레시피의 숫자를 단일 원인으로 읽지 않는다

OpenVLA-OFT는 LIBERO에서 성공률이 76.5%에서 97.1%로 올라가고 행동 생성 처리량이 26배가 됐다고 보고하지만, 여러 레시피 요소를 함께 바꾼 시뮬레이션 결과입니다 ^[15]. 따라서 수치를 특정 머리, 연속 행동, 병렬 디코딩 또는 조정 방식 하나의 인과 효과로 해석할 수 없고, 실제 탁상 조립의 기대 성공률이나 종단 간 행동 나이로 옮길 수도 없습니다. 로컬 실험은 요소별 절제와 카메라 사건부터 제어기 적용까지의 시간을 다시 측정해야 합니다.

Figure 4.3: OpenVLA-OFT+ 원 논문의 Figure 1은 양손 ALOHA 설정에서 세 카메라, 고유감각, 언어 조건 FiLM, 병렬 디코딩과 25단계 절대 관절 행동 묶음을 결합한 전체 구성을 보여 준다. 여러 요소가 함께 바뀐 양손 전용 구조이므로 한 요소의 효과나 S13 기본 단일 팔의 기대 성능·안전 근거로 해석하지 않는다. 출처: Kim et al. 2025, arXiv:2502.19645v2 Fig. 1, CC BY 4.0, 원본 JPEG 내용 변경 없음

권장 선택 관문은 다음과 같습니다.

G0 — 계약 완전성: 카메라·프레임·행동·주기·그리퍼 항목이 모두 compatible 또는 명시적 변환으로 해결됐는가?
G1 — 무학습 기준선: 사전학습 모델, S12 목표 전용 정책, 고전 기술이 같은 재생 묶음에서 어느 셀을 통과하는가?
G2 — 표현 충분성: 고정 특징이 목표 물체·상태·과제 단계를 분리하고 결측·가림에서 정직하게 거부하는가?
G3 — 최소 변경: 조건/머리/어댑터/부분/전체를 같은 목표 자료·계산 예산·시드로 비교했는가?
G4 — 퇴행: 원래 과제, 새 과제, 실패·개입 자료와 안전 거부 시험을 모두 재생했는가?
G5 — 증거 승격: 재생, 제어기 모형, 시뮬레이션, 그림자 실행을 분리해 통과했는가?
G6 — 제한 시험 카드: 독립 평가·안전 책임자가 전체 튜플과 즉시 되돌리기를 승인했는가?

어느 관문에서든 정보가 없으면 missing, 측정하지 않았으면 not measured, 장애 시험을 하지 않았으면 not exercised, 의미가 맞지 않으면 incompatible로 남깁니다. 이 네 상태를 “학습으로 해결될 것”이라 추측하지 않습니다.

5. 탁상형 조립을 위한 새 로봇 적응 실행 안내서

관통 과제는 부품·치구 인식 → 파지 → 충돌 없는 운반 → 접촉 전 정지 → 제한된 배치·삽입 → 실패 감지 → 후퇴/재시도/사람 요청/중단입니다. 첫 적응 비교에서는 기본 단일 팔·평행 그리퍼와 새 단일 팔·평행 그리퍼를 사용하고, 성공 정의와 초기 상태를 공유합니다. 양손·다지·이동 조작·휴머노이드는 새 분모와 새 안전 검증이 필요한 고급 분기입니다.

단계 A — 불변 계약을 봉인한다

과제 버전, 부품·치구 자산, 초기 상태 층화, 성공/실패 판정, 재시도 예산, 사람 개입 규칙을 고정합니다. S11 셀의 보정·제어기·안전 식별 정보와 S12 기술 API·평가기·기준선을 해시로 묶습니다. 목표 로봇의 실제 작업 공간이나 힘 한계가 과제에 맞지 않으면 학습이 아니라 과제 범위 변경으로 기록하고 비교를 중단합니다.

단계 B — 형태 차이 원장을 채운다

기본 로봇과 목표 로봇을 카메라, 상태, 프레임, 자유도, 행동, 주기, 제어 모드, 그리퍼, 접촉 기하, 통신·대기열 축으로 나란히 적습니다. 각 행에는 same, mapped, missing, incompatible와 소유자·검증 시험을 붙입니다. 변환 코드는 모델 저장소와 별도 버전으로 관리합니다.

단계 C — 자료 예산과 분할을 봉인한다

시범 수만이 아니라 성공·실패·개입·회복, 물체·배치·가림, 접촉 상태별 노출을 기록합니다. 원래 로봇, 목표 로봇 훈련, 검증, 최종 평가 에피소드를 계보로 분리하고 정규화 통계는 훈련 분할에서만 계산합니다. 목표 로봇 자료를 더 많이 쓴 방법이 “더 좋은 적응 알고리즘”으로 보이지 않도록 물리 노출과 계산 예산을 함께 고정합니다.

단계 D — 최소 변경 사다리를 실행한다

무학습, 조건만 변경, 새 머리, 어댑터/LoRA, 부분 조정, 전체 조정을 순서대로 시험합니다. 각 단계는 동일 평가 에피소드·시드·초기화에서 원래 과제와 새 과제를 모두 재생합니다. 한 단계가 목표 기준을 넘으면 더 큰 변경은 비용·퇴행 개선을 입증할 때만 진행합니다. 증류와 검색은 별도 분기로 두고 교사·색인 버전과 추가 지연을 공정하게 포함합니다.

단계 E — 실행 계층을 통과시킨다

원본 후보, 변환된 후보, 실행 가능성 투영, 송신, 수락/실행을 서로 다른 식별자로 기록합니다. 자유 공간·접촉 전·접촉·복구 단계별로 거부율과 투영량을 봅니다. 모델 후보가 대부분 크게 투영돼 성공했다면 성공의 소유자는 모델 단독이 아니라 혼합 스택입니다. 접촉 단계는 승인된 임피던스·힘 제어와 독립 한계를 유지합니다.

단계 F — 퇴행과 장애를 주입한다

카메라 지연·가림·순서 뒤바뀜, 잘못된 보정 세대, 프레임 누락, 행동 주기 변화, 그리퍼 부호 반전, 통신 끊김, 만료된 동작열, 낯선 물체 손잡이, 접촉 끼임을 주입합니다. 모델 신뢰도가 높아도 독립 관문이 거부해야 합니다. 재시도 예산을 넘으면 같은 행동을 반복하지 않고 후퇴·사람 인계·중단으로 끝냅니다.

단계 G — 승격 또는 정확한 되돌리기

그림자 실행이 통과해도 실제 명령 권한은 생기지 않습니다. 독립 책임자가 제한 시험 카드의 작업 공간, 속도·힘, 에피소드 수, 중단 조건과 되돌리기 튜플을 검토합니다. 시험 중 관문 실패나 분포 변경이 생기면 모델 파일만 바꾸지 않고 이전에 승인된 전체 튜플을 원자적으로 복구합니다.

6. 공개 사례를 근거 단계와 반례로 읽는다

$\pi_{0.5}$ 의 열린 세계 주장은 이동 조작 평가 범위 안에서만 읽어야 하며, 원 연구는 낯선 손잡이, 로봇 팔에 가려진 상태와 주의 분산으로 인한 실패를 함께 보고합니다 ^[14]. 이는 다양한 자료의 공동 학습이 유용할 수 있다는 근거이자 “열린 세계 적응이 해결됐다”는 해석의 반례입니다. S13의 단일 팔 삽입에서 이동 조작 결과를 성공률로 옮기지 않고, 손잡이·가림·반복 하위 과제를 별도 실패 주입으로만 사용합니다.

GR00T N1은 휴머노이드용 고급 분기이며, 해당 원 자료의 평가는 주로 짧은 지평선의 탁상 조작에 초점을 둡니다 ^[16]. 시뮬레이션과 실제 로봇 평가는 이 제한된 해석을 뒷받침하며 휴머노이드 표현·합성 자료 연구에 유용하지만, 단일 팔·평행 그리퍼 기본값을 확립하거나 장기 로코매니퓰레이션·조립을 검증하지 않습니다. 실제 로봇 분모도 전신 IK 제어기를 사용한 GR-1 탁상 조작의 출처별 절차에 한정됩니다. 균형·보행·더 긴 양손 협응을 추가하면 새 제어기·감시기·실패 분모가 필요합니다.

MAML은 소수 예시 뒤 빠른 과제 조정을 목표로 하지만 2차 최적화 비용과 공유 구조 밖 음의 전이가 남습니다 ^[1]. 동역학 무작위화는 실제 로봇 전이의 유용한 계보지만 범위 밖 접촉 매개변수와 보수적 정책이 실패가 될 수 있습니다 ^[4]. RMA는 최근 이력에서 잠재 환경을 추론하는 실제 로봇 적응 사례지만 사족 보행과 특권 시뮬레이션 조건을 탁상 삽입 증거로 바꾸면 안 됩니다 ^[9].

Robomimic은 자료 품질, 관측, 알고리즘과 훈련 선택이 함께 결과를 바꾼다는 실제 조작 반례를 제공합니다 ^[10]. 따라서 큰 사전학습 본체가 오프라인 모방의 자료 편향과 리셋·개입 비용을 없애지 않습니다. 검색 사례가 목표와 닮았거나 교사의 출력이 매끄럽다는 이유도 독립 평가를 대체하지 않습니다.

7. 실패를 가중치부터 의심하지 않는다

증상	먼저 검사할 것	원인 분리 시험	허용된 대체 동작
항상 같은 방향으로 자세가 치우침	카메라·도구 프레임, 단위, 회전 순서	알려진 자세 왕복 재생	보정된 고전 경로 또는 중단
부품은 맞지만 다른 소켓을 고름	지시·목표 상태·검색 사례	최소쌍 지시와 사례 제거	모호성 거부·사람 확인
자유 공간은 성공, 삽입은 실패	접촉 전환, 실행 길이, 힘 영점, 제어 모드	모델 고정 후 제어기/변환 절제	접촉 기술로 제한·후퇴
기본 과제가 적응 후 악화	동결 마스크, 혼합 비율, 정규화 통계	이전 체크포인트 동일 재생	이전 전체 튜플 복구
새 로봇에서 투영 거부가 급증	행동 의미·작업 공간·속도 한계	축별 단위 후보와 투영량	호환 변환 수정 전 그림자만
그리퍼가 반대로 움직임	부호·범위·명령/관측 의미	장치 출력 없는 모형 최소쌍	즉시 중단, 변환 되돌리기
부하가 커지면 간헐 실패	행동 나이·대기열·장치 정밀도	계산·네트워크 장애 주입	승인된 로컬 기준선/정지
같은 실패를 반복	실패 분류·검색 색인·재시도 예산	실패 뒤 검색/프롬프트 제거	후퇴·사람 인계·중단

원인 순서는 관측 → 프레임 → 행동 의미 → 시간 → 하위 제어 → 평가 → 모델입니다. 새 머리를 다시 학습하기 전에 변환기의 단위와 보정 세대를 확인합니다. 훈련 손실이 낮은데 투영 거부가 높으면 표현 학습보다 출력 계약이 문제일 가능성이 큽니다. 오프라인 지표가 좋지만 그림자 행동 나이가 마감을 넘으면 모델 크기·배치·원격 경로를 줄여야지 제어 주기를 모델이 소유하게 해서는 안 됩니다.

음의 전이는 새 과제 이득과 원 과제 손실을 함께 보고해야 보입니다. 목표 과제 평균만 올라도 드문 가림, 실패 복구, 금지 요청 거부가 악화되면 승격하지 않습니다. 새 형태의 성공이 고전 투영기의 큰 수정에 의존한다면 원본·투영 차이를 보고하고 모델 전이로만 귀속하지 않습니다.

8. 되돌리기 가능한 적응 영수증

되돌리기 가능한 영수증은 기본 모델, 어댑터/머리, 전처리, 보정, 행동 매핑, 제어기, 평가기와 안전 버전을 함께 묶어야 합니다 ^[12] ^[13] ^[17]. 어떤 단일 모델 논문도 이 S13 전체 튜플을 제공하지 않으므로, 아래 형식은 시리즈 실행·안전 계약에서 추가한 시스템 산출물입니다. 한 항목이라도 missing이면 “이전 모델로 되돌린다”는 계획은 완전하지 않습니다.


| 영수증 묶음 | 반드시 고정할 필드 | 누락 시 닫히는 이유 |
|---|---|---|
| 식별자 | `receipt_id=s13-ch04-<run>-<sha>` | 어느 적응 회차인지 재현할 수 없음 |
| 기본 모델 | 체크포인트 해시, 코드 커밋, 라이선스 ID | 가중치와 실행 코드·사용 권리를 함께 복원할 수 없음 |
| 학습 변경 | `head/adapter/partial/full/distill/retrieval` 방법과 산출물 해시 | 기본 모델과 학습 델타를 분리할 수 없음 |
| 동결 지도 | 학습·동결 모듈 목록, 최적화기 상태 해시 | 실제로 바뀐 매개변수 범위를 감사할 수 없음 |
| 자료 | manifest, train/val/test ID, 정규화 분할, 예산 | 중복·오염·예산 차이를 재현할 수 없음 |
| 관측 | 카메라 계약, 전처리, 상태 스키마 해시 | 입력 의미와 시각이 달라질 수 있음 |
| 기하 | TF 트리, 보정 세대, 도구 프레임 | 좌표 변환과 접촉 위치를 복원할 수 없음 |
| 행동 | 스키마, 매핑, `rate_hz`, 그리퍼 의미 | 차원·단위·주기·개폐 의미가 불명확함 |
| 실행 | 과제, 기술 API, 투영기, 제어기 버전 | 같은 하위 계약에서 비교했는지 알 수 없음 |
| 평가 | 프로토콜 해시, 분모 산출물, 독립 서명 ID | 성공·퇴행 판정을 독립적으로 재계산할 수 없음 |
| 안전 | 한계, 감시기, 감시 장치, 정지 시험 산출물 | 모델 밖 안전 권한이 실제로 작동했는지 알 수 없음 |
| 근거 단계 | 재생·시뮬레이션·그림자·제한 실물 ID 또는 `not_exercised` | 서로 다른 증거 단계를 합칠 위험이 있음 |
| 되돌리기 목표 | 완전 호환 튜플 영수증과 복원 시험 | 모델만 되돌리고 인터페이스를 남길 수 있음 |
| 무효화 조건 | 카메라·보정·제어기 변경, 자료 중복 발견, 표류 한계 | 변경 뒤 낡은 승인을 계속 사용할 수 있음 |

영수증은 성공한 실행만 보관하지 않습니다. 실패 에피소드, 거부 이유, 투영량, 사람 개입, 복구와 보호 정지 사건을 같은 실행 식별자에 연결합니다. 되돌리기 시험은 파일을 로드하는 것으로 끝나지 않고 이전 튜플이 동일 재생에서 같은 입출력 계약을 회복하고 새 변환이 섞이지 않는지 확인합니다. 안전 한계나 정지 이력은 모델 되돌리기로 삭제되지 않습니다.

Figure 4.4: 원자적 적응 영수증은 기본 모델·학습 델타·동결 지도·자료·관측·기하·행동·실행·평가·안전·근거와 이전 승인 튜플을 함께 봉인한다. G0 계약 호환성부터 G6 사람 검토 제한 시험 카드까지의 어느 관문이 닫혀도 모델만이 아니라 전체 호환 튜플을 복원하고 동일 재생으로 확인한다. 도해: 저자 제작 결정론적 SVG

9. 지표·산출물과 승격 판정

범주	같은 축 지표	필수 산출물	닫는 조건
과제	단계별 성공, 목표 상태 일치, 새 지시/물체/배치별 분모	층화 평가 카드	새로움 축을 합친 평균만 존재
형태	카메라/프레임/행동/그리퍼 호환율	형태 차이 원장·연결 시험	미확인 매핑 또는 숨은 보간
학습	목표 자료량, 학습 매개변수, 계산·시드, 원 과제 퇴행	동결 지도·훈련 영수증	예산 불일치 또는 퇴행 시험 없음
실행 가능성	거부율, 투영량, 원본-실행 차이	제안→실행 계보	큰 투영을 모델 성공으로 계산
시간	전처리/추론/투영/대기열 p50·p95·최대, 행동 나이	동기화 시간 추적	최신성·마감 초과
접촉·안전	힘/충돌 사건, 중단, 재시도, 사람 인계	원 센서·독립 사건 기록	모델 점수로 사건 무시
복구·운영	실패 감지, 후퇴, 서비스 장애, 복구 시간·비용	장애 주입·상태 기계	무한 재시도 또는 대체 동작 없음
되돌리기	복구 시간, 튜플 완전성, 재생 동등성	적응 영수증·복원 시험	모델만 바꾸거나 항목 누락

필수 파일 묶음은 embodiment_diff_ledger, camera_contract, frame_roundtrip, action_mapping, gripper_semantics, freeze_map, training_receipt, matched_regression, execution_trace, fault_injection, adaptation_receipt, rollback_restore_test입니다. 과제 책임자, 자료 책임자, 모델 책임자, 로봇/제어 책임자, 평가 책임자와 안전 책임자의 서명을 분리합니다.

9.1 Codex용 제한 구현 지시문


목표
- 기록된 탁상 조립 에피소드에서 새 로봇 적응 후보를 비교한다.
- no-adaptation, new-head, adapter/LoRA, partial-tune, full-tune을 같은 자료·계산 예산으로 평가한다.
- reversible adaptation receipt와 exact rollback target을 만든다.

맥락
- S11 cell/calibration/safety identities와 S12 task/skill/action/controller/evaluator contracts를 읽는다.
- base robot과 target robot의 camera/frame/control-mode/action-rate/gripper semantics를 비교한다.
- 실제 장치 출력 대신 recorded replay, controller stub, kinematic projection, simulation, shadow만 사용한다.

제약 조건
- robot driver, send_action, controller switch, fault clear, limit change API를 호출하지 않는다.
- missing/not measured/not exercised/incompatible를 추측으로 채우지 않는다.
- task transfer와 embodiment transfer를 다른 denominator로 유지한다.
- raw/proposed/projected/sent/accepted-executed identifiers를 합치지 않는다.
- collision/force/watchdog/protective-stop/E-stop/human authority는 model 밖에 둔다.

완료 조건
- embodiment_diff_ledger와 모든 mapping round-trip test가 생성된다.
- freeze_map, dataset hashes/splits, seeds, checkpoint/delta hashes가 기록된다.
- original tasks, new tasks, failure/intervention/recovery slices에서 regression을 보고한다.
- stale camera, wrong calibration generation, reversed gripper, rate mismatch,
  infeasible pose, queue reordering, outage, contact jam을 주입하고 fallback을 확인한다.
- task success, rejection/projection, action age, force event, intervention,
  recovery/handoff, compute/cost와 exact rollback restore test를 보고한다.

안전
- hardware trial을 실행하거나 stop을 해제하지 않는다.
- 별도 human-reviewed bounded-trial card만 산출할 수 있다.
- learned uncertainty 또는 retrieval match는 safety authorization이 아니다.

10. 한계, 연결 읽기와 제5장으로 넘길 인터페이스

이 장의 근거는 적응 선택지 각각에 동일한 실제 조립 비교를 제공하지 않습니다. 어댑터·LoRA의 기초 근거는 언어 모델에서 왔고, MAML은 목표 조립 하드웨어가 아니며, OpenVLA-OFT의 핵심 수치는 시뮬레이션 복합 레시피입니다. Open X-Embodiment는 큰 실제 로봇 근거를 제공하지만 로봇별 평가·행동·제어 의미가 이질적입니다. $\pi_{0.5}$ 와 GR00T N1도 각각 이동 조작과 휴머노이드 분모를 유지해야 합니다. 증류와 검색 보완은 특히 고정 예산·실제 접촉·되돌리기의 비교 근거가 부족합니다.

그러므로 이 장은 하나의 “최고 적응법”을 고르지 않습니다. 인터페이스가 같으면 가장 작은 학습 변경부터 비교하고, 인터페이스가 다르면 연결 계층과 하위 실행기를 먼저 검증합니다. 새 과제 이득과 원 과제 퇴행, 목표 로봇 성공과 투영기의 수정량, 처리량과 종단 간 행동 나이를 각각 분리합니다. 고전 기준선이나 목표 전용 S12 정책을 이기지 못하면 더 복잡한 적응을 승격하지 않습니다.

Terry의 $\pi_0$ 해설, $\pi_{0.5}$ 계열 RECAP, RoboPaint, Gen-1, Act-1, Habilis-β, UMI, UMI-FT, Octo, RoboVLMs는 연결 읽기이며 아래 원 논문을 대신하지 않습니다.

제5장에 넘길 것은 적응된 모델만이 아닙니다. 버전이 지정된 카메라·좌표계·행동·그리퍼 계약, 동결 지도, 형태 차이 원장, 검증된 적응 튜플, 실패 분류, 독립 평가 결과와 즉시 복원 가능한 이전 튜플입니다. 제5장은 이 고정된 인터페이스 위에서 언어 지시를 물체·관계·목표 상태·기술 전제 조건으로 연결합니다. 언어가 “오른쪽 구멍”을 올바르게 해석해도 이 장의 프레임·단위·그리퍼 의미가 틀리면 행동은 틀립니다. 반대로 적응 계약이 안정적이면 제5장은 언어 모호성과 공간 연결 실패를 로봇 형태 오류와 분리해 거부할 수 있습니다.

보충 근거 지도

다음 묶음은 독립 S13 원장에서 이 장과 연결된 검증 원 자료다. 기존 주장과 분모를 바꾸지 않고 탐색 범위만 명시한다.

구성 가능한 기술: BiNoMaP: Learning Category-Level Bimanual Non-Prehensile Manipulation Primitives, RH20T-P: A Primitive-Level Robotic Dataset Towards Composable Generalization Agents, RoVi-Aug: Robot and Viewpoint Augmentation for Cross-Embodiment Robot Learning, GHIL-Glue: Hierarchical Control with Filtered Subgoal Images — 개별 출처의 과제·자료·근거 단계를 합치지 않는다.
자료 혼합·증강: Re-Mix: Optimizing Data Mixtures for Large Scale Imitation Learning, Whole-Body Teleoperation for Mobile Manipulation at Zero Added Cost, Diffusion Transformer Policy — 개별 출처의 과제·자료·근거 단계를 합치지 않는다.
후속 학습·조립: FLaRe: Achieving Masterful and Adaptive Robot Policies with Large-Scale Reinforcement Learning Fine-Tuning, Video Prediction Policy: A Generalist Robot Policy with Predictive Visual Representations, Towards Natural Language-Driven Assembly Using Foundation Models — 개별 출처의 과제·자료·근거 단계를 합치지 않는다.

참고문헌

Finn, C., Abbeel, P., & Levine, S. (2017a). Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks. ICML. arXiv:1703.03400.
Finn, C., Yu, T., Zhang, T., Abbeel, P., & Levine, S. (2017b). One-Shot Visual Imitation Learning via Meta-Learning. CoRL. arXiv:1703.07326.
Tobin, J., et al. (2017). Domain Randomization for Transferring Deep Neural Networks from Simulation to the Real World. IEEE IROS. arXiv:1703.06907.
Peng, X. B., Andrychowicz, M., Zaremba, W., & Abbeel, P. (2018). Sim-to-Real Transfer of Robotic Control with Dynamics Randomization. IEEE ICRA. arXiv:1710.06537.
Houlsby, N., et al. (2019). Parameter-Efficient Transfer Learning for NLP. ICML. arXiv:1902.00751.
Dasari, S., et al. (2020). RoboNet: Large-Scale Multi-Robot Learning. CoRL. arXiv:1910.11215.
Hu, E. J., et al. (2021). LoRA: Low-Rank Adaptation of Large Language Models. ICLR. arXiv:2106.09685.
Ebert, F., Nair, S., Lee, A., Levine, S., & Finn, C. (2021). Bridge Data: Boosting Generalization of Robotic Skills with Cross-Domain Datasets. CoRL. arXiv:2109.13396.
Kumar, A., Fu, Z., Pathak, D., & Malik, J. (2021). RMA: Rapid Motor Adaptation for Legged Robots. Robotics: Science and Systems. arXiv:2107.04034.
Mandlekar, A., et al. (2021). What Matters in Learning from Offline Human Demonstrations for Robot Manipulation. CoRL. arXiv:2108.03298.
Open X-Embodiment Collaboration. (2024). Open X-Embodiment: Robotic Learning Datasets and RT-X Models. IEEE ICRA. arXiv:2310.08864.
Octo Model Team, et al. (2024). Octo: An Open-Source Generalist Robot Policy. arXiv:2405.12213.
Kim, M. J., et al. (2024). OpenVLA: An Open-Source Vision-Language-Action Model. arXiv:2406.09246.
Physical Intelligence, et al. (2025). $\pi_{0.5}$: a Vision-Language-Action Model with Open-World Generalization. arXiv:2504.16054.
Kim, M. J., Finn, C., & Liang, P. (2025). Fine-Tuning Vision-Language-Action Models: Optimizing Speed and Success. arXiv:2502.19645.
NVIDIA, et al. (2025). GR00T N1: An Open Foundation Model for Generalist Humanoid Robots. arXiv:2503.14734.
Agia, C. (2026). Deployment-Time Reliability of Learned Robot Policies. arXiv:2603.11400.
Zhou, H., et al. (2025). BiNoMaP: Learning Category-Level Bimanual Non-Prehensile Manipulation Primitives. arXiv primary preprint (2025-09-25). arXiv:2509.21256.
Chen, Z., et al. (2024). RH20T-P: A Primitive-Level Robotic Dataset Towards Composable Generalization Agents. arXiv primary preprint (2024-03-28). arXiv:2403.19622.
Chen, L. Y., et al. (2024). RoVi-Aug: Robot and Viewpoint Augmentation for Cross-Embodiment Robot Learning. arXiv primary preprint (2024-09-05). arXiv:2409.03403.
Hatch, K. B., et al. (2024). GHIL-Glue: Hierarchical Control with Filtered Subgoal Images. arXiv primary preprint (2024-10-26). arXiv:2410.20018.
Hejna, J., et al. (2024). Re-Mix: Optimizing Data Mixtures for Large Scale Imitation Learning. arXiv primary preprint (2024-08-26). arXiv:2408.14037.
Honerkamp, D., et al. (2024). Whole-Body Teleoperation for Mobile Manipulation at Zero Added Cost. IEEE Robotics and Automation Letters, vol. 10, no. 4, pp. 3198-3205, April 2025. arXiv:2409.15095.
Hou, Z., et al. (2024). Diffusion Transformer Policy. arXiv primary preprint (2024-10-21). arXiv:2410.15959.
Hu, J., et al. (2024). FLaRe: Achieving Masterful and Adaptive Robot Policies with Large-Scale Reinforcement Learning Fine-Tuning. arXiv primary preprint (2024-09-25). arXiv:2409.16578.
Hu, Y., et al. (2024). Video Prediction Policy: A Generalist Robot Policy with Predictive Visual Representations. arXiv primary preprint (2024-12-19). arXiv:2412.14803.
Joglekar, O., et al. (2024). Towards Natural Language-Driven Assembly Using Foundation Models. arXiv primary preprint (2024-06-23). arXiv:2406.16093.