Chapter 9: 세 권을 하나의 로봇 시스템으로 완성한다 — 지시에서 검증된 실행까지
개요
마지막 장의 질문은 “가장 똑똑한 모델은 무엇인가?”가 아니다. 같은 탁상형 조립 셀에서 어떤 상위 구성요소를 추가했을 때 무엇이 실제로 달라졌고, 실패하면 어느 버전으로 되돌릴 수 있는가가 질문이다. 시각-언어-행동 모델(vision-language-action model, VLA), 세계 모델(world model), 에이전트(agent)는 각각 행동 후보, 예측 후보, 기술 순서를 제안할 수 있다. 그러나 제안은 토크도, 안전 승인도 아니다.
이 장은 S11이 다룬 물리 셀과 S12가 다룬 고전·학습 실행 기반이 현재 설치돼 있다고 단정하지 않는다. 로봇, 센서, 좌표계, 보정, 제어기, 기술 API(skill API), 독립 평가기, 감시 장치와 사람 책임자의 실제 버전을 확인할 수 있을 때만 그것들을 입력으로 받는다. 확인서가 없으면 상태는 missing, not measured, not exercised, incompatible 중 하나이며 관문은 닫힌다. 앞 권의 저장소나 원고가 존재한다는 사실은 출시 영수증이 아니다.
최종 산출물도 성공 영상이 아니다. 한 번의 보기 좋은 삽입은 초기 상태, 제외 규칙, 실패와 사람 개입을 숨길 수 있다. 여기서 완성은 세 권의 책임 지도, 변경 불가능한 버전 계보, 단계가 표시된 성공·실패 근거, 연습된 되돌리기, 그리고 유지보수가 기존 승인을 언제 무효화하는지를 담은 사람이 검토한 제한 시험 카드다.
이 장을 읽고 나면... - 명세된 과제부터 에이전트 구성까지 한 요소만 바꾸는 비교를 설계할 수 있다. - 재생·오프라인·시뮬레이션·그림자 실행·제한된 실제 시험의 분모와 영수증을 분리할 수 있다. - 자연어 변형, 새 물체와 배치, 여러 기술, 실패 복구를 공통 지표로 진단할 수 있다. - 모델 체크포인트가 아니라 셀 전체의 되돌리기 튜플과 유지보수 무효화 조건을 작성할 수 있다. - Codex에 구현을 맡길 때 수정 범위, 금지 권한, 검증과 완료 조건을 제한할 수 있다.
1. 비교 전에 셀을 봉인한다
1.1 세 권의 책임을 한 장에 놓기
세 권은 서로 대체 관계가 아니다. S11은 믿을 수 있게 움직이는 물리 기반을 맡는다. S12는 고전 기술과 필요한 학습 정책을 실행 가능 궤적과 제어기 기준값으로 바꾸는 등뼈를 맡는다. S13은 다양한 지시와 장면에서 제한된 과제·기술 제안을 만드는 상단을 맡는다. 독립 안전 권한은 세 층을 가로지르며 어느 모델에도 상속되지 않는다.
| 층 | 입력 | 허용 출력 | 실행 주기 | 소유하지 않는 권한 | 확인할 영수증 |
|---|---|---|---|---|---|
| 사람·과제 명세 | 작업 지시, 금지 조건, 목표 상태 | 버전 과제 카드, 승인 범위 | 작업 전·예외 시 | 실시간 제어, 자동 안전 면제 | 승인자, 유효 기간, 변경 이력 |
| S13 상위 지능 | 영상·상태·지시·허용 기술 목록 | 제한된 기술 후보, 순서, 설명, 중단·사람 요청 | 사건 기반·저주기 | 임의 코드 실행, 토크, 힘·충돌 한계 변경 | 모델·프롬프트·도구·메모리 버전 |
| S12 기술 실행 | 기술 호출, 전제 조건, 관측 상태 | 투영된 행동·궤적 후보, 상태 전이 | 기술별 중주기 | 안전 관문 우회, 임의 좌표계 해석 | 기술 API, 정책, 계획기, 투영기 버전 |
| S11 제어·셀 | 실행 가능한 기준값 | 모터 명령, 센서 기록, 정지 상태 | 결정론적 실시간 주기 | 상위 목표 재해석 | 로봇·센서·보정·제어기·시계 버전 |
| 독립 평가·안전 | 모든 층의 사건과 물리 신호 | 거부, 감속, 보호 정지, 비상 정지, 사람 인계 | 독립 주기 | 모델의 자기 승인 | 제한값, 감시 장치, 시험·서명 기록 |
이 지도에서 가장 중요한 경계는 proposal → projected → sent → accepted/executed다. 상위 모델이 “빨간 핀을 집어 구멍 B에 넣으라”고 제안한 시점, 기술 실행기가 충돌 없는 경로와 접촉 전 자세로 투영한 시점, 제어기에 기준값을 보낸 시점, 실제 제어기가 받아 실행한 시점은 서로 다른 사건 식별자를 가져야 한다. 네 사건을 하나의 action 로그로 합치면 잘못된 기술 선택과 전송 지연, 안전 거부, 물리 실패를 구분할 수 없다.
1.2 고정 카드와 공통 분모
공정한 비교는 성공 정의, 초기 상태 분포, 관측·행동 의미, 제어기, 안전 감독기, 평가기, 분모, 허용 적응 자료와 중단 규칙을 먼저 고정해야 한다. 시뮬레이션과 실제 결과의 상관을 연구한 SIMPLER는 시뮬레이터가 자동으로 실제 평가를 대신한다고 말하지 않으며, 소표본 비교 연구는 적은 반복에서 순위가 뒤집힐 수 있음을 보인다. 런타임 보증 연구 역시 보장 범위가 명시한 동역학·시간 가정에 의존한다 [15] [6] [4]. 따라서 아래 카드는 이 장의 통합 설계이지 어느 한 논문이 검증한 보편 표준이 아니다.
고정 카드에는 과제 성공을 “핀을 넣음”처럼 쓰지 않는다. 예를 들어 “허용 공차 안의 부품을 올바른 치구에 배치하고, 삽입 깊이와 최종 자세가 목표 범위 안이며, 충돌·힘 사건 없이 제한 시간 안에 종료 상태를 기록함”으로 쓴다. 초기 분포는 물체 종류, 자세 구간, 가림, 조명, 치구 위치, 지시 표현의 표본 추출 규칙까지 명시한다. 하드웨어 고장이나 운영자 실수로 제외한 시행도 원분모와 제외 사유에 남긴다.
공통 비율의 기본형은 다음과 같다.
$$
R_k = \frac{n_k}{N_{eligible}}, \qquad
R_{unsafe\_proposal} = \frac{n_{unsafe\_proposal}}{N_{proposal}}, \qquad
R_{recovery} = \frac{n_{recovered}}{N_{recoverable\_failure}}
$$
N_eligible은 사전 등록된 적격 시행 수, N_proposal은 중복을 제거한 상위 제안 수, N_recoverable_failure는 시험 전에 복구 가능으로 정의된 실패 수다. 성공률의 분모로 에피소드를 쓰면서 안전하지 않은 제안률의 분모로 제어 주기를 쓰면 두 수치는 함께 해석할 수 없다. 각 지표에는 분자 사건, 분모 단위, 관측 창, 제외 규칙과 신뢰구간 계산법을 붙인다.
1.3 탁상형 조립의 고정 시나리오
기본 시행은 일곱 상태를 지난다. 장면에서 부품과 치구를 식별하고, 부품을 잡고, 자유 공간에서 충돌 없이 운반하고, 접촉 전 자세에서 멈추고, 제한된 힘으로 배치·삽입하고, 성공 또는 실패를 감지하고, 후퇴·재시도·사람 요청·중단 중 하나로 끝낸다. 단일 팔과 평행 그리퍼가 기본이며 양손, 다지 손, 이동 조작은 같은 분모에 섞지 않는 별도 분기다.
S13 변화는 한 축씩 넣는다. 먼저 같은 목표를 다른 말로 표현한다. 다음에는 허용 범위 안의 새 색·물체·배치·치구·가림을 넣는다. 그다음 식별→파지→운반→삽입→검사처럼 여러 기술을 순서대로 요구한다. 마지막으로 누락된 전제 조건, 모호하거나 금지된 요청, 파지 미끄러짐, 삽입 막힘과 같은 복구 사건을 넣는다. 두 축을 동시에 바꾸는 조합 시험은 각 단일 축 관문을 통과한 뒤 별도 교차 분모로 연다.
2. 한 관문에서 한 제안자만 바꾼다
2.1 명세된 과제와 고전 기술 기준선
가장 낮은 비교점은 사람이 목표 물체, 치구, 기술 순서와 종료 조건을 명시한 과제다. 다음 비교점은 기하학 기반 인식, 파지 후보, 과제·동작 계획, 궤적 생성, 접촉 제어로 구성한 고전 기술 기준선이다. 계층적 과제·동작 계획은 연속 상태를 모두 미리 펼치지 않고 현재 필요한 선택을 구체화할 수 있지만, 모델링된 동작과 기하학이 맞아야 한다 [1]. 행동 트리와 CoSTAR 같은 구조는 상태와 실패 전이를 읽기 쉽게 만들지만 사람이 작성한 기술 구조가 필요하다 [2] [3].
고전 기준선은 낡아서 남기는 대조군이 아니다. 알려진 부품과 배치에서는 설명 가능한 실행 가능성 검사, 결정론적 재생, 정확한 실패 위치를 제공할 수 있다. 상위 모델이 이 기준선보다 성공·복구·지연·비용에서 낫지 않거나 새 변형 범위를 열지 못하면 복잡성을 추가할 이유가 없다. 반대로 지각 오차나 기하 모델 불일치가 우세하면 모델을 바꾸기 전에 보정·장면 표현·치구 설계를 고쳐야 한다.
2.2 S12의 단순 학습 정책을 유지하기
VLA, 세계 모델 또는 에이전트를 추가하기 전에 고전 실행과 단순한 S12 학습 정책을 각각 기준선으로 유지한다. 확산 정책은 행동 분포와 묶음 실행의 한 선택지를 보여 주지만 반복 잡음 제거 지연과 논문별 자료·시간 지평선 차이가 남는다. Octo는 여러 로봇 자료의 사전학습 가능성을 보여 주지만 손목 카메라, 새 인터페이스와 실패 자료의 한계를 스스로 밝힌다 [8] [16]. 원 논문의 수치는 고정 S13 셀의 수치가 아니므로 동일 과제·분모에서 다시 시험해야 한다.
여기서 S12 정책은 승인된 관측에서 제한된 행동 묶음을 제안하는 가장 단순한 정책으로 둔다. 자료 버전, 관측 창, 행동 지평선, 재계획 빈도, 대기열 한계와 오래된 명령 거부를 고정한다. 정책이 생성한 묶음 전체를 성공으로 채점하지 말고 각 묶음의 제안 시각, 투영 결과, 전송 시각, 실제 실행 길이와 중단 이유를 기록한다. 이 기준선은 VLA가 언어와 넓은 자료에서 얻는 이득을 “더 큰 정책”의 이득과 분리한다.
2.3 VLA 기술 제안으로 넓히기
VLA 단계에서 바뀌는 것은 자연어·영상 조건을 읽어 허용 목록 안의 기술과 매개변수를 제안하는 구성요소뿐이다. RT-2는 웹 지식을 로봇 행동 표현으로 연결하는 물리 시험을 보고했고, OpenVLA와 π0 계열은 서로 다른 자료 혼합과 행동 머리의 선택지를 제시한다 [12] [17] [18]. 그러나 훈련 자료 중복, 로봇별 적응, 초기화와 시행 분모가 다르므로 이 결과를 한 순위표로 옮길 수 없다.
탁상형 조립에서 VLA의 제안 스키마는 skill_id, 버전, 대상 물체, 목표 치구, 자세·힘 범위의 상한, 전제 조건, 만료 시각, 자신이 모르는 항목, 근거 관측 식별자로 제한한다. 자유 텍스트는 설명으로 저장하되 실행기가 읽는 필드가 아니다. 새 지시 표현 시험은 의미가 같은 표현군과 의미가 다른 대조군을 함께 둔다. 새 물체 시험은 색만 달라진 경우, 기하가 달라진 경우, 파지·접촉 성질이 달라진 경우를 분리한다.
VLA가 틀린 기술을 고르면 평가기는 grounding_wrong_object, grounding_wrong_relation, skill_precondition_violation 중 하나를 붙인다. 올바른 기술이 실행 가능성 투영에서 거부되면 proposal_infeasible이다. 투영을 통과했지만 삽입이 막히면 contact_execution_failure다. 이 구분이 있어야 언어 연결을 개선할지, 기하·보정을 고칠지, 접촉 기술을 다시 학습할지 결정할 수 있다.
2.4 선택적 세계 모델 후보
세계 모델은 필수 층이 아니다. 여러 실행 가능한 후보 중 결과를 예측해 순위를 바꾸거나, 삽입 실패를 미리 경고할 때만 추가한다. 영상 예측은 짧은 재계획에 도움을 줄 수 있지만 픽셀 목표가 물리적으로 틀린 상태에서도 맞을 수 있고 가림과 긴 지평선에서 오차가 누적된다 [14]. DayDreamer는 실제 로봇에서 세계 모델 학습의 가능성을 보였지만 짧은 과제이며 언어·조립 접촉·독립 안전을 검증하지 않았다 [13]. 최근 확산 세계 모델의 정책 개선 결과도 해당 자료와 시험 범위 안의 근거이지 현재 셀의 승인 근거가 아니다 [21].
따라서 세계 모델은 후보 식별자 → 예측된 관측·접촉·비용 분포 → 불확실성 → 순위 변화 이유를 반환한다. 예측이 없을 때 기존 계획을 중단하는지, 기존 순위를 유지하는지 사전에 정한다. 예측 서비스 지연이나 장애가 실시간 제어를 멈추게 해서는 안 된다. 모델이 후보 A를 골랐더라도 A는 동일 투영기, 충돌·힘 관문과 사람 승인 범위를 다시 통과한다.
2.5 에이전트가 여러 기술을 구성하기
마지막 단계에서 에이전트는 긴 지시를 버전 기술 호출의 순서로 분해하고, 각 결과를 읽어 다음 호출·재계획·사람 인계를 선택한다. SayCan은 언어 가능성과 학습된 기술 가능성을 결합하는 방식을 보여 주지만 기술 목록과 가치 함수가 미리 정의돼 있으며 점수는 안전 보장이 아니다 [7]. Code as Policies는 제한된 함수 이름 공간에서 코드 형태의 구성을 보여 주지만 생성물이 각 API 가정을 그대로 물려받는다 [9]. AutoTAMP는 언어를 형식 명세로 번역하고 검사하는 경로를 제안하지만 검사는 인코딩한 제약만 다룬다 [10].
에이전트의 도구는 읽기 전용 장면 질의, 기술 카탈로그 조회, 제한된 계획 검증, 실행 상태 조회와 사람 요청으로 시작한다. 임의 셸, 네트워크, 제어기 설정 변경과 새 코드의 즉시 실행은 금지한다. 메모리는 실행 권한이 아니라 검색 가능한 기록이며, 오래된 보정이나 다른 로봇의 실패 사례에는 호환성 태그를 붙인다. BUMBLE의 장기 이동 조작은 실패 기억과 기술 구성의 사례를 제공하지만 기억 증가 비용과 언어로 표현하기 어려운 기술 매개변수의 한계가 남는다 [19].
VLA, 세계 모델과 에이전트를 바꾸는 실험에서는 제한된 제안만 달라져야 하며 아래 실행·안전 층은 고정한다. VLA 행동 생성, 세계 모델 순위화, 장기 에이전트 구성과 예측 안전 필터는 각각 부분 근거를 제공하지만 어느 원 출처도 이 장의 전체 조립 스택을 구현하거나 모델에 안전 권한을 넘기지 않는다 [18] [21] [19] [5]. 이것이 통합 아키텍처의 증거 한계다.
| 비교 단계 | 이번에 바꾸는 것 | 고정하는 것 | 승격 질문 | 즉시 되돌릴 조건 |
|---|---|---|---|---|
| 명세 과제 | 사람 작성 목표·순서 | 셀, 기술, 제어, 평가, 안전 | 성공 정의가 재현되는가 | 과제 해석 불일치 |
| 고전 기준선 | 기하·계획 기반 제안 | 같은 초기 분포와 하위 계약 | 알려진 범위의 최소 성능인가 | 충돌·접촉 실패 증가 |
| S12 정책 | 제한 행동 묶음 제안 | 같은 기술 경계·투영·제어 | 고전 기준선에 없는 이득인가 | 오래된 묶음·지연·개입 증가 |
| VLA | 언어·영상 기반 기술 제안 | 허용 목록과 하위 계약 | 새 지시·물체 이득이 있는가 | 잘못된 대상·전제 조건 위반 |
| 세계 모델 | 후보 결과 예측·순위 | 후보 생성과 안전 관문 | 선택 품질이 비용보다 나은가 | 예측 표류·마감 초과 |
| 에이전트 | 여러 기술 순서·복구 선택 | 기술 API와 사람 권한 | 긴 과제·복구가 재현되는가 | 금지 도구·루프·잘못된 인계 |
3. 근거 사다리는 한 칸씩 오른다
3.1 재생에서 실제 제한 시험까지
오프라인, 재생, 시뮬레이션, 그림자 실행과 실제 하드웨어 근거는 각각 다른 분모와 영수증을 가져야 한다. SIMPLER의 정책별 상관 근거는 특정 시뮬레이션 구성에 한정되고, DayDreamer의 실제 학습 결과는 온라인 물리 노출을 포함한다. 배포 시점 감시 연구도 실패 탐지 범주를 나누지만 이 셀의 그림자 실행을 대신하지 않는다 [15] [13] [22]. 특히 명시적 그림자 근거는 현장에서 새로 만들어야 한다.
이 장에서 재생은 기록된 입력을 같은 구성요소에 다시 넣어 출력·상태 전이·시간 결정성을 확인하는 단계다. 오프라인은 고정 자료 분할에서 정확도, 보정, 전제 조건 위반과 오염 가능성을 평가한다. 시뮬레이션은 충돌, 도달 가능성, 지연·장애 주입과 반사실 후보를 시험한다. 그림자 실행은 실제 센서 흐름을 읽되 명령을 제어기에 보내지 않고 승인된 기준선과 제안 차이를 기록한다. 제한된 실제 시험만 실제 명령을 보내며 사람 검토 카드의 범위·속도·힘·시행 수 안에서 수행한다.
| 근거 단계 | 실행 권한 | 필수 분모 | 통과 증거 | 이 단계가 말하지 못하는 것 |
|---|---|---|---|---|
| 재생 | 없음 | 기록 묶음·사건 수 | 같은 버전의 결정성, 스키마·시간 검사 | 새 장면과 물리 접촉 |
| 오프라인 | 없음 | 사전 등록한 자료 분할 | 대상·관계·기술 정확도, 거부율, 오염 감사 | 폐루프 회복과 실제 지연 |
| 시뮬레이션 | 가상 | 시드·초기 상태·장애 주입 수 | 충돌·도달·마감·복구 반례 | 실제 마찰·가림·센서 표류 |
| 그림자 실행 | 실제 센서, 명령 없음 | 운영 창·제안·불일치 사건 수 | 기준선 대비 제안·지연·거부 분포 | 명령 후 물리 반응 |
| 제한 실제 시험 | 제한 명령 | 적격 시행·제안·접촉·실패 수 | 사람이 서명한 성공·실패·정지·복구 | 승인 범위 밖 자율 운용 |
단계 승격은 앞 단계 성공률 하나로 결정하지 않는다. 필수 사건 필드가 완전한지, 실패 주입이 실제로 실행됐는지, 최악 지연과 관측 나이가 마감 안인지, 안전하지 않은 제안을 독립 관문이 거부했는지 확인한다. not exercised인 보호 정지 시험을 0건의 사고로 바꿔 쓰지 않는다. 실제 시험 카드가 열려도 시행 수, 속도, 힘, 물체, 배치와 시간 창을 늘리려면 새 승인이다.
3.2 일반화 축을 섞지 않기
자연어 변화는 목표 상태가 같은 동의 표현, 순서가 바뀐 표현, 부정과 금지, 모호성으로 나눈다. 물체 변화는 시각 모양, 기하, 질량·마찰, 접촉 공차를 나눈다. 배치 변화는 카메라 시야, 로봇 도달 가능성, 장애물과 치구 자세를 분리한다. 여러 기술 변화는 순서 길이, 분기 수, 재시도 예산과 부분 관측을 기록한다. 다른 로봇 형태는 관측·행동 변환기와 제어 모드가 바뀌므로 기존 분모에서 제외하고 별도 적응 카드로 평가한다.
각 축의 결과는 in_distribution, new_instruction, new_object_visual, new_object_physical, new_layout, multi_skill, failure_recovery, cross_embodiment로 태그한다. “새 물체 일반화 80%” 대신 “사전 등록한 시각 신규 물체 20회 중 목표·기술 일치 16회, 물리 속성 신규 물체는 시험하지 않음”처럼 쓴다. π0.5가 낯선 손잡이, 부분 관측과 잘못된 하위 과제 반복을 한계로 보고한 사례는 넓은 자료가 이런 축을 자동으로 없애지 않음을 보여 준다 [20].
3.3 지연·비용·사람 노출도 같은 결과다
모델 정확도만 좋아지고 관측 나이 또는 꼬리 지연이 늘면 조립 셀은 더 나빠질 수 있다. 각 제안에 센서 도착 시각, 모델 입력 시각, 추론 완료, 투영 완료, 전송, 수락, 실행 시작을 기록한다. 평균뿐 아니라 p50, p95, p99와 마감 초과율을 보고한다. 원격 서비스는 연결 시간 초과, 재시도, 중복 응답, 오래된 응답 폐기와 로컬 기준선 전환 시간을 별도 지표로 둔다.
비용에는 GPU 시간만 넣지 않는다. 자료 수집과 라벨 검토, 초기화, 사람 감시, 실패 후 셀 청소, 부품 손상, 보정 재실행과 원격 서비스 호출을 포함한다. 물리 노출은 실제 시행 수, 접촉 사건 수, 보호 정지 수, 사람이 위험 구역에 들어간 횟수로 보고한다. 세계 모델이 시행 수를 줄이더라도 계산 지연과 잘못된 후보 순위가 늘면 순이득을 다시 계산한다.
4. 실패 근거가 시스템의 경계를 만든다
4.1 단계 귀속 진단
최종 근거에는 단계가 귀속된 실패, 거부된 제안, 사람 개입, 재시도·재계획·인계, 되돌릴 수 없는 실패가 포함돼야 한다. REFLECT는 경험 요약을 이용한 실패 설명과 수정의 가능성을 보이지만 요약의 인과 정확성을 독립적으로 보장하지 않는다. BUMBLE은 70회 시험의 성공·실패 범주를 보고하며, 배포 감시 연구는 불규칙 행동과 과제 진행 정체를 다른 탐지기로 다룬다 [11] [19] [22]. 실패 분류 자체는 논문마다 다르므로 이 셀의 분류표를 시험 전에 고정해야 한다.
진단은 관측부터 거꾸로 올라간다. 먼저 힘·충돌·정지·제어 추종 오차로 물리 실행을 확인한다. 다음으로 투영기와 계획기의 거부 또는 경로 실패를 본다. 그다음 기술 전제 조건과 대상·관계 연결을 확인한다. 마지막으로 에이전트 계획, 메모리 검색과 도구 호출을 본다. 상위 모델의 자연어 설명은 가설이지 원인 판정이 아니다. 시간 동기화된 원자료와 반사실 재생이 설명을 지지할 때만 진단 근거로 승격한다.
| 증상 | 첫 확인 로그 | 가능한 귀속 | 허용 대체 동작 | 금지된 해석 |
|---|---|---|---|---|
| 잘못된 부품을 향함 | 대상 식별자·장면 시각 | 언어 연결·인식 | 제안 거부, 재관측, 사람 확인 | 제어기 오차로 뭉뚱그리기 |
| 경로가 투영에서 거부됨 | 후보·제약·좌표계 버전 | 기술 매개변수·보정·기하 | 다른 파지, 제한 재계획 | 거부를 실패율에서 제외 |
| 접촉 전에 멈추지 않음 | 관측 나이·대기열·제어 추종 | 지연·오래된 명령·제어 | 보호 정지, 기준선 복귀 | VLA 자신감으로 계속 실행 |
| 삽입이 반복해 막힘 | 힘·자세·접촉 상태 | 치구·보정·접촉 기술 | 후퇴, 1회 재정렬, 사람 인계 | 무제한 재시도 |
| 에이전트가 같은 기술을 반복 | 상태 전이·메모리·재시도 예산 | 계획·진행 탐지 | 루프 차단, 고정 복구 트리 | “자율 복구 중”으로 방치 |
| 설명과 원자료가 다름 | 원센서·사건 계보 | 요약·기억 오류 | 설명 폐기, 사람이 분류 | 설명을 정답 라벨로 저장 |
재시도는 같은 명령 반복이 아니다. 다시 관측한 뒤 실패 원인이 바뀌었는지 확인하고, 사전 승인한 매개변수 범위에서만 새 후보를 만든다. 재계획 예산, 최대 연속 접촉, 누적 힘 사건과 사람 인계 시점을 과제 카드에 둔다. 부품 손상, 치구 이동, 보정 상실, 보호 장치 작동은 되돌릴 수 없는 실패로 간주해 자동 복구를 끝낸다.
4.2 근거와 반근거를 함께 읽기
원 출처의 물리 로봇 결과는 실제 실행 가능성을 보여 주지만 현재 탁상형 조립에 그대로 전이되지 않는다. RT-2의 6,000회 이상 평가, SayCan의 101개 지시, OpenVLA의 여러 로봇·과제 비교는 각 논문의 자료, 로봇, 초기화와 채점 규칙 안에서 해석해야 한다 [12] [7] [17]. 시뮬레이션의 형식 검사와 안전 필터는 인코딩한 제약 안의 반례를 찾지만 마찰, 유연 부품, 센서 표류와 사람 행동을 모두 포괄하지 않는다 [10] [5].
따라서 근거 표에는 “무엇을 보였는가” 옆에 “무엇을 보이지 않았는가”를 쓴다. 실제 로봇 성공은 독립 안전 승인이 아니고, 시뮬레이션 상관은 실제 대체가 아니며, 성공한 재시도는 설명이 인과적으로 옳다는 증거가 아니다. 훈련 자료 포함 여부를 알 수 없는 새 지시 성공은 의미 일반화와 기억을 구분하지 못한다. 최근 2026년 사전 공개 연구는 유용한 운영 단서지만 독립 재현 전에는 근거 등급과 날짜를 함께 표시한다.
5. 사람이 검토하는 제한 시험 운영서
5.1 시험 전 실행 안내서
운영 책임자는 먼저 고정 카드의 해시와 서명을 확인한다. 로봇·그리퍼·카메라 식별자, 펌웨어, URDF와 좌표계 트리, 보정 결과, 제어기 설정, 충돌·힘 제한, 감시 장치와 비상 정지 시험 날짜가 버전 튜플과 맞아야 한다. 이어서 자료·모델·프롬프트·기술 카탈로그·도구 허용 목록·평가기 버전을 확인한다. 하나라도 다르면 이전 카드의 결과를 재사용하지 않는다.
시험자는 기준선부터 순서대로 실행한다. 고전 기준선과 S12 정책이 현재 셀에서 회귀하지 않았는지 확인한 뒤 VLA 그림자 실행을 연다. VLA가 통과하면 세계 모델은 필요한 가설에만 추가한다. 에이전트는 단일 기술들의 성공·실패·중단 상태가 검증된 뒤 여러 기술 과제에서만 연다. 각 단계의 실패를 다음 단계가 숨기도록 하지 않는다.
실제 제한 시험에는 두 사람이 역할을 나눈다. 실행 운영자는 초기화와 과제 카드를 따르고, 독립 승인자는 로그 완전성·안전 관문·중단 조건을 본다. 같은 사람이 모델을 개발하고 최종 승인하는 경우 이해 상충을 기록하고 추가 검토자를 둔다. 비상 정지는 어떤 소프트웨어 응답과도 무관하게 접근 가능해야 한다.
5.2 제한된 Codex 구현 지시문
아래 지시문은 코드를 즉시 로봇에 배포하라는 명령이 아니다. 별도 작업 트리에서 어댑터와 검증 산출물을 만들기 위한 범위 계약이다.
목표: 기존 탁상형 조립 실행기를 수정하지 않고, 자연어 지시를 버전이 지정된 허용 기술 후보로 변환하는 S13 제안 어댑터와 그림자 평가기를 구현한다. 맥락: 입력 스키마, 기술 API, 기준선 로그, 안전·정지 권한과 버전 튜플은 제공된 읽기 전용 계약을 따른다. 값이 없으면 추측하지 말고missing으로 실패시킨다. 수정 범위: 새 제안 어댑터, 스키마 검사, 사건 로그, 재생·오프라인·시뮬레이션·그림자 시험과 문서만 수정한다. 제어기, 충돌·힘 제한, 감시 장치, 비상 정지, 보정과 기존 기준선은 수정하지 않는다. 금지: 임의 셸·네트워크 도구, 자유 텍스트 실행, 안전 관문 우회, 실제 로봇 명령 전송, 자동 배포, 승인되지 않은 기술 추가를 금지한다. 검증: 고정 자료에서 결정론적 재생, 잘못된 대상·누락 전제 조건·만료 제안 거부, 지연·서비스 장애 주입, 기준선 대비 그림자 차이, 로그 계보 검사를 실행한다. 완료 조건: 모든 산출물에 버전과 해시가 있고, 분모·제외 규칙이 기록되며, 실패 시험이 실제 수행됐고, 남은 항목이not measured로 명시돼야 한다. 실제 하드웨어 승격은 사람이 별도 서명한다.
Codex가 만든 시험도 증거 단계가 표시돼야 한다. 단위 시험 통과는 오프라인 근거이고, 시뮬레이터 통과는 시뮬레이션 근거다. 실제 센서로 명령 없이 비교해야 그림자 근거가 된다. 어떤 자동 보고서도 독립 승인자의 서명을 대신하지 않는다.
5.3 제조 셀 적용 체크포인트
| 항목 | 승인 전에 답할 질문 | 닫힘 상태 |
|---|---|---|
| 과제 | 목표·금지·초기 분포·성공·제외·중단 규칙이 버전 관리되는가? | 누락 시 missing |
| 자료·로그 | 관측·제안·투영·전송·실행·평가 사건과 시간이 연결되는가? | 미측정 시 not measured |
| 기준선 | 고전 기술과 단순 정책을 같은 분모에서 다시 실행했는가? | 미실행 시 not exercised |
| 상위 제안 | VLA·세계 모델·에이전트가 허용 스키마와 기술 목록만 쓰는가? | 불일치 시 incompatible |
| 평가 | 일반화 축, 실패 분류, 개입·복구·지연·비용 분모가 분리되는가? | 분모 불명 시 관문 닫힘 |
| 안전 | 독립 거부·감시·보호 정지·비상 정지·사람 권한을 시험했는가? | 자기 보고만 있으면 실패 |
| 운영 | 장애, 오래된 명령, 재연결, 서비스 중단과 기준선 복귀를 연습했는가? | 연습 없음이면 승격 금지 |
| 유지보수 | 보정·하드웨어·펌웨어·모델·프롬프트 변경의 무효화 규칙이 있는가? | 규칙 없음이면 영수증 무효 |
6. 버전 계보, 되돌리기와 유지보수 영수증
6.1 체크포인트가 아니라 전체 튜플
하드웨어 승격에는 변경 불가능한 버전 튜플, 독립 서명, 연습된 되돌리기와 유지보수 무효화 조건이 필요하다. 런타임 보증 구조는 상위 제안과 안전한 대체 제어를 분리하지만 명시한 모델·시간 가정 밖을 보장하지 않는다. 배포 신뢰성 연구도 정책 주변의 감시가 중요함을 보여 주지만 모델 체크포인트 하나에는 보정, 안전 설정과 사람 권한이 들어 있지 않다 [4] [22].
되돌리기 튜플은 최소한 다음 항목을 함께 묶는다. 과제·초기 분포·기술 API, 로봇·도구·센서·펌웨어, 좌표계·보정·시간 동기화, 계획기·투영기·제어기, 충돌·힘·감시·정지 설정, 자료·분할·정규화, 정책·VLA·세계 모델·에이전트, 프롬프트·도구·메모리, 평가기·실패 분류·분모, 실행 환경·의존성·원격 서비스, 승인자·유효 기간이다. 각 항목은 식별자, 내용 해시, 출처, 호환 범위와 마지막 검증 시간을 가진다.
되돌리기는 문서의 버튼 이름이 아니라 연습 결과다. 새 상위 구성요소가 응답하지 않을 때 활성 기술을 취소하고 대기열을 비우고, 오래된 응답을 폐기하고, 고전 또는 승인된 S12 기준선으로 전환하고, 안전 상태에서 과제를 다시 시작하는 시간을 측정한다. 전환 도중 이미 접촉 중이면 즉시 기준선을 이어받을 수 있다는 가정을 하지 않는다. 접촉 기술의 정의된 중단 자세나 보호 정지 뒤 사람 초기화를 따른다.
6.2 유지보수가 승인을 무효화하는 순간
카메라를 다시 달거나 렌즈를 바꾸면 장면 변환과 VLA 입력 분포가 함께 바뀐다. 그리퍼 패드, 부품 공급처, 치구 공차 또는 윤활이 바뀌면 접촉 정책과 힘 제한을 다시 확인해야 한다. 펌웨어·드라이버·제어기 주기 변경은 지연과 대기열 의미를 바꾼다. 프롬프트, 기술 설명, 도구 목록과 메모리 검색 규칙 변경도 모델 가중치가 같더라도 행동 가능한 시스템을 바꾼다.
무효화는 전부 또는 전무가 아니다. 설명 문구 수정처럼 실행 스키마에 영향이 없음을 증명한 변경은 재생만 요구할 수 있다. 카메라 외부 보정 변경은 재생·오프라인·시뮬레이션·그림자를 다시 요구한다. 힘 제한이나 제어기 변경은 제한 실제 시험과 독립 안전 서명을 다시 요구한다. 새 로봇 형태는 적응 어댑터가 있어도 별도 시스템으로 취급한다.
| 변경 | 최소 재검증 | 이전 근거 중 유지 가능한 것 | 자동 무효화 대상 |
|---|---|---|---|
| 문서·표시만 수정 | 스키마 차이·재생 | 물리 시험 | 문서 해시 |
| 프롬프트·기술 설명 | 재생·오프라인·그림자 | 하위 제어 시험 | 언어·기술 선택 근거 |
| 카메라·보정 | 오프라인·시뮬레이션·그림자 | 독립 정지 장치 시험 | 지각·도달·좌표 근거 |
| 정책·VLA·세계 모델 | 전 근거 사다리, 제한 시험 재서명 | 고정 하드웨어 증명 | 모델 성능·지연·복구 근거 |
| 제어기·힘·충돌 설정 | 하위 회귀와 제한 실제 시험 | 자료 출처 감사 | 실행·안전 영수증 |
| 새 그리퍼·로봇 형태 | 새 적응 카드 전체 | 연구 출처만 | 기존 실행 승인 전체 |
6.3 최종 인계 묶음
최종 인계 폴더에는 영상보다 먼저 기계가 읽을 수 있는 과제 카드, 시스템 지도, 버전 튜플, 자료·모델 카드, 시험 목록과 원분모, 사건 로그 색인, 실패·개입·복구 표, 제한 시험 서명, 되돌리기 연습 기록, 유지보수 무효화 표가 들어간다. 성공 영상은 특정 사건 식별자를 가리키는 보조 자료일 수 있지만 독립 증거가 아니다.
인수자는 다섯 질문에 답할 수 있어야 한다. 현재 활성 제안자는 무엇인가? 마지막으로 독립 검증된 하위 실행 튜플은 무엇인가? 어떤 일반화 축과 실패가 시험되지 않았는가? 오늘 모델이나 서비스가 사라지면 어느 기준선으로 몇 초 안에 돌아가는가? 다음 보정·펌웨어·치구 변경이 어떤 영수증을 무효화하는가? 답이 로그에서 재현되지 않으면 시스템은 완성된 것이 아니다.
이 결론은 S11 또는 S12가 공개 완료됐다는 뜻이 아니다. 두 권에서 유래한 인터페이스는 현재 셀에서 버전과 영수증을 확인해야 하는 선행 조건일 뿐이며, 유효한 출시 확인서가 생기기 전에는 독자용 최종 교차 링크를 고정하지 않는다. S13 역시 사람이 검토한 제한 범위 밖의 범용 자율성을 주장하지 않는다.
관련 심화 읽기
다음 Terry 글은 개별 기술을 더 깊게 읽기 위한 교차 읽기이며 이 장의 주장 근거는 아니다: ForceVLA, π0 흐름 모델, DexForce, π0.6 회고, CaP-X, RoboClaw, 힘·토크 기반 순응 조작, 접촉을 포함한 전역 계획. 앞 두 권의 링크는 출시 영수증이 확인될 때까지 확정하지 않는다.
다음에 배울 것
세 권을 마쳤다면 새 모델 이름을 더 수집하기보다 한 개의 닫힌 관문을 실제로 완성하라. 먼저 현재 셀의 고전 기준선을 같은 초기 분포에서 재현하고, 단순 정책의 회귀를 확인한다. 그 위에 VLA를 그림자 제안자로만 연결해 자연어 변형 하나의 분모를 채운다. 실패·거부·지연 로그가 완전하고 독립 승인자가 서명한 뒤에만 제한 실제 시험을 연다.
그다음 연구 질문은 결과가 가리키는 병목에서 고른다. 잘못된 대상이 많으면 언어 연결과 장면 표현을, 투영 거부가 많으면 기하·보정·기술 매개변수를, 접촉 실패가 많으면 S12 실행 기술을, 긴 과제 루프가 많으면 상태 기계와 에이전트 복구를 공부한다. 세계 모델은 이 진단에서 후보 선택 오류가 지배적일 때만 추가한다. 세 권의 완성은 모든 층을 학습시키는 데 있지 않고, 어느 층을 바꿨는지 증명하고 안전하게 되돌릴 수 있는 데 있다.
보충 근거 지도
다음 묶음은 독립 S13 원장에서 이 장과 연결된 검증 원 자료다. 기존 주장과 분모를 바꾸지 않고 탐색 범위만 명시한다.
- 촉각·연성체: Generalize by Touching: Tactile Ensemble Skill Transfer for Robotic Furniture Assembly, UBSoft: A Simulation Platform for Robotic Skill Learning in Unbounded Soft Environments, PAVLM: Advancing Point Cloud based Affordance Understanding Via Vision-Language Model, ManiGaussian: Dynamic Gaussian Splatting for Multi-task Robotic Manipulation — 개별 출처의 과제·자료·근거 단계를 합치지 않는다.
- 표현·다과제 학습: Contrastive Imitation Learning for Language-guided Multi-Task Robotic Manipulation, DexDiff: Towards Extrinsic Dexterity Manipulation of Ungraspable Objects in Unrestricted Environments, Hierarchical Diffusion Policy for Kinematics-Aware Multi-Task Robotic Manipulation — 개별 출처의 과제·자료·근거 단계를 합치지 않는다.
- 기술 분해·적응: DexSkills: Skill Segmentation Using Haptic Data for Learning Autonomous Long-Horizon Robotic Manipulation Tasks, AdaDemo: Data-Efficient Demonstration Expansion for Generalist Robotic Agent, Policy Adaptation via Language Optimization: Decomposing Tasks for Few-Shot Imitation — 개별 출처의 과제·자료·근거 단계를 합치지 않는다.
참고문헌
- Kaelbling, L. P., & Lozano-Pérez, T. (2011). Hierarchical Task and Motion Planning in the Now. IEEE ICRA. arXiv:1011.0010.
- Paxton, C., et al. (2017). CoSTAR: Instructing Collaborative Robots with Behavior Trees and Vision. IEEE ICRA. arXiv:1611.06145.
- Colledanchise, M., & Ögren, P. (2018). Behavior Trees in Robotics and AI: An Introduction. CRC Press. arXiv:1709.00084.
- Mehmood, U., Sheikhi, S., Bak, S., Smolka, S. A., & Stoller, S. D. (2022). The Black-Box Simplex Architecture for Runtime Assurance of Autonomous CPS. NASA Formal Methods. DOI: 10.1007/978-3-031-06773-0_12. arXiv:2102.12981.
- Wabersich, K. P., & Zeilinger, M. N. (2021). A Predictive Safety Filter for Learning-Based Control of Constrained Nonlinear Dynamical Systems. Automatica. arXiv:1812.05506.
- Agarwal, R., et al. (2021). Deep Reinforcement Learning at the Edge of the Statistical Precipice. NeurIPS. arXiv:2108.13264.
- Ahn, M., et al. (2022). Do As I Can, Not As I Say: Grounding Language in Robotic Affordances. CoRL. arXiv:2204.01691.
- Chi, C., et al. (2023). Diffusion Policy: Visuomotor Policy Learning via Action Diffusion. Robotics: Science and Systems. arXiv:2303.04137.
- Liang, J., et al. (2023). Code as Policies: Language Model Programs for Embodied Control. IEEE ICRA. arXiv:2209.07753.
- Chen, Y., et al. (2023). AutoTAMP: Autoregressive Task and Motion Planning with LLMs as Translators and Checkers. IEEE ICRA. arXiv:2306.06531.
- Liu, Z., et al. (2023). REFLECT: Summarizing Robot Experiences for Failure Explanation and Correction. CoRL. arXiv:2306.15724.
- Brohan, A., et al. (2023). RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control. CoRL. arXiv:2307.15818.
- Wu, P., et al. (2023). DayDreamer: World Models for Physical Robot Learning. CoRL, PMLR 205.
- Finn, C., & Levine, S. (2017). Deep Visual Foresight for Planning Robot Motion. IEEE ICRA. arXiv:1610.00527.
- Li, X., et al. (2024). Evaluating Real-World Robot Manipulation Policies in Simulation. arXiv:2405.05941.
- Octo Model Team, et al. (2024). Octo: An Open-Source Generalist Robot Policy. arXiv:2405.12213.
- Kim, M. J., et al. (2024). OpenVLA: An Open-Source Vision-Language-Action Model. arXiv:2406.09246.
- Black, K., et al. (2024). $\pi_0$: A Vision-Language-Action Flow Model for General Robot Control. arXiv:2410.24164.
- Shah, R., et al. (2024). BUMBLE: Unifying Reasoning and Acting with Vision-Language Models for Building-wide Mobile Manipulation. arXiv:2410.06237.
- Physical Intelligence, et al. (2025). $\pi_{0.5}$: A Vision-Language-Action Model with Open-World Generalization. arXiv:2504.16054.
- Jiang, Z., et al. (2025). World4RL: Diffusion World Models for Policy Refinement with Reinforcement Learning for Robotic Manipulation. arXiv:2509.19080.
- Agia, C. (2026). Deployment-Time Reliability of Learned Robot Policies. arXiv:2603.11400.
- Lin, H., et al. (2024). Generalize by Touching: Tactile Ensemble Skill Transfer for Robotic Furniture Assembly. arXiv primary preprint (2024-04-26). arXiv:2404.17684.
- Lin, C., et al. (2024). UBSoft: A Simulation Platform for Robotic Skill Learning in Unbounded Soft Environments. arXiv primary preprint (2024-11-19). arXiv:2411.12711.
- Liu, S., et al. (2024). PAVLM: Advancing Point Cloud based Affordance Understanding Via Vision-Language Model. arXiv primary preprint (2024-10-15). arXiv:2410.11564.
- Lu, G., et al. (2024). ManiGaussian: Dynamic Gaussian Splatting for Multi-task Robotic Manipulation. arXiv primary preprint (2024-03-13). arXiv:2403.08321.
- Ma, T., et al. (2024). Contrastive Imitation Learning for Language-guided Multi-Task Robotic Manipulation. arXiv primary preprint (2024-06-14). arXiv:2406.09738.
- Ma, C., et al. (2024). DexDiff: Towards Extrinsic Dexterity Manipulation of Ungraspable Objects in Unrestricted Environments. arXiv primary preprint (2024-09-09). arXiv:2409.05493.
- Ma, X., et al. (2024). Hierarchical Diffusion Policy for Kinematics-Aware Multi-Task Robotic Manipulation. arXiv primary preprint (2024-03-06). arXiv:2403.03890.
- Mao, X., et al. (2024). DexSkills: Skill Segmentation Using Haptic Data for Learning Autonomous Long-Horizon Robotic Manipulation Tasks. arXiv primary preprint (2024-05-06). arXiv:2405.03476.
- Mu, T., et al. (2024). AdaDemo: Data-Efficient Demonstration Expansion for Generalist Robotic Agent. arXiv primary preprint (2024-04-11). arXiv:2404.07428.
- Myers, V., et al. (2024). Policy Adaptation via Language Optimization: Decomposing Tasks for Few-Shot Imitation. Conference on Robot Learning, 2024. arXiv:2408.16228.