
ActSafeGuard: 플로우 매칭 정책을 위한 미분 가능한 훈련 정합 제약 강제
ActSafeGuard: Differentiable and Training-Aligned Constraint Enforcement for Flow-Matching Policies
Jianming Ma, Rongjun Jin, Xiaxi Si, Yang Zhang, Yiheng Li 외 1명
시각-언어-행동 모델(VLA)과 World-Action Model(WAM)은 범용 로봇 조작에서 높은 성능을 보이지만, 생성된 행동이 물리적 제약을 위반해 실제 배포에서 안전하지 않거나 실행 불가능한 경우가 있다. 기존 안전 기법은 추론 단계에서만 안전하지 않은 행동을 사후 수정하므로 학습과 실행 간 불일치가 발생한다. ActSafeGuard는 플로우 매칭(flow-matching) 기반 정책에 미분 가능한 안전 레이어를 도입해 행동 실현 가능성 제약을 학습 과정 자체에 통합한다. 분석적 레이 스케일링(ray-scaling) 연산자를 통해 경계 인식 그래디언트를 제공하여, 모델이 제약 다양체를 자연스럽게 학습하도록 유도한다. π_0.5 및 Fast-WAM 백본을 대상으로 한 실험에서 ActSafeGuard는 단계별 안전율 100%를 달성하면서 작업 성공률도 유지하거나 향상시키는 것으로 나타났다.













