reinforcement-learning flow-matching grpo optimal-transport inverse-design deployment-simulation kirigami silhouette-matching
Abstract
Kirigami is an increasingly useful fabrication method to produce shape-programmable metamaterial structures. However, inverse design remains difficult because deployment is nonlinear, and feasible cut layouts must satisfy discrete compatibility rules, avoid overlap, and map one target shape to valid designs. We present RL-Kirigami, an inverse design framework that combines optimal-transport conditional flow matching (OT-CFM) with reinforcement learning to generate compatible ratio fields for compact reconfigurable parallelogram quad kirigami. A marching decoder enforces global geometric compatibility, and Group Relative Policy Optimization (GRPO) aligns the generator with nondifferentiable rewards for silhouette matching, feasibility, and ratio-field regularity. Across procedurally generated target shape instances, a single sample from the pretrained OT-CFM prior reached $94.2%$ sIoU and outperformed solver baselines while reducing forward simulator evaluations from hundreds to 1. GRPO improved accuracy to $94.91%$ sIoU and, with regularity included, reduced $\mathrm{TV}(\mathbf{x})$ from 0.95 to 0.81 while maintaining $94.83%$ sIoU. Generated layouts were exported to DXF and laser-cut in $50~\mu\mathrm{m}$ polymeric sheets to produce deployable prototypes in $8.0 \pm 1.0$ minutes per part. These results support a manufacturing-aware inverse design workflow for deployable kirigami metamaterials under hard geometric feasibility constraints.
한국어 요약
📋 한 줄 요약
**[메타재료 / 강화학습 역설계]** 키리가미 메타재료의 호환성 제약을 만족하는 reconfigurable parallelogram quad 키리가미를 OT-CFM과 RL로 역설계하고 실제 레이저 컷팅까지 검증한 RL-Kirigami 프레임워크 제안.
🎯 핵심 기여도
- 비선형 전개·이산 호환 규칙·중첩 회피라는 어려운 제약 조건을 갖는 키리가미 역설계 문제를 종단간 학습 프레임워크로 형식화.
- Optimal-Transport Conditional Flow Matching(OT-CFM) 생성 모델과 강화학습(GRPO)을 결합한 RL-Kirigami 설계.
- 글로벌 기하 호환성을 강제하는 marching decoder 도입.
- 시뮬레이션·실제 제조까지의 워크플로(설계 → DXF → 50μm 폴리머 시트 레이저 컷팅)를 한 파이프라인으로 시연.
💡 핵심 아이디어
미분 불가능한 보상(실루엣 일치·feasibility·정규성)을 RL로 처리하고, 호환 가능한 ratio field를 OT-CFM 사전으로 빠르게 샘플링한 뒤 RL로 세밀 정렬하면 시뮬레이터 호출 수를 수백 회에서 1회로 줄일 수 있다는 통찰.
🔬 기술적 접근법
- **모델/방법론**: OT-CFM 사전 분포로 ratio field 생성 + marching decoder로 글로벌 호환성 강제 + GRPO(Group Relative Policy Optimization)로 미분 불가 보상 정렬.
- **핵심 기법**: silhouette IoU·feasibility·ratio field regularity를 결합한 다중 보상, GRPO를 통한 정책 업데이트, 결과 layout을 DXF로 export 후 레이저 컷팅.
📊 주요 결과
- OT-CFM 사전 단독 샘플 1회로 94.2% sIoU 달성, solver baseline 능가하면서 forward 시뮬레이션 호출을 수백→1로 감축.
- GRPO 정렬로 94.91% sIoU 달성.
- 정규성 보상 추가 시 TV(x) 0.95→0.81로 감소, sIoU 94.83% 유지.
- 부품당 8.0±1.0분 만에 deployable prototype 제작 성공.
💭 의의 및 한계
**의의**: 시뮬레이션·생성 모델·RL·제조를 연결하는 manufacturing-aware 역설계 워크플로의 모범 사례. **한계**: parallelogram quad 키리가미라는 특정 클래스에 집중, 다른 키리가미 패턴 클래스로의 확장은 추가 연구 필요.
🚀 실용적 활용
- 형태 가변 deployable 구조물(우주 구조, 의료 stent 등) 설계.
- 소프트 로보틱스의 형태 프로그래밍 가능 메타재료.
- 제조 제약을 반영한 실제 가공 가능 디자인 자동화 도구.