真-仿-真闭环
Real-to-Sim-to-RealReal2Sim2Real常用先把真实场景复刻进仿真,在仿真里训练或造数据,再把策略部署回真机。
真-仿-真闭环把现实到仿真和仿真到现实串成一条流水线:先扫描真实环境、重建成仿真里的数字孪生,再在这个复刻场景里做强化学习、生成大量合成数据或安全地评测,最后把得到的策略迁回真实机器人。和纯 Sim-to-Real 相比,训练场景就是部署场景的副本,虚实差距更小;和只用真机数据相比,仿真里能低成本试错、主动制造扰动,提升鲁棒性。近两年常见做法是用 3D 高斯泼溅重建出照片级画面,再配上物理引擎处理交互。局限是每换一个场景都要重新重建,摩擦、柔软度等物理参数也很难扫准。
例子MIT 等的 RialTo:用 Polycam 等扫描工具约 25 分钟搭好场景的数字孪生,把约 15 条真实演示搬进仿真后做强化学习微调,再蒸馏回基于视觉的真机策略;论文报告在叠盘子、把书放上架等 8 个任务上鲁棒性比纯模仿学习提升超过 67%。
- 也叫
- 虚实闭环、Real2Sim2Real、实-虚-实
- 相关
- 现实到仿真、仿真到现实迁移、数字孪生、高斯泼溅仿真、强化学习微调、虚实差距
- 来源
- Reconciling Reality through Simulation: A Real-to-Sim-to-Real Approach for Robust Manipulation (RialTo, arXiv 2403.03949)
RoboGSim: A Real2Sim2Real Robotic Gaussian Splatting Simulator (arXiv 2411.11839)