Transferencia de Sim a Real para la Manipulación: Qué funciona en 2025
El estado actual de transferencia sim-a-real para la manipulación de robots <unk> aleatorización de dominios, aleatorización dinámica y enfoques híbridos que realmente funcionan.
[← Investigación]
Una evaluación honesta de dónde funciona la transferencia sim-a-real, dónde todavía no funciona y cómo construir una estrategia híbrida de datos sim+real que sea rentable.
La brecha entre Sim y realidad
La simulación es atractiva para el aprendizaje robótico: es barata, paralelable y libre de riesgos. Pero la brecha entre sim y realidad
La brecha tiene tres fuentes distintas, cada una de las cuales requiere diferentes estrategias de mitigación:
- Gap visual: Las imágenes simuladas utilizan texturas rasterizadas, iluminación sintética y propiedades de materiales idealizados.
- Gran distancia de la dinámica: Los simuladores de cuerpos rígidos (MuJoCo, Isaac Lab, PyBullet) utilizan modelos de contacto simplificados que no capturan con precisión la fricción, el cumplimiento y la dinámica de contacto en el mundo real.
- Gap de ruido del sensor: Las cámaras de profundidad real (RealSense D435i, ZED 2) producen ruido estructurado, caídas en superficies brillantes/oscuras y parpadeo temporal que es difícil de reproducir en la simulación.
Alrededor de la lista de dominios
La Randomization de dominio (DR) aborda las brechas visuales y dinámicas mediante el entrenamiento de la política sobre una gran distribución de entornos simulados, con la esperanza de que el mundo real se encuentre dentro de esta distribución.
- ** DR visual:** Alrededor de los rangos estándar: intensidad de iluminación ±50%, posición de la cámara ±3 cm, fondo: imágenes aleatorias de 10K.
- Dynamics DR: Alrededor de la masa de los objetos (±30% de la nominal), los coeficientes de fricción (±50%), el amortiguación de las articulaciones del robot (±20%), y la rigidez de contacto (±40%).
- Randomarización de masa para tareas de agarre: Una perturbación de masa de ±30% es suficiente para la mayoría de las tareas de agarre de cuerpos rígidos. Para tareas sensibles a la inercia (arrojar, manipulación dinámica), ±20% de masa combinada con ±30% de tensor de inercia es más adecuada.
Una representación fotorealista
Una alternativa a la DR es cerrar la brecha visual directamente con la representación fotorrealista. NVIDIA Replicator (en Isaac Sim), Blender con ciclos y renders personalizados basados en NeRF pueden producir imágenes lo suficientemente cercanas al real que la política no necesita generalizar en una gran distribución.
- NVIDIA Isaac Lab / Replicador: Rendering trazado con materiales PBR. Integra con el marco Isaac Lab RL. Costo de renderización: 10
100x más lento que la rasterization. Mejor para generar imágenes de evaluación en lugar de grandes conjuntos de entrenamiento. - BlenderProc: Pipeline de Blender basado en Python para la generación de conjuntos de datos. Excelente para generar conjuntos de datos sintéticos etiquetados para modelos de percepción (detección de objetos, estimación de poses). Menos útil para la capacitación de políticas de extremo a extremo debido a la velocidad de renderización.
- Rendering basado en NeRF: Captura el entorno real con un NeRF (nerfstudio, Gaussian Splatting) y renderiza nuevos puntos de vista/configuraciones. Combina una apariencia realista con la flexibilidad de la simulación.
Lo que hace que el bien sea mejor que el pobre
| Task Category | Transferencia Simulación-Realidad | Why | Mitigation If Needed |
|---|---|---|---|
| Free-space arm motion | Excellent | No contact, kinematics accurate | None required |
| Coarse top-down grasping | Good | Large contact surfaces, forgiving | Light visual DR |
| Pick-and-place (rigid, known objects) | Good | Low contact complexity | Visual DR + pose randomization |
| Precisión peg insertion (±2mm) | Poor | Contact model inaccuracy dominates | Real data required |
| Deformable object manipulation | Very poor | FEM simulation errors large | Mostly real data required |
| Bimanual coordination | Moderate | Timing depends on contact | Hybrid: sim init + real fine-tune |
| Cloth/fabric folding | Very poor | Soft-body sim diverges quickly | Real data required |
Los métodos híbridos que funcionan
El enfoque más rentable para la mayoría de los equipos es un híbrido: utilizar la simulación para la parte de la tarea en la que funciona la transferencia de sim, y recopilar demostraciones reales para las partes ricas en contacto o sensibles a la precisión.
- ** Simulación de la práctica de la simulación de la práctica de la tarea:** Pre-entrenamiento de la política en 10.000 demostraciones simuladas de comportamiento aproximado de la tarea (abordaje, apretamiento grueso).
- Sim para el plan de estudios: Utilice la simulación para generar ejemplos de formación fáciles al comienzo del entrenamiento (objeto colocado directamente bajo el control, gran tolerancia) y aumentar progresivamente la dificultad.
- Sim para el aumento de datos: Utilice la simulación para generar puntos de vista adicionales, condiciones de iluminación y configuraciones de objetos que complementen un conjunto de datos de demostración real.
Comparación de simulador
| Simulator | Motor de Física | Rendering | Speed (FPS) | Best For |
|---|---|---|---|---|
| Isaac Lab (NVIDIA) | PhysX 5 | RTX path-tracing | 1,000–10,000 parallel | RL at scale, GPU clusters |
| MuJoCo | Custom | Basic OpenGL | 500–5,000 | Research, accurate contact |
| PyBullet | Bullet 3 | Basic OpenGL | 100–1,000 | Easy setup, prototyping |
| Webots | ODE | Basic | 100–500 | Education, ROS integration |
| Gazebo / gz-sim | ODE/Bullet/DART | OGRE | 50–200 | ROS ecosystem integration |
Para los equipos que realizan entrenamiento RL que requiere millones de pasos ambientales, Isaac Lab en un grupo de múltiples GPU es el estándar actual.
Si necesita datos reales de demostración para complementar su programa de simulación, el RCSV [team de servicios de datos]
Datos reales de demostración de las diferencias entre Sim y realidad
Cuando la simulación no es suficiente, RCSV proporciona una recopilación de datos de demostración del mundo real dirigida para llenar los vacíos.
[Obtenga datos reales →]