Los formatos de datos de robots comparados: RLDS, LeRobot, HDF5
Comparación de los formatos de conjunto de datos de robots: RLDS (TensorFlow), LeRobot (Hugging Face), HDF5, RoboMimic. ¿Qué formato utilizar para su tubería de recopilación de datos?
Por qué es importante el formato
El formato del conjunto de datos determina qué modelos puede entrenar, qué tan fácilmente puede compartir datos con los colaboradores y cuánto gasto general de ingeniería se enfrenta en su pipeline.
Comparación de formato
RLDS (Google): basado en TFRecord, utilizado por Open X-Embodiment y RT-X. Excelente para el entrenamiento de cuerpo cruzado a gran escala. LeRobot (Hugging Face): basado en parquet, fácil de empujar a Hugging Face Hub, creciente adopción de la comunidad. HDF5: formato binario auto-descriptivo, utilizado por RoboMimic y muchos proyectos más antiguos. Zarr: compacto, amigable con la nube, ganando tracción para grandes conjuntos de datos.
- Para el entrenamiento en transbordadores: RLDS
- Para compartir en la comunidad y la iteración rápida: LeRobot
- Para compatibilidad con el sistema de datos: HDF5
- Para las tuberías nativas de la nube: Zarr
El proyecto de investigación de RCSV
La infraestructura de recopilación de datos de RCSV emite los formatos RLDS y LeRobot de forma nativa.
Por qué es importante el formato
El formato del conjunto de datos determina qué modelos puede entrenar, qué tan fácilmente puede compartir datos con los colaboradores y cuánto gasto general de ingeniería se enfrenta en su pipeline.
Comparación de formato
RLDS (Google): basado en TFRecord, utilizado por Open X-Embodiment y RT-X. Excelente para el entrenamiento de cuerpo cruzado a gran escala. LeRobot (Hugging Face): basado en parquet, fácil de empujar a Hugging Face Hub, creciente adopción de la comunidad. HDF5: formato binario auto-descriptivo, utilizado por RoboMimic y muchos proyectos más antiguos. Zarr: compacto, amigable con la nube, ganando tracción para grandes conjuntos de datos.
- Para el entrenamiento en transbordadores: RLDS
- Para compartir en la comunidad y la iteración rápida: LeRobot
- Para compatibilidad con el sistema de datos: HDF5
- Para las tuberías nativas de la nube: Zarr
El proyecto de investigación de RCSV
La infraestructura de recopilación de datos de RCSV emite los formatos RLDS y LeRobot de forma nativa.