Los videos humanos pueden mejorar políticas robóticas tras la alineación
En palabras sencillas
LAPT-Scale es un método para entrenar los controladores de robots usando información de videos grabados desde el punto de vista de una persona. Aprende una acción latente continua —una descripción compacta de cómo cambia una escena entre dos fotogramas cercanos— aunque el video no incluya órdenes para un robot.
Primero, el método se entrena con señales extraídas del video y luego las conecta con acciones reales del robot antes de entrenarlo en tareas concretas. En tres tareas probadas con un robot, el éxito promedio subió del 63.3% al 85.0% cuando el video de la Etapa 1 aumentó de 1K a 5K horas, mientras los datos robóticos se mantuvieron fijos.
La investigación
Los datos de interacción con robots son costosos, mientras que los videos humanos muestran actividades mucho más variadas entre manos y objetos.
Aún no está claro si esos videos pueden enseñar algo útil a una política robótica cuando no registran órdenes para robots y estos no pueden ejecutar directamente los movimientos humanos.
Aprende señales continuas similares a acciones a partir de cambios entre fotogramas de videos humanos y luego las alinea con acciones robóticas para apoyar el preentrenamiento de políticas con más video humano.
El paso clave de la investigación consiste en aprender una acción latente continua para cada transición entre fotogramas de un video humano y usarla para el entrenamiento inicial de la política.
Después, durante la alineación con el robot y el entrenamiento en tareas, esa señal se sustituye por secuencias de acciones ejecutables del robot objetivo.
En la comparación controlada de escalado, solo cambió la cantidad de video humano depurado utilizada en la Etapa 1. En tres tareas con el AgiBot G1, el éxito promedio por tarea subió del 63.3% con 1K horas al 85.0% con 5K horas, mientras los datos robóticos y las condiciones de evaluación se mantuvieron fijos.
Esto respalda la interpretación de los autores de que, bajo este protocolo, la supervisión con acciones latentes permite aprovechar más video humano.
El método supone que los cambios visuales aprendidos de videos humanos pueden servir para supervisar robots después de la alineación con el robot, pero esa correspondencia no está garantizada.
La evidencia con robots reales abarca siete tareas en una sola plataforma y 20 ensayos por condición; por eso, no demuestra una robustez amplia en despliegues reales.
Análisis
Detalles
- Autores
- Zhiyuan Xiang, Peidong Liu, Mingyang Li, Jiawei Li, Wenhow Li
- Licencia
- CC BY 4.0