ES
Las políticas robóticas pueden aprender del futuro sin generar imágenes (F1, F3)
Vision-Language-Action or World-Action? Just Action Models · arXiv:2610.37219
En palabras sencillas
Las políticas robóticas aprenden a moverse a partir de lo que ven sus cámaras. Algunos métodos de entrenamiento también intentan generar lo que la cámara verá después, pero no está claro si ese paso de generar imágenes es necesario para aprender del futuro.
JAM entrena una política para que prediga acciones y características de observaciones futuras registradas. Antes del despliegue, elimina los componentes que hacen esa predicción. En una prueba simulada con tareas modificadas, tuvo éxito más a menudo que una política comparable entrenada para generar imágenes futuras.
La investigación
Cuando las políticas robóticas aprenden de experiencias registradas, ¿deben generar imágenes de lo que viene después o pueden aprovechar las observaciones futuras mediante otra señal de entrenamiento?
Los métodos existentes combinan esta decisión con otras diferencias, lo que dificulta interpretar sus tasas de éxito.
JAM entrena políticas robóticas para predecir características de futuros registrados junto con acciones, sustituye la generación de imágenes futuras y elimina esa rama de predicción al desplegar la política.
Para aprender de lo que encontrará un robot, ¿es necesario generar imágenes futuras durante el entrenamiento? Just Action Model (JAM) aborda esta pregunta enseñando a una política robótica a predecir características de observaciones futuras registradas junto con sus acciones, sin incorporar esas observaciones futuras a la ruta de acción.
En un conjunto fijo de tareas robóticas simuladas con perturbaciones, JAM tuvo éxito en el 79.95% de las tareas, frente al 65.27% de una política comparable entrenada para generar imágenes futuras. Como ambas compartían arquitectura y condiciones de entrenamiento, este resultado respalda que generar imágenes futuras no era necesario para lograr una tasa de éxito mayor en esta comparación.
Estos resultados proceden de tareas robóticas simuladas y protocolos de evaluación específicos. No demuestran cómo funciona JAM en robots físicos.
Qué muestran las pruebas
- Separar las decisiones de diseño
Las políticas robóticas pueden aprender solo de las acciones o también aprender a generar imágenes futuras de la cámara. Como estos métodos pueden diferir en la base visual preentrenada, el objetivo basado en observaciones futuras y los módulos que usan al desplegarse, una diferencia en la tasa de éxito no permite saber por sí sola qué decisión importa.
El artículo pregunta si las políticas pueden aprender de futuros registrados sin un objetivo de generación visual.
- Entrenar con futuros registrados
Just Action Model (JAM) es un método de entrenamiento para controlar robots. Combina una base visual con un experto en acciones y los entrena con supervisión de acciones y una tarea de predicción: las características de las observaciones actuales predicen las características de observaciones futuras registradas.
Un ancla futura congelada proporciona esas características objetivo. Tras el entrenamiento, se descartan el ancla y el módulo de predicción, y queda la ruta de acción para el despliegue.
- Comparar los objetivos sobre el futuro
La prueba principal compara políticas Ovis-U1 en LIBERO-Plus, un conjunto simulado de tareas de manipulación robótica con perturbaciones, donde tener éxito significa completar una tarea. Las políticas comparten arquitectura, datos de entrenamiento, optimizador, presupuesto y ruta de despliegue; JAM sustituye la generación de imágenes futuras por la predicción de características futuras.
En el subconjunto fijo de 1,506 tareas, con una ejecución por tarea, JAM tuvo éxito en el 79.95% de los casos, frente al 65.27% de la política que generaba imágenes.
- Evaluar el entrenamiento solo con acciones
Un control separado con Qwen3.5-2B compara el entrenamiento solo con acciones con el entrenamiento de JAM, que combina acciones y previsión. La tasa de éxito micropromediada en las tareas de LIBERO-Plus sube del 77.03% al 81.14%, pero el entrenamiento solo con acciones obtiene mejores resultados ante perturbaciones del estado del robot y del lenguaje.
La fuente no especifica si ambas condiciones partieron del mismo punto de control, lo que limita qué permite aislar este control.
- Aplicar el método a distintas familias
JAM también se evalúa con bases visuales generativas, autosupervisadas y de visión y lenguaje. En el mismo subconjunto de LIBERO-Plus, las tasas de éxito informadas para Ovis-U1, DINOv2-L y Qwen3.5-2B son 79.95%, 70.39% y 81.14%.
Esto demuestra que el método se aplicó a estas familias, pero las diferencias en arquitectura e interfaces de acción impiden aislar el efecto del preentrenamiento a partir de las puntuaciones.
Detalles
- Autores del paper original
- Yonghao Yu, Lang Huang, Runyi Li, Toshihiko Yamasaki
- Enviado a arXiv
- Licencia
- arXiv non-exclusive