Cuándo ayudan las predicciones del robot a elegir el siguiente movimiento
Un robot puede ver dónde está un objeto sin detectar hacia dónde se mueve. También puede encontrarse con un espacio de trabajo distinto o predecir un buen resultado para una acción que en realidad falla. Cada problema puede dar lugar a una predicción plausible que aporta poco a la siguiente decisión.
Los tres estudios sugieren adaptar la evidencia de aprendizaje a cada debilidad: usar el historial reciente para anticipar el movimiento, las transiciones observadas durante el despliegue para actualizar las consecuencias predichas y las alternativas de acción ejecutadas para distinguir resultados.
Como sus hallazgos proceden de pruebas distintas, las conclusiones están delimitadas por las condiciones de cada estudio.
Qué comprenderás
¿Qué evidencia indica que un robot ha aprendido a usar su historial visual reciente?
¿Por qué un intento fallido puede enseñar las consecuencias de una acción sin convertirse en un ejemplo que imitar?
¿Cómo permiten las alternativas de acción ejecutadas comprobar si un modelo distingue el éxito del fracaso?
Qué debe contarle una predicción al robot
Imagina un robot que intenta alcanzar un objeto que se desplaza por una mesa. Una imagen muestra dónde está, pero las imágenes anteriores revelan en qué dirección se mueve y cuánto ha avanzado el intento de alcanzarlo.
Long-WAM, un sistema que predice videos como parte de la elección de acciones del robot, parte de este problema. Sus autores preguntan si ofrecer al controlador más historial visual realmente le ayuda a actuar, ya que procesarlo también lleva tiempo.
La información útil está en los cambios entre observaciones, no simplemente en acumular más imágenes.
Imagina ahora un robot que ha aprendido a colocar un objeto en un cuenco y luego se encuentra con una mesa o un objeto distintos. Juno, un sistema que usa imágenes e instrucciones en lenguaje para producir acciones, estudia cómo las predicciones pueden ayudar a manipular objetos en esas condiciones.
Su método de despliegue trata cada intento fallido como un registro de lo que hizo el robot y de lo que ocurrió después. Ese registro puede ayudar a actualizar la representación del espacio de trabajo, aunque la acción fallida sea un mal ejemplo de qué hacer.
Un tercer problema aparece antes de que el robot actúe: un modelo puede predecir el éxito tanto para una acción adecuada como para una acción modificada que acaba fallando. CureWM estudia esta falta de sensibilidad al fracaso en modelos que predicen los resultados de las acciones.
Sus autores parten de una misma situación y comparan secuencias de acciones alternativas, cuyos resultados comprueban ejecutándolas. En conjunto, estos ejemplos plantean una pregunta: ¿qué debe aprender un modelo predictivo para que sus pronósticos ayuden al robot a elegir acciones cuando cambian el historial, el entorno o los posibles resultados?
Cómo continúa la lección
Aprender de lo ocurrido antes
Aprender de las acciones en despliegue
Probar acciones distintas desde el mismo inicio
Vincular la evidencia con la decisión