La capacidad de reconocer errores y corregirlos ya no es una característica exclusiva del aprendizaje humano. Un equipo de investigadores del Instituto Tecnológico de Massachusetts (MIT) desarrolló un sistema que permite a los robots identificar recuerdos imprecisos sobre los objetos que los rodean y reemplazarlos por descripciones más confiables. La tecnología consiguió resolver ambigüedades en aproximadamente el 92% de los objetos analizados, con apenas dos descripciones adicionales por objeto.
El desarrollo, denominado UQ-DAAAM (Uncertainty Quantification for Describe Anything, Anywhere, at Any Moment), apunta a mejorar la autonomía de los robots y su capacidad para ejecutar tareas complejas en entornos reales, donde una interpretación equivocada puede afectar decisiones posteriores.
El problema que busca resolver es más habitual de lo que parece. Un robot puede observar un objeto desde lejos, captar una imagen con poca iluminación o registrar solamente una parte de su estructura. A partir de esa información incompleta, un sistema de inteligencia artificial podría identificar incorrectamente lo que está viendo y almacenar esa descripción en su memoria.
Por ejemplo, una chimenea gris ubicada sobre un techo podría ser confundida con una ardilla. Si el robot conserva esa interpretación equivocada, podría continuar utilizando el dato incorrecto durante sus siguientes recorridos y tareas.
Una memoria que aprende a reconocer sus límites
La propuesta de los investigadores consiste en incorporar mecanismos para medir qué tan confiable es la información almacenada. En lugar de asumir que cada descripción es correcta, UQ-DAAAM compara distintas observaciones de un mismo objeto, tomadas desde diferentes ángulos, para determinar si existe alguna contradicción.
Cuando detecta un nivel elevado de incertidumbre, el sistema selecciona imágenes adicionales que permitan reducir las dudas. Posteriormente, utiliza un modelo de lenguaje para combinar las distintas descripciones y generar una versión más precisa, que reemplaza a la anterior en la memoria del robot.
El procedimiento integra dos elementos: la confianza del modelo de visión y lenguaje en las palabras que utiliza para describir un objeto y la consistencia de esas descripciones al compararlas con otras imágenes del mismo elemento.
Uno de los aspectos relevantes del desarrollo es su capacidad de operar mientras el robot se encuentra en movimiento. Los investigadores incorporaron un mecanismo que permite seleccionar las imágenes más útiles sin necesidad de volver a ejecutar todo el modelo de inteligencia artificial, reduciendo considerablemente el procesamiento requerido.
Según los resultados publicados por el equipo, el método no solo resolvió ambigüedades en cerca del 92% de los objetos observados, sino que también mejoró en un 5% la precisión de las descripciones frente a los métodos de referencia utilizados en la investigación.
Las aplicaciones potenciales van más allá de identificar correctamente objetos. Una memoria más confiable podría permitir que los robots ejecuten actividades de varios pasos sin depender constantemente de instrucciones humanas.
Entre los escenarios planteados por los investigadores figuran asistentes domésticos capaces de recoger y organizar objetos, así como robots industriales que colaboren con trabajadores en el ensamblaje de maquinaria.
El impacto también podría extenderse a situaciones donde la precisión resulta determinante. El MIT plantea, por ejemplo, el caso de un robot al que se le solicita buscar un desfibrilador instalado en un pasillo. Si el dispositivo fue identificado incorrectamente como un extintor y esa información quedó guardada, el asistente podría no encontrarlo cuando sea necesario.
Para Luca Carlone, profesor asociado del Departamento de Aeronáutica y Astronáutica del MIT y uno de los responsables de la investigación, permitir que un robot reconozca aquello que desconoce será fundamental para desplegar esta tecnología de manera segura y generar un impacto positivo en la sociedad.
El equipo, integrado también por los investigadores Harry Zhang y Nicolas Gorlo, prevé ampliar el sistema a otros tipos de robots, incluidos aquellos que pueden desplazarse y manipular objetos. Asimismo, estudia la posibilidad de que las máquinas identifiquen por sí mismas las zonas de un entorno sobre las que tienen menos información y regresen a ellas para mejorar su comprensión.
La investigación será presentada en la conferencia NeurIPS (Conference on Neural Information Processing Systems), uno de los encuentros internacionales relevantes en inteligencia artificial y aprendizaje automático.
De esta manera, el avance no apunta únicamente a construir robots que puedan ver y describir lo que los rodea, sino a desarrollar máquinas capaces de reconocer cuándo su propia interpretación puede estar equivocada y actuar para corregirla.
Tu opinión enriquece este artículo: