Hace unos días se viralizó el debate entre Elon Musk y Mark Zuckerberg acerca de los peligros potenciales de la Inteligencia Artificial (IA).
El cabeza de Tesla Motors advirtió que el asunto podría írsenos de las manos y se mostró receloso ante las posibles consecuencias que podría traer esta tecnología y por lo tanto señaló que es necesario regularla.
Mark Zuckerberg por el contrario, pareció estar muy tranquilo al respecto.
Más allá de los titulares sensacionalistas, que podría hacernos pensar en primera instancia que Musk se opone a la AI y que Zuckerber está a favor de su progreso, habría que prestar atención a los hechos.
Por una parte, Musk no es contrario a la IA, así lo confirman sus proyectos relacionados con el tema. El CEO de Tesla Motors ha demostrado ser un visionario que, sin embargo, tiene muy bien puestos los pies sobre la tierra, razón por la cual ha sido capaz de hacer lo que muchos otros solo se atrevieron a soñar.
En cuanto a Zuckerberg, me inclino a pensar que como bien comentó Elon Musk, no está siendo muy consciente sobre lo que tiene entre las manos, teniendo en cuenta lo anunciado en el titular de esta nota.
Según diversas fuentes, el incidente se desarrolló de esta manera:
En una división de Facebook especializada en IA se creó un sistema pensado para llevar adelante ciertas negociaciones. Un agente virtual llamado Bob tenía que comunicarse con otro llamado Alice.
Lo que sucedió apenas unos días después fue que ambos agentes empezaron a desarrollar un lenguaje para comunicarse entre sí, que era ininteligible para los programadores, los cuales, al no poder revertir el asunto, decidieron desconectar a los agentes virtuales, o lo que es lo mismo, al sistema.
Esto es una muestra de la conversación mantenida entre Bob y Alice:
Bob: "I can i i everything else"
Alice: "balls have zero to me to me to me to me to me to me to me to"
En un inicio parece algo sin sentido, pero siguiendo el resto de la conversación, los programadores detectaron un patrón. El sistema, que fue diseñado para que determinados bots llevaran adelante conversaciones efectivas y prácticas con personas de verdad, tomó la decisión de manera autónoma, de generar un lenguaje propio que le permitiera realizar su tarea de la mejor manera posible, desde su perspectiva.
Si alguno de los que leen esta nota tuvo el placer de toparse con las historias de “Yo Robot” de Isaac Asimov, seguramente esta noticia lo dejará más desconcertado que al resto. Haríamos bien en seguir los consejos de Musk.
(MA)
.png)
Tu opinión enriquece este artículo: