Facebook «echa el freno» con la inteligencia artificial

Los avances en inteligencia artificial no dejan de sorprendernos en los últimos tiempos. No hace tanto tiempo desde que empezamos a hablar de machine learning pero, a día de hoy, rara es la semana que no tenemos conocimiento de un nuevo y sorprendente avance a este respecto. Sin embargo, y coincidiendo con esta frenética carrera, también llevamos ya algún tiempo escuchando voces que pretenden alertar sobre los potenciales riesgos que pueden llegar de la mano de esta tecnología. Y hablamos de voces con mucho peso, como por ejemplo Elon Musk, Steve Wozniak o Stephen Hawking, que temen las consecuencias de una evolución «excesiva» pueda llevar a situaciones que, aunque a día de hoy son patrimonio exclusivo de la ciencia ficción, cada vez parecen un poco más reales. Y tras leer la noticia publicada por Forbes, sobre lo ocurrido recientemente en Facebook, un escalofrío ha recorrido los cuerpos de muchas personas.

Pero, ¿qué es lo que ha ocurrido exactamente? ¿Es realmente, como han indicado en algunos medios, que un sistema de inteligencia artificial se había «descontrolado» y, por lo tanto, era necesario apagarlo? No exactamente. Lo cierto es que lo «único» que ha hecho el sistema es modificar el lenguaje que emplea para la comunicación entre los nodos que componen su red neural, optimizando así sus comunicaciones. A primera vista, analizando el «nuevo lenguaje», da la impresión de tratarse de un inglés bastante incorrecto, pero sometido a una análisis más profundo, se ha comprobado que en realidad optimizaba sustancialmente la comunicación entre los nodos, mejorando así el rendimiento, eliminando elementos innecesarios, evitando posibles ambigüedades… en resumen, ha tomado su idioma «original» pero, de motu propio, lo ha modificado para mejorarlo. Sin intervención por parte de sus responsables, que se han visto obligados a desconectar el sistema.

¿Y cuál es la razón? Podemos verlo desde diversas perspectivas, que nos devuelven varias razones para justificar el apagado. El primero, sin duda, es que el sistema de inteligencia artificial ha llevado a cabo una tarea que no le había sido encomendada. Analizó su entorno y tomo la decisión de realizar modificaciones en el mismo. Esto, aunque todavía está muy lejos de acercarse a lo que se da en llamar la «consciencia digital» o la singularidad, sí que nos demuestra que un sistema particularmente avanzado puede tomar las decisiones que considere adecuadas, incluso en aspectos que no hayan sido contemplados por parte de sus creadores. Esto me recuerda a A Logic Named Joe, el formidable relato escrito por Murray Leinster hace ya más de 70 años y que, con el paso de los años, parece más un ejercicio de visión de futuro que un relato de ciencia ficción.

Así, aunque no hablemos de sistemas autoconscientes, algo que quizá nunca llegue a existir, sí que lo hacemos de formas de inteligencia artificial cada vez más compleja, y que en base a sus conocimientos y su constante aprendizaje, son y serán capaces de tomar decisiones lógicas (no emocionales, claro), que la lleven a realizar todo tipo de acciones sin control humano. ¿Y qué decisiones pueden ser esas? Pues todas las relacionadas con cualquier elemento dependiente de dichos sistemas. Y aquí entramos en una situación en la que, por «inteligentes» que puedan ser todos esos sistemas, si no disponen de toda la información necesaria, o si carecen del factor humano que en muchas ocasiones se debe contemplar en la toma de decisiones, se puede llegar a un resultado muy preocupante.

Además, el caso de la inteligencia artificial de Facebook lleva asociado un problema adicional, y es que podría ser el precursor de un futuro en el que los nodos y los sistemas se comuniquen entre sí mediante lenguajes sintéticos, desarrollados y negociados por esos propios sistemas, y que los humanos no seamos capaces de entender. Y es que, hasta ahora, cuando dos máquinas se comunican entre sí, siempre lo han hecho en base a protocolos desarrollados por el ser humano y, por lo tanto, cualquier persona con los conocimientos necesarios es capaz de interpretar dichas comunicaciones y, por lo tanto, saber «de qué están hablando» las máquinas. Sin embargo, en un caso como el que acabamos de conocer, estas comunicaciones podrían pasar a ser totalmente incomprensibles para nosotros. Dicho de otra manera, a partir de cierto punto podríamos no entender sus comunicaciones y, por lo tanto, no poder tomar decisiones en relación con lo que están haciendo esos sistemas, algo que también suena bastante mal.