IBM Cuántica: entrevista con Zaira Nazario y Juan Bernabé-Moreno

Hace unas semanas os contábamos cómo San Sebastián se abría a la computación cuántica al convertirse en la sexta ciudad del mundo en firmar un acuerdo con IBM para la puesta en marcha del IBM-Euskadi Quantum Computational Center, un espacio de innovación que contará con un ordenador cuántico IBM Quantum System One, de 127 qubits.

En esos días, tuvimos la oportunidad de charlar con una de las personas que probablemente más saben de computación cuántica en el mundo: Zaira Nazario. Física teórica, comenzó a trabajar en computación cuántica hace más de una década y es una de las líderes de IBM en este terreno, en el marco de IBM Research. Antes de fichar por la multinacional americana, Nazario gestionó programas de I+D para el Departamento de Estado de EE. UU. y las agencias estadounidenses DARPA (Defense Advanced Research Projects Agency) e IARPA (Intelligence Advanced Research Projects Activity). Con ella hemos charlado tanto del programa que se está poniendo en marcha en el País Vasco como sobre el estado actual de la computación cuántica. Además, nuestra compañera Celia Valdeolmillos ha entrevistado a Juan Bernabé-Moreno, Director IBM Research Europa / Ireland and UK

«En los próximos años veremos cómo la computación cuántica y la clásica convergen para escalar y resolver problemas complejos»

[MCPRO] ¿En qué momento se encuentra actualmente el desarrollo de la computación cuántica?

[Zaira Nazario] El panorama de la computación cuántica sigue creciendo a un nivel impresionante, a veces incluso sorprendente para mí misma. Es increíble lo mucho que ha avanzado y lo que ha sido posible gracias a trabajar en un ambiente abierto de comunidad. Este es uno de los aspectos que demuestran cómo se puede acelerar el progreso en tecnologías tan complicadas. Una sola institución no puede hacerlo sola, por eso nos hemos beneficiado enormemente del Quantum Network y de la colaboración con todas las instituciones que han ayudado a mejorar el software, los algoritmos, las aplicaciones y a encontrar casos de uso en distintas industrias.

El Quantum Network ha crecido mucho, con más de 200 miembros, y hemos tenido avances no solo en el hardware, sino también en la calidad de las operaciones de los cúbits y en la velocidad de ejecución de los circuitos, que son las áreas principales para medir el desempeño de la computación cuántica.

Además, lo que me emociona y me ilusiona es el avance que ha habido en cómo manejamos los errores. Aunque aún no tenemos corrección de errores formalmente a gran escala, tenemos métodos de mitigación de errores que están escalando y son muy prometedores.

Estos métodos nos permiten aprender el ruido que está afectando el circuito y usar esa información para minimizar el impacto del error. Hay distintas formas en que podemos hacerlo, como agregar operaciones entre medio del circuito, estirar el pulso de microondas que estamos usando o cambiarle la longitud. En esencia, estamos cambiando la magnitud del ruido que nos afecta y extrapolando cómo se vería el circuito sin ese ruido. Esto es un avance importante en la computación cuántica y esperamos seguir mejorando en los próximos dos o tres años. De hecho, esto ya está dando unos resultados muy prometedores y está permitiendo que la industria también explore todos estos casos de uso que les interesan a unas escalas mayores.

[MCPRO] ¿En qué momento de desarrollo se encuentra la hoja de ruta para la computación cuántica que os habéis marcado en IBM?

[Zaira Nazario] Bueno, respecto a la hoja de ruta de IBM Quantum, publicada el año pasado, puedo decir que se planea avanzar en los próximos años. El primer paso, el hardware, lo dimos en 2020. En 2021 actualizamos el desarrollo y agregamos el software y las aplicaciones. Y el año pasado, hicimos otra actualización, ampliando la cantidad de años y presentando la modularidad en chips, software, aplicaciones y sistemas para avanzar desde los mil cúbits hasta sistemas con miles o decenas de miles de cúbits.

En cuanto a cómo estamos cumpliendo con esta ruta, puedo decir que llevamos un muy buen récord de lo que hacemos, ya que todo lo que hemos desarrollado está en línea con el plan. El año pasado ya presentamos Osprey (433 cubits) y Condor, que tendrá más de 1.000 cubitos debería estar disponible para finales de este año.

[MCPRO] Teniendo en cuenta lo anterior, llama la atención que a San Sebastián se traiga «Eagle» que es de tan solo 127 cúbits. ¿A qué se debe y cómo va a ser el proyecto que se ponga en marcha en la región?

[Zaira Nazario] Bueno, recuerda que también es importante tener en cuenta que una vez que se caracteriza el chip y se lleva a producción, toma cierto tiempo para que el procesador y el sistema estén funcionando correctamente. En nuestro caso, esperamos que el chip Eagle esté instalado para finales de este año, ya que es el que está actualmente en producción. Los otros chips están en fase de investigación, pero una vez que avancemos, se actualizará también aquí el procesador, que mejorará significativamente la calidad de las operaciones y se actualizará regularmente.

En cuanto al proyecto que estamos desarrollando aquí en País Vasco, puede comentarte que se basa en cuatro pilares: una infraestructura única, el talento y la educación, la investigación y el desarrollo industrial. En cuanto a la infraestructura, estamos trabajando para crear una infraestructura singular para la computación cuántica. Con respecto al talento, estamos colaborando con las universidades y otros para crear un plan de estudios y certificar a desarrolladores en computación cuántica para mejorar las habilidades y destrezas de la fuerza laboral.

En investigación, estamos trabajando con las universidades para investigar diversos aspectos de la computación cuántica, incluyendo algoritmos y aplicaciones, así como aspectos de la física cuántica clásica. Por último, en cuanto al desarrollo industrial, estamos trabajando con las empresas para traducir nuestros avances en investigación en productos e innovaciones comerciales.

[MCPRO] Se ha hablado mucho en los últimos años sobre supremacía cuántica, sobre qué empresa la ha alcanzado o si incluso tiene sentido. ¿Cómo es vuestra postura en este terreno?

[Zaira Nazario] Personalmente,no me gusta enfocarme en la supremacía cuántica, ya que en la misión de IBM Quantum, lo importante es traer la computación cuántica a la práctica y hacerla útil para el mundo. Es fundamental centrarnos en la parte práctica de la computación cuántica, es decir, en su utilidad para resolver problemas y enseñar algo en términos científicos o de negocio.

En IBM Quantum nos enfocamos más en la práctica de la computación cuántica que en la supremacía, ya que los experimentos para lograr la supremacía no están diseñados para la «practicidad» y la utilidad en la resolución de problemas. Esta es una diferencia de filosofía entre los enfoques.

Es importante destacar que la ventaja cuántica en problemas prácticos de utilidad práctica ya está empezando a salir a la luz, y en IBM Quantum seguimos trabajando en hacer que la computación cuántica sea cada vez más accesible y útil para el mundo.

[MCPRO] Y esas aplicaciones prácticas, ¿estamos empezando a verlas ya más allá del marco teórico?

[Zaira Nazario] Creo que estamos en un proceso continuo en el cual se empezarán a ver aplicaciones prácticas en problemas de interés científico, aunque quizás no sean el enfoque principal de la empresa.

En mi caso particular, me dedico a la materia condensada y espero que sea uno de los primeros campos en el que se puedan ver avances en los próximos cinco años o incluso antes. Problemas a gran escala y de importancia industrial tomarán más tiempo, pero para problemas científicos se verán pronto avances significativos en mitigación y corrección de errores.

En los próximos dos o tres años se podrán ver muchos avances en mitigación de errores y nuevos códigos más eficientes para corrección de errores, que requerirán menos recursos físicos para corregir información. Además, se observará una convergencia entre ambas soluciones (computación clásica y cuántica)  que permitirá una mayor eficiencia en la escalabilidad de los sistemas.

[MCPRO] Sin embargo parece que es la supercomputación la que a más velocidad está avanzando en los últimos años…

[Zaira Nazario] Hay personas que piensan que la computación cuántica no será útil hasta que se tenga una máquina completamente corregida de errores, pero yo no estoy de acuerdo.

Creo que veremos avances en problemas científicos a medida que avancemos en la computación cuántica, y llegaremos a un momento en el que ya no podamos acceder a la información de manera clásica. Espero que esto comience a suceder en los próximos años, no en 10 años, sino en un plazo más corto. La analogía que yo veo es con la computación clásica, es en el que parecía que no existían los móviles inteligentes  y «de repente» un día nos despertamos con un iPhone maravilloso.

Actualmente, estamos viendo valor en la investigación y la actividad en la universidad y en las empresas; estamos entendiendo cómo reformular los problemas de otra manera para aprovechar las leyes físicas que rigen la computación cuántica. Y aunque todavía no hemos llegado a un caso de uso relevante en la industria, el quantum network sigue creciendo y hay beneficios derivados de su uso. A medida que la tecnología avanza, su entendimiento y la manera en que atacan los casos de uso avanzan con ella, poniéndolas en una muy buena posición para cuando se produzca un avance significativo.

[MCPRO] ¿Qué opinas de las iniciativas que apuestan por llegar a la cuántica a través de la emulación de sus propiedades en entornos de computación clásica?

[Zaira Nazario] Bueno, hablamos de máquinas virtuales que reproducen los principios de la cuántica, pero no son los ordenadores cuánticos propiamente dichos. Los emuladores te pueden llevar hasta cierto punto, pero por definición de la computación cuántica, no pueden simular completamente lo que hace un ordenador cuántico una vez pasan de 100 cúbits, por ejemplo. Esto ya está fuera del alcance de cualquier supercomputadora clásica.

Y no solo por la cantidad de cúbits, sino también sobre la calidad de las operaciones. Las operaciones con mucho ruido son un poco más fáciles de simular «clásicamente» pero llegará un momento, y esto va a estar en el centro de mucha investigación y estudio en los próximos dos años, en el que ya no va a ser accesible hacerlo con emuladores.

Otro tema es que la gente dice: «bueno, voy a hacer estos algoritmos clásicos y los voy a inspirar en ciertos comportamientos físicos cuánticos, y voy a ver si hay ventajas, y eventualmente, cuando haya un ordenador cuántico en el que pueda implementarlos, haré la transición».

Pero eso no es tan fácil, porque si los algoritmos que hiciste son clásicos, entonces son algoritmos clásicos, y los algoritmos cuánticos son completamente diferentes, y requieren que pienses completamente distinto acerca de la naturaleza misma del problema que estás tratando de resolver.

Entonces, no es que los vayas a agarrar y los vayas a poner ahora en la máquina cuántica: eso es una fantasía.Lo que sí es muy beneficioso, y lo están haciendo las industrias con nosotros en el Quantum Network, es cómo se integra la computación clásica con la computación cuántica, y eso está permitiendo también explorar distintos problemas a otra escala.

[MCPRO] ¿Crees que Europa corre el riesgo de quedarse relegada o por detrás de otras potencias como Estados Unidos y China en computación cuántica?

[Zaira Nazario] Creo que este proyecto en el que estamos trabajando, no solo en el País Vasco sino en general, demuestra la importancia de las asociaciones y la creación de una comunidad para avanzar en tecnología. Es un ejemplo que, sin ser exagerados, podría tener un impacto histórico.

El trabajo que estamos realizando no tiene por qué hacerse de forma individual, el País Vasco no tiene por qué hacerlo solo, ni Europa tampoco. Podemos unirnos y utilizar la fortaleza de cada uno para avanzar en estas tecnologías. Este proyecto coloca al País Vasco y a España a la vanguardia de la computación cuántica y veremos muchos avances que beneficiarán al sur de Europa. Solo puedo decirte que vamos a seguir viendo estos avances en el futuro.

[MCPRO] Llegamos al famoso dilema de ética cuántica, de lo que significa ser quantum safe. ¿Cómo está trabajando IBM en este campo?

[Zaira Nazario] Por supuesto, el tema del cifrado es un asunto importantísimo, porque preocupa que la computación cuántica pueda romper cierto tipo de cifrado asimétrico.

El problema es que el cifrado asimétrico se usa en muchas cosas, como en la criptografía que se utiliza para proteger datos y en cosas como las firmas digitales. De hecho, ya existe un algoritmo muy eficiente, el «algoritmo de Shor«, que resuelve el problema matemático en el que está basado este tipo de cifrado.

Sin embargo, no todos los cifrados pueden ser vulnerados por una computadora cuántica y aquí es donde vienen las buenas noticias. Hay cierta matemática en la que las computadoras clásicas son muy malas y las computadoras cuánticas también. Así que se han creado algoritmos cuánticos que no requieren ninguna infraestructura especial y se pueden implementar con algoritmos clásicos.

Claro, tomará tiempo implementarlos ya que primero debes hacer un inventario para entender qué tipo de cifrado estás usando, dónde implementar el nuevo algoritmo, inversión necesaria, etc. En el momento en que haces el cambio, quieres hacerlo de una manera que te dé la agilidad de que si tienes que cambiar en el futuro, lo puedas hacer muy fácil. Pero una vez que esto se popularice, podremos decir que las empresas que lo hagan serán «quantum safe».

Precisamente, el presidente Biden, firmó en mayo del año pasado puso una orden ejecutiva diciendo que las agencias en EE.UU. tienen que presentar un plan para este mes de agosto en el que expliquen cómo van a hacer ese cambio para protegerse de los nuevos algoritmos cuánticos.

Si tú eres una organización que te importa proteger tus datos por décadas, entonces tienes que tener en mente que es verdad que una computadora cuántica con la capacidad de romper ese tipo de cifrado no existe todavía y no va a existir por un tiempo, pero que cualquier persona, cualquiera con malas intenciones, puede robar tus datos, guardarlos y esperar a que esa computadora esté disponible, y entonces romper el cifrado. Si te importa proteger esos datos y esa información por décadas, entonces cada día que dejes pasar, es un día más en el que esos datos están en riesgo.

[MCPRO] ¿Qué papel está jugando la Inteligencia Artificial para el desarrollo de la computación cuántica? Y al revés…¿cómo puede la cuántica impulsar la IA?

[Zaira Nazario]  Ahí no te puedo decir ahora mismo que papel va a jugar exactamente, es un área de mucha investigación. Yo personalmente estoy trabajando también en eso, en entender cómo, dónde y para qué tipo de beneficios puede traer, qué tipo de problemas puede resolver.

Lo que sí te puedo decir es que pensamos que la computación cuántica es muy buena a la hora de encontrar patrones escondidos en datos, en encontrar la estructura «oculta» en los datos.

Pensamos es que esa capacidad tan maravillosa para encontrar estructura y patrones en datos va a ser útil en ciertos problemas, como el aprendizaje automático. Y ahora, lo que sí quiero aclarar es que no vas a tener computación cuántica ayudándote a hacer Big Data. No hablamos de tener estos volúmenes de datos masivos como los que necesitas para cosas como los modelos fundacionales, como ChatGPT y demás.

Nos va a servir para identificar problemas una vez que los pasas por un workflow. Utilizando IA, vamos a poder determinar cuáles son los cuellos de botella computacionales, lo cual ahora mismo es increíblemente difícil de determinar. Ahí es donde esperamos que vayamos a ver los mayores beneficios, aunque es un área en la que aún hay mucho que investigar para entender cuáles son las posibilidades.

«Cuando avance la computación cuántica podremos simular la naturaleza como nunca hasta ahora»

Juan Bernabé-Moreno, Director IBM Research Europa / Ireland and UK

La computación cuántica y la Inteligencia Artificial son dos de las tecnologías que más cambios y avances van a provocar en el futuro en la sociedad, a muchos niveles. En algunos casos, estos cambios ya se están produciendo. En otros, estas tecnologías están dando sus primeros pasos y todavía están abriéndose las puertas a los avances que pueden facilitar en muchos campos.  Tras nuestra charla con Zaida Nazario, nuestra compañera Celia Valdeolmillos ha tenido la oportunidad de conversar sobre estos temas con Juan Bernabé-Moreno, Director de IBM Research para Europa.

[MCPRO] En cuanto a las aplicaciones de la computación cuántica, y concretamente, a la seguridad de los datos, ¿cómo puede ayudar en criptografía a proteger la información?

[Juan Bernabé-Moreno] Hay que diferenciar dos temáticas. Una es ¿qué es quantum safe?, es decir, cómo hace la criptografía para que no pueda ser atacada por un computador cuántico. Lo computadores cuánticos no son muy buenos en todas las operaciones pero hay algunas que pueden realizar de manera muy superior a un computador clásico. Por ejemplo, una multiplicación, en un ordenador cuántico, se ejecutaría peor que en un ordenador clásico, porque los ordenadores clásicos multiplican muy bien. Sin embargo, una factorización se ejecuta en un ordenador cuántico mucho más rápido que en un ordenador clásico.

El hecho de que los métodos de criptografía asimétrica que tenemos hoy, con cable clave pública y clave privada, se basen en computación asimétrica, que al final lo que tienes son operaciones de factorización, hace que sean muy fáciles de “romper” con tecnología cuántica. Entonces, cuando hablamos de quantum safe cryptography, hablamos de métodos que probablemente no están basados en factorización, de tal manera que da igual cuánto avance la computación cuántica, porque van a estar siempre seguros. Eso es criptografía “quantum safe».

Después tenemos criptografía “quantum based”, que es la que usa mecánica cuántica para implementar otro tipo de esquemas, de tal manera que la privacidad y los secretos estén muy seguros. Estos esquemas usan propiedades mecánicas, de tal manera que si se intercepta la comunicación se destruye la información. No hay peligro de que te hagan sniffing, porque por la naturaleza de su implementación.

En IBM nosotros, por cuestiones obvias, porque es mucho más actual, hemos estado muy enfocados en criptografía quantum safe. Esto quiere decir que estamos desarrollando estándares para algoritmos y muchos de esos estándares que hemos propuesto han sido aceptados por la autoridad de estándares norteamericana, el NIST, para asegurar que la criptografía moderna se puede migrar. O se puede reinventar en un esquema que sea quantum safe.  

[MCPRO] ¿Cómo pueden la inteligencia artificial de la computación cuántica ayudar a conocer los efectos que está teniendo el cambio climático y cómo pueden ayudar a combatirlo? 

[Juan Bernabé-Moreno] Empiezo con la cuántica. Uno de los casos de uso, o uno de los dominios para la cuántica, donde esperamos obtener el mayor beneficio o mayor, digamos, ventaja en comparación con la clásica es en la simulación de la naturaleza. Ya lo dijo Feynmann: «La naturaleza no es clásica, y si quieres hacer una simulación de la naturaleza, será mejor que sea de mecánica cuántica«. Osea, para simular la naturaleza necesitamos un ordenador cuántico. 

¿Qué significa esto? Que cuando avance la computación cuántica, vamos a tener la oportunidad de empezar a simular, de una manera que no se ha podido hacer hasta ahora, Moléculas, reacciones químicas, simulaciones de la naturaleza… ¿Para qué sirve esto en el contexto del cambio climático? Pues nos va a permitir descubrir nuevos materiales y descubrir nuevas formas de agilizar o de provocar reacciones químicas. Te voy a poner tres ejemplos.  

El primero son los fertilizantes. Para producir fertilizantes hay que fijar el nitrógeno, y para fijar el nitrógeno se necesita muchísima energía. Es un proceso químico que es muy costoso, y se cree que del 2% al 3% de las emisiones globales están ocasionadas por este proceso. Entonces, lo que se intenta es con cuántica, descubrir nuevos materiales que permitan fijar nitrógeno a mucha menos energía, de tal manera que podamos bajar las emisiones. 

Otro ejemplo son los cementos. Se cree que la producción de cemento global contribuye al 8% de las emisiones globales. Para producir 1 kg de cemento, se emite 1 kg de dióxido de carbono. Estamos hablando de 3 o cuatro gigatoneladas de cemento al año. Es una barbaridad, y va creciendo por la industrialización. Además, como producir 1 kg de cemento es super barato, nadie va a poner reparos en costes. Cuesta unos 13 céntimos. ¿Qué quiere decir esto? Que necesitamos nuevos materiales para la construcción. Nuevos materiales con mejores propiedades, más aislantes, y más fuertes. Y para llegar a esos materiales, necesitamos entender muy bien la naturaleza de las cosas. Ahí vemos también la ventaja de usar tecnología cuántica para descubrir esos materiales. 

Tercer ejemplo de materiales: las baterías. Ahora, para la electromovilidad, estamos siempre muy limitados a las baterías de litio que hay. Pero hay ya casos de uso en cuántica para intentar encontrar materiales que tengan mucha más eficiencia, pero que también puedan cargarse muchas más veces, para hacer las baterías más sostenibles. Esto solo de materiales.

Pero la cuántica puede resolver otros problemas. Como los de optimización global. Saber cuáles son las mejores rutas para llevar, por ejemplo, el gas líquido entre los puertos del mundo. Eso es un proyecto muy concreto que hemos hecho en IBM con Exxon Mobile. Es un problema de optimización y para eso hemos implementado un algoritmo cuántico. También estamos trabajando con cuántica con la NASA, que nos ha proporcionado los datos de todas las observaciones terrestres que hacen. Con eso, nosotros estamos entrenando un foundational model, un modelo fundacional.

¿Qué casos de uso podemos implementar con eso, una vez que esté entrenado? Pues en concreto, podemos, por ejemplo, predecir en la naturaleza eventos de clima extremo. Eso es solo una aplicación de muchas. La idea es que la gente de la NASA, con esta tecnología, empiece a desarrollar muchas nuevas aplicaciones que ayuden a comprender un poco qué impacto tiene el cambio climático, y donde, y anticipar las reacciones. 

[MCPRO] ¿Cómo puede la colaboración con diversas entidades, organizaciones y empresas, ayudar a potenciar la computación cuántica y su desarrollo? ¿En qué sectores y áreas de investigación la computación cuántica ha supuesto hasta ahora de manera más notable, un paso importante para avanzar en investigaciones? 

[Juan Bernabé-Moreno] Cuando nosotros pensamos en cuántica pensamos primero en la convergencia de muchas tecnologías. Porque la cuántica es muy buena para desarrollar algún tipo de problema y para atajar algún tipo de problema. Tasmbién para mejorar la manera con la que resolvíamos algunos problemas, pero no siempre. 

La idea es mirar a la tecnología de manera convergente. Preguntarse cuándo tiene sentido aplicar computación clásica, cuando tiene sentido usar cuántica, y cundo tiene sentido hacer una cosa híbrida. Por ejemplo, en Quantum Machine Learning desarrollamos algún algoritmo que tiene una parte cuántica y una parte clásica. Es una manera de pensar. No intentamos resolver todo con cuántica.

Más bien intentamos implementar lo que nosotros llamamos un quantum centric supercomputer. Tiene el corazón cuántico, pero las tareas se optimizan para decidir qué se desarrolla en clásica, o que se ejecuta en clásica; y que se ejecuta en cuántica. Tiene también una parte muy importante: las comunicaciones entre los distintos procesos. La comunicación cuando pasas a datos de un sitio a otro, tiene una penalización, y eso tiene que ir acorde con la estrategia de ejecución.  

Pero nosotros cuando miramos a la tecnología, la miramos en el contexto de un ecosistema. Y en ese ecosistema, pues también tenemos partners que nos ayudan a implementar esta tecnología en dominios particulares. También tenemos clientes, a los que nosotros ayudamos. Tenemos entidades gubernamentales que nos ayudan a establecer, por ejemplo, un quantum hub.  

Hay muchos players que juegan en conjunto que forman parte de un único sistema, y es así como como vemos esta tecnología. Avanzando y teniendo un efecto transformacional. Tampoco hay que olvidar toda la parte de investigación y académica, ni a todas las universidades, que en este tipo de  tecnologías juegan un papel muy importante. Estas, aparte de avanzar en investigación, también forman a los profesionales en este tipo de tecnología. Así es como lo vemos. 

Yo creo que ya hay áreas de investigación e importantes. Como las comunicaciones cuánticas. Porque incluso en la computación vamos a tener la necesidad de conectar procesadores cuánticos. Y esa comunicación tiene que desarrollarse a nivel cuántico también. Eso se está desarrollando de una manera bestial. También hay mucha investigación en combinación de disciplinas.

Por ejemplo, el quantum machine Learning. ¿Qué se puede hacer con cuántica, qué tipo de inteligencia artificial o qué tipo de algoritmos se pueden crear con este nuevo poder, con esta nueva manera de procesar la información? También preguntarte cómo puedes diseccionar un algoritmo de tal manera que las partes más costosas que sean propicias para quantum, se lleven a un procesamiento cuántico y después se sigan con el clásico. Después, todas las que he dicho antes, de simulación, descubrimiento de materiales, química. También en finanzas, por la naturaleza de incertidumbre del sector.  

[MCPRO] En cuanto a la seguridad combinada con inteligencia artificial, ¿cómo puede la IA mejorar y hacer avanzar a la ciberseguridad? 

[Juan Bernabé-Moreno] Una de las cosas que permite hacer la inteligencia artificial es automatizar a escala, y automatizando a escala se pueden crear algoritmos para, de manera automática, detectar patrones de una amenaza de ciberseguridad. Y cualificar esos patrones, de tal manera que se reaccione a los que de verdad representan una amenaza. Pero hay muchas más aplicaciones, como por ejemplo, dar con la manera de hacer los modelos de inteligencia de seguridad más seguros.

Es algo que estamos haciendo en Dublín, donde estoy yo con mi equipo, que se llama Adversarial Robustness Toolkit. Es un kit para para demostrar que un modelo de inteligencia artificial es seguro, conforme a los ataques de adversarios. Lo que intenta es, digamos, engañar al modelo para que la salida sea otra.

Un ejemplo es “envenenar” el modelo con diferentes datos, de tal manera que, por ejemplo, un algoritmo que está entrenado para detectar un arma en un aeropuerto, detecte otra cosa. Por ejemplo, un juguete. Es un ejemplo un poco simple pero, pero esa es la idea: asegurar que los algoritmos de Inteligencia Artificial son seguros, son robustos, son balanceados. Hay mucho que hacer ahí. 

[MCPRO] El revuelo que se ha organizado en torno a ChatGPT y a la posibilidad de que termine por sustituir a muchos trabajos está causando cierto revuelo en muchos sectores, pero se está pasando por alto que estos tipos de modelos pueden facilitar el trabajo de los humanos en diversos sectores, en vez de sustituirlo. ¿Crees que en el futuro estos modelos podrán realizar ciertas tareas, sustituyendo por completo a ciertos profesionales, o más bien que se tenderá hacia una colaboración entre humanos e IAs en las que estas se ocupen de tareas repetitivas y anodinas para que los humanos se puedan ocupar de otras más gratificantes? 

[Juan Bernabé-Moreno] Yo creo que este revuelo se ha organizado porque de repente hemos visto que los algoritmos pueden desarrollar de manera creíble, no de manera exacta, tareas que nunca pensábamos que la inteligencia artificial podía hacer. Como desarrollar cierta creatividad. Siempre pensábamos que la inteligencia artificial iba a automatizar procesos de backend, y procesos que por ejemplo puede hacer un contable, que son muy numéricos y basados en transacciones. Pero de repente, con esta nueva ola vemos algoritmos que pueden crear poesía, una imagen, o que pueden combinar estilos.

Vemos algoritmos generacionales, que pueden generar cosas. Entonces claro, eso nos ha pillado un poco desprevenidos, porque profesiones que creíamos que no estaban impactadas, como un artista, si lo están. Ahora, de repente es difícil diferenciar qué ha sido creado dibujando o qué ha creado un algoritmo combinando números y estilos. Esto ha sido un cambio que nos ha pillado por sorpresa a muchos. No en lo que respecta a la parte generativa, que ya estaba desde hace años, pero no con la dimensión actual, con todo el mundo hablando de ello.   

Pero, cada vez más, nos estamos dando cuenta de que esos modelos, que están muy bien para más y más nos estamos dando cuenta de que esos modelos están muy bien para entretener, pero tienen muchas limitaciones. Muchas de esas limitaciones hacen que se puedan utilizar como pasatiempos o bien para darte una primera idea de un tema sobre un trabajo en desarrollo. Pero no de manera fiable ni de manera sostenible no. No se puede uno fiar de que la salida vaya a ser coherente con la tarea pedida.  

Es además la manera de ser consistente en el tiempo lo que aseguran las personas que trabajan. Es decir, una persona va a dar siempre una salida alineada con lo que se le está pidiendo, y con los sistemas de IA no hay garantía. Pero los sistemas de IA van a ayudar mucho a estas profesiones. Van a ayudar a gente creativa a ser más creativa, a ser más rápidos en su trabajo, y van a jugar un papel importante. Lo están jugando ya, creo.  

Hay un tema muy importante, que está pasando y que nos preocupa un poco. Cuando se humanizan estos sistemas. Como las respuestas son tan convincentes y suenan tan bien, pues tendemos a humanizar el ChatGPT y otros modelos grandes de lenguaje. Cuando lo humanizas corres el riesgo de, digamos, darle a la máquina propiedades que no debería tener, porque es un algoritmo.

Su humanización va a crear muchos problemas. Eso es lo que está pasando por lo convincentes que son. Pero hay que educar a la gente, dar una educación sobre este tema es muy importante ahora, para que sepan por qué aparece una salida determinada. Tenemos que tener conocimiento de que puede fallar y tenemos que tener conocimiento de que lo que vemos como salida es algo optimizado a lo que le ha escrito tú, de manera estadística. Nada más. No hay conocimiento, eso es una optimización para enseñarte lo más acorde con el prompt, con lo que le has metido, tú.