El miedo a la IA: más voces piden echar el freno (China incluida), mientras Trump quiere acelerar

El desarrollo de las tecnologías de inteligencia artificial ha llegado a una encrucijada. El miedo a la IA y a sus enormes riesgos se impone en el pensamiento global y se amplían las voces que piden echar el freno en una acción coordinada a nivel mundial que devuelva el control a los humanos antes de que sea demasiado tarde.

Si las últimas semanas importantes actores alertaron de la situación, este fin de semana el debate ha alcanzado su máxima expresión con noticias muy importantes que impactarán en el futuro. Una de ellas ha sido el anuncio de Sam Altman del retraso en la salida a bolsa de OpenAI. Otra ha sido las declaraciones del CEO de su máximo competidor Anthropic, Dario Amodei, de acuerdo en ralentizar el desarrollo y establecer una regulación a medida. Otra voz importante, la de Elon Musk, se ha unido a los dos grandes del sector. Y, adicionalmente, hoy mismo, el jefe de la seguridad china también ha pedido, a su manera, frenar los grandes modelos.

Para que no faltara de nada, Donald Trump ha salido a escena como nota discordante. El Presidente estadounidense sigue a lo suyo y contrariamente a la opinión general pide todo lo contrario: acelerar para «ganarle la batalla a China». Y enfrente, senadores independientes de su país han anunciado la propuesta de legislación más extrema contra la IA impulsada hasta la fecha. En esta artículo repasaremos todo ello.

El miedo a la IA

Todo lo que pronosticaron los que años atrás fueron calificados de «catastrofistas» se está cumpliendo… y antes de lo previsto. En marzo de 2023, un grupo de 1.000 personas entre los que se encontraban científicos, ingenieros, intelectuales, empresarios, políticos y grandes nombres de la tecnología mundial, firmaron una carta abierta donde solicitaban la suspensión durante seis meses del desarrollo de los mayores proyectos de Inteligencia Artificial, ante lo que calificaron de «profundos riesgos para la sociedad y la humanidad» que podían plantear sin el control y gestión adecuados.

Las consecuencias están a la vista. Los riesgos inherentes de una carrera acelerada y sin control superan por mucho a los beneficios, que, siendo sinceros y fuera del marketing, todavía les queda muchísimo por demostrar. A la problemática del gasto energético de las grandes infraestructuras de la IA; la situación en los entornos laborales ante despidos masivos o al consumo de recursos de hardware que ha provocado una crisis gravísima en todo el mercado electrónico, se unen a los riesgos inherentes de -falta- control, seguridad y ética de unas tecnologías que pretenden transformar por completo el mundo que conocemos.

La situación interna real solo la conocen en los grandes laboratorios, pero debe ser de extrema gravedad ante de las declaraciones que llegan de sus mismos desarrolladores. Que recordemos, es la primera vez en la historia que los mismos responsables de un desarrollo piden pausar, ralentizar y regular la tecnología que investigan.

OpenAI frena su IPO

La que estaba destinada a convertirse en la mayor salida a bolsa de la historia, se retrasa. En una entrevista con Fortune, el director ejecutivo de OpenAI, Sam Altman, ha reconocido la situación delicada para anunciar que OpenAI no saldrá a bolsa este año como estaba previsto. «Dado todo lo que está ocurriendo en materia de seguridad, este no sería un buen momento para salir a bolsa», dice el ejecutivo.

En respuesta a una pregunta sobre la salida a bolsa de OpenAI en 2026 o 2027, Altman respondió directamente «no en 2026», contradiciendo un informe de principios de este año que indicaba que el gigante de la IA presentaría una solicitud de IPO este mes de septiembre. En cambio, Altman sugirió que OpenAI se centrará en la seguridad y la alineación de la IA, sin dejar de mejorar los grandes modelos LLM y los productos enfocados al cliente.

Además del incidente de Hugging Face, más grave de lo que se informó inicialmente, los agentes de OpenAI volvieron a escapar de los entornos de prueba para hackear otras organizaciones. Las empresas compiten por crear agentes de IA cada vez más autónomos capaces de realizar tareas complejas, pero cada vez hay más indicios de que estos sistemas también pueden aprender a eludir las normas, explotar las lagunas y coordinarse entre sí de maneras que los desarrolladores no anticiparon ni pretendieron. Y todo ello fuera del control humano.

OpenAI ya anunció que estaba valorando la posibilidad de ralentizar el desarrollo de los modelos de IA de vanguardia y el frenazo a la salida a bolsa confirma la situación. Aquí hay que decir que ello puede estar enfocado a elevar el nivel de autoprotección a nivel empresarial. Una vez en el mercado, la compañía debe garantizar su funcionamiento y, ahora mismo, situaciones como la de Hugging Face no pasarían el mínimo escrutinio y tendrían graves penalizaciones. Simplemente, un caso así destrozaría la cotización.

Dario Amodei propone un plan de acción coordinado

Dario Amodei, director ejecutivo de Anthropic, ha publicado un extenso artículo titulado «Debemos marcar el ritmo de la frontera» donde detalla su objetivo de moderar la velocidad de desarrollo de la IA, en lugar de avanzar al ritmo vertiginoso actual. El artículo ha llegado después de la dimisión por motivos éticos de Jacob Coxon, un importante investigador de Anthropic que ha realizado acusaciones graves contra su compañía (y también OpenAI) donde trabajó anteriormente y argumentos catastrofistas, pero argumentados, del avance descontrolado hacia la Inteligencia Artificial General (IAG).

Amodei propone un enfoque de tres fases para recuperar el control y su compañía ya se ha comprometido con la primera. La misma exige que las empresas de IA de vanguardia se comprometan a brindar un acceso continuo, similar al de un empleado, a evaluadores externos que se centrarían en verificar el cumplimiento de ciertos estándares de seguridad, evaluar si el entrenamiento de los modelos de IA está alineado con el objetivo de ralentizar el proceso e informar sobre incidentes.

El segundo paso requiere que estas empresas de IA establezcan estándares de seguridad comunes con la ayuda de los gobiernos para limitar el ritmo de avance descontrolado de la IA. La medida final implicaría que Estados Unidos y otros gobiernos democráticos se coordinen con gobiernos autoritarios para garantizar que todos compartan la misma visión sobre el cumplimiento.

«Las medidas que propongo para avanzar en la exploración a un ritmo seguro no serán fáciles», escribió Amodei. «Pero creo que tenemos la obligación con la humanidad de intentarlo».

Según Amodei, los riesgos incluyen «la pérdida de control de los sistemas de IA, el uso indebido de la IA para ciberataques y bioterrorismo, y graves trastornos económicos». El ejecutivo citó los grave incidente en el que agentes de OpenAI escaparon del control y hackearon otras organizaciones, pero también reconoció que Anthropic descubrió que varios científicos estaban utilizando Claude para «usos biológicos indebidos», una línea roja que ha hecho saltar todas las alarmas. Las alertas son máximas: un enjambre de IA podría llegar a ser capaz de «apoderarse de toda Internet» en el plazo de un año.

Elon Musk y Demis Hassabis se suman al consejo general

Musk, fundador de SpaceX, un conglomerado que incluye la firma de IA, xAI, respondió al plan de desaceleración de Amodei con una serie de publicaciones en X que se resumen en un comentario: «Dario tiene razón».

«Llevo mucho tiempo dando la voz de alarma sobre la IA», y se refirió a una publicación de 2014 en la que decía: «Tenemos que tener muchísimo cuidado con la IA. Potencialmente es más peligrosa que las armas nucleares». Musk no ha anunciado medidas concretas, pero es otro del top-5 mundial en IA que se suma a la opinión general lo que puede resultar curioso frente a otras actitudes ultra del ejecutivo.

Demis Hassabis, cofundador y presidente de Google DeepMind, también fue en la misma dirección: «Hay que ultimar los detalles, pero la dirección que estamos tomando es la correcta para afrontar este momento crítico». No ha habido respuesta oficial de Google ni tampoco de Meta, otra de las grandes.

Primera respuesta de China

El ministro de Seguridad chino y máximo responsable en materia de inteligencia gubernamental, ha coincidido con la opinión de las grandes de la IA estadounidenses y dice estar dispuesto a «formalizar» un acuerdo global de gobernanza advirtiendo que el uso indebido de la IA «podría amenazar la seguridad política de China y sus infraestructuras críticas».

El artículo publicado en la revista oficial «China Cyberspace» es la advertencia más detallada del hermético gigante asiático en lo que respecta a la IA. Aunque no menciona las propuestas de las tecnológicas americanas y está enfocado desde la perspectiva de la soberanía nacional, amenazas extranjeras y la rivalidad geoestratégica, está -curiosamente- en sintonía con las advertencias de éstas.

«Los datos estatales, los secretos comerciales y la privacidad personal están en juego», advierte el ministro Chen Yixin, quien pide mayores medidas de protección. La IA se ha convertido en «un nuevo escenario de rivalidad estratégica entre las grandes potencias», aseguró abogando por mantener los límites de seguridad al tiempo que se aprovechan las nuevas oportunidades.

El político citó los riesgos del desarrollo de la IA y citó las vulnerabilidades estructurales que podrían permitir el control remoto de dispositivos y la filtración de datos confidenciales. También advirtió de la creciente brecha de desarrollo causada por los monopolios de la IA, acusando a las potencias tecnológicas dominantes de interrumpir la cadena de suministro global de IA mediante métodos como listas de entidades, controles tecnológicos, monopolización de los estándares de la industria y la creación de ecosistemas de código cerrado. Sin citar ningún país o empresa en concreto, habló de la creación de una barrera para evitar la hegemonía de un solo país.

Siempre en tono interno y de seguridad nacional, lo interesante de esta declaración es el llamamiento al resto de países de «fomentar el código abierto, la transparencia, la colaboración y el intercambio de tecnología». Además, es la primera vez que China dice estar dispuesta a la formalización de un pacto global de gobernanza en inteligencia artificial y un «desarrollo sano y ordenado» para prevenir y controlar sus riesgos.

Trump está lejos del consenso

El plan propuesto por el CEO de Anthropic busca una exención del gobierno estadounidense para permitir que las empresas de IA de vanguardia coordinen sus esfuerzos sin ser sancionadas por colusión anticompetitiva.

Pero David Sacks, copresidente del consejo de asesores de Donald Trump en ciencia y tecnología, ha zanjado la propuesta atacando: «Dejen de fingir que necesitan el permiso de nadie… Dejen de fingir que la motivación para ralentizar el ritmo es puramente altruista. Se enfrentan a una enorme responsabilidad por productos defectuosos si sus productos permiten un ciberataque realmente dañino».

Y es que Donald Trump está lejos de cualquier consenso en IA lo que complica cualquier solución para atajar los riesgos. «Hay muchas fuerzas negativas que están sacando eso y no deberían hacerlo. Y están hablando de cosas que no van a ocurrir», declaró tajante mientras jugaba al golf en Irlanda. «Vamos por delante de China en IA, somos el país más sofisticado del mundo y, francamente, yo quiero que siga siendo así» añadió, dejando claro que su única intención es ganar la carrera frente a China.

Reacciones desde la política

Pero Trump no durará para siempre y un número creciente de legisladores estadounidenses está pidiendo nuevas normas para regular los sistemas de IA tras casos de agentes de IA que se descontrolan para piratear sistemas externos y de investigadores de seguridad de la IA que abandonan sus empresas por la preocupación que les generan los riesgos de esta tecnología.

Los políticos, tanto demócratas como republicanos, han reaccionado con alarma y han exigido más medidas. El fin de semana, The New York Times informó que Barack Obama instó en privado el jueves a los demócratas a priorizar la supervisión de la IA en su agenda, diciéndoles a los líderes del partido: «Esto es algo que avanza muy rápido en manos privadas, y si no lo controlamos, creo que puede ser peligroso».

El miedo a la IA ha entrado abruptamente en campaña. El socialista Abdul El-Sayed, defendió este fin de semana que «hay cosas que no deberíamos hacer a través de la IA» y que «todos debemos decidir que necesitamos control público para que esta tecnología no sea desarrollada en el interés de unos pocos contra el bienestar de la mayoría».

El senador Bernie Sanders ha ido mucho más lejos y propone una pena de 20 años de prisión para los desarrolladores de IA que sigan adelante con sus planes de superinteligencia artificial, una sanción comparable a la del desarrollo ilegal de armas nucleares no autorizadas. El proyecto de ley de Sanders es la legislación más extrema sobre IA hasta la fecha, tiene como objetivos declarados «detener el desarrollo avanzado de la IA», establecer una nueva agencia federal a nivel de gabinete y orientar la política internacional de Estados Unidos a «prohibir la superinteligencia en todo el mundo».

¿Qué opina el Gobierno español? Óscar López, ministro para la Transformación Digital y de la Función Pública, ha abogado por una IA regulada y «al servicio del ser humano». El ministro se ha alegrado que de que las voces que llegan desde el otro lado del Atlántico pongan el foco en la seguridad de la IA y ha asegurado que la innovación es compatible con la regulación. La apuesta, en su opinión, pasa por «desarrollar una IA confiable, al servicio del ser humano».

* Imágenes creadas con IA