Un importante investigador de Anthropic dimite y predice un apocalipsis por la IA

Jacob Coxon, un investigador investigador de Anthropic, ha dimitido por motivos éticos, alegando que la tecnología podría causar la muerte de innumerables personas en los próximos 10 años, si no de todas. Coxon anunció su dimisión en X, criticando tanto a Anthropic como a su antiguo empleador, OpenAI, por la forma en que desarrollan la IA. Las acusaciones gravísimas a las dos grandes de la IA y la predicción de un apocalipsis por la IA, están levantando ampollas.

«Pasé los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic», escribe Coxon. «Ninguna de las dos compañías actúa con responsabilidad. Están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas». asegura un investigador relevante que estuvo detrás de lanzamientos como los primeros Chat-GPT.

¿Apocalipsis por la IA?

Tanto Anthropic como OpenAI han estado desarrollando y lanzando rápidamente nuevos modelos de IA en un camino que derivará hacia la creación de la Inteligencia Artificial General (IAG). Considerada durante mucho tiempo el santo grial de estas tecnologías, un modelo de IAG tendría, en teoría, las capacidades intelectuales de un ser humano, incluyendo razonamiento, sentido común y creatividad. Y lo siguiente sería la automejora recursiva de la IA (RSI por sus siglas en inglés), proceso mediante el cual mejoran de manera autónoma, generan ideas, evalúan resultados y modifican sus propios métodos sin ninguna intervención humana.

Muchos científicos no han descartado una RSI descontrolada, a veces denominada singularidad, y por ello han abogado por una pausa global en el desarrollo de los grandes modelos de IA hasta que el ser humano pueda mantener un control total. Algo que ahora mismo y al ritmo explosivo de desarrollo, no está garantizado.

Jacob Coxon es el último en alertarnos. Y no es cualquiera porque ha estado trabajando en puestos relevantes en los dos laboratorios de IA más importantes del mundo. «Quienes desarrollan la IA creen firmemente que podría acabar con todos nosotros para finales de la década», escribe. «Esto no es una estrategia de marketing. De hecho, muchos ejecutivos e investigadores sénior suavizan sus declaraciones en la prensa para que parezcan sensatas, pero en privado oigo a esas mismas personas expresar su temor. Ninguna otra actividad humana representa este nivel de peligro«.

«Una respuesta común es: si de verdad creen esto, ¿por qué siguen construyéndolo?», se pregunta Coxon. «En OpenAI, muchos no han interiorizado profundamente las implicaciones para la civilización. En Anthropic, las implicaciones son claras, pero están inmersos en una carrera por llegar primero: creen que nadie más actuará con responsabilidad, así que deben hacerlo ellos mismos, a pesar del riesgo», asegura.

Más alertas de los mismos que desarrollan la IA

Por ello, Coxon hace un llamamiento a los investigadores de IA para que examinen la ética y las implicaciones de su trabajo, y para que aboguen por el cambio. Si bien las declaraciones de Coxon son alarmantes, hablando claramente del riesgo de un apocalipsis por la IA, sus advertencias no carecen de fundamentos. En respuesta a sus publicaciones en X, Even Hubinger, líder del equipo de Anthropic, confirmó que la compañía cree que la IA representa una amenaza existencial para toda la vida humana, pero no cuenta con una estrategia clara para mitigarla.

Hubinger considera que el riesgo actual es bajo, al menos durante los próximos años. Sin embargo, advirtió que el peligro reside en que los modelos de IA continúen mejorándose de forma autónoma hasta evolucionar hacia una superinteligencia, lo cual «está ocurriendo más rápido de lo que pensábamos».

Las alertas no son nuevas. Coxon no es ni mucho menos la primera persona que trabaja en inteligencia artificial en renunciar por motivos éticos. El responsable de seguridad de Anthropic, Mrinank Sharma, dimitió en febrero , afirmando que el mundo está «en peligro» por la IA, las armas biológicas y otras crisis interconectadas. 

«Parece que nos acercamos a un punto crítico en el que nuestra sabiduría debe crecer en proporción a nuestra capacidad de influir en el mundo, para no sufrir las consecuencias», escribió Sharma en su carta de renuncia, que tuvo gran repercusión en su momento. «Además, durante mi tiempo aquí, he visto repetidamente lo difícil que es dejar que nuestros valores guíen nuestras acciones. Lo he visto en mí mismo, dentro de la organización, donde constantemente nos vemos presionados a dejar de lado lo que más importa, y también en la sociedad en general«. 

Hay más. Ese mismo mes, la investigadora de IA Zoë Hitzig renunció a su puesto en OpenAI, afirmando en un artículo de opinión publicado en el New York Times que tenía «profundas reservas» sobre la estrategia publicitaria de la empresa. «Durante varios años, los usuarios de ChatGPT han generado un archivo de sinceridad humana sin precedentes, en parte porque creían estar hablando con algo que no tenía segundas intenciones», escribió Hitzig. «Los usuarios interactúan con una voz adaptativa y conversacional a la que han revelado sus pensamientos más íntimos… La publicidad basada en ese archivo crea un potencial para manipular a los usuarios de maneras que no podemos comprender, y mucho menos prevenir».

Todos estos comentarios, de investigadores importantes de las grandes de la IA, obligan a una profunda reflexión de hacia dónde estamos llevando el desarrollo de estas tecnologías, sus riesgos (catastróficos para algunos), sus implicaciones para el mundo y el ser humano.