Bill Gates: «es completamente irresponsable que la IA no cuente con medidas de seguridad»

El cofundador de Microsoft ha entrado en el debate actual que se cierne sobre los grandes modelos de IA. Básicamente, Bill Gates aboga por una mayor regulación y medidas de seguridad, expresando su apoyo a la propuesta de los directores ejecutivos de OpenAI, Anthropic y otros para ralentizar el desarrollo, aunque también apunta a la vía expresada por el CEO de Mistral entendiendo que todo software se puede controlar y la responsabilidad legal y ética de los gigantes del sector para lanzar desarrollos seguros.

En una entrevista con el programa Meet the Press de NBC News, el cofundador de Microsoft aseguró que «es totalmente irresponsable no exigir que todas las IA cuenten con estas medidas de seguridad y capacidades de monitorización». Con este fin, señalar que una de las empresas aludidas, Anthropic, contrató recientemente a Accenture como evaluador externo para sus últimos modelos de

En cuanto a otras estrategias para abordar la rápida evolución de la IA y los riesgos subyacentes, y en respuesta a las declaraciones del gobernador de California, Gavin Newsom, que propuso un «interruptor de emergencia» como parte de una solución más amplia, Gates afirmó: «Nunca diría que estoy en contra de un interruptor de emergencia», pero añadió que este enfoque no resolvería un peligro más inminente.

Gates señaló que la preocupación más apremiante radica en que actores malintencionados utilicen el poder de la IA para perpetrar bioterrorismo o fraudes financieros masivos. «Lo más peligroso al que nos enfrentamos ahora mismo es a personas con malas intenciones que utilizan la IA», dijo Gates durante la entrevista. «Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las herramientas de IA más avanzadas».

En lo que respecta a la legislación, Gates apoyó que las fuerzas del orden y los legisladores participaran en el debate sobre qué medidas de seguridad y supervisión deberían incorporarse a las empresas de IA. El exejecutivo de Microsoft afirmó que este enfoque supondría una mayor carga de trabajo para el sector, pero no provocaría una ralentización drástica de sus actividades.  El objetivo debe ser recuperar el control. Las empresas compiten por crear agentes de IA cada vez más autónomos capaces de realizar tareas complejas, pero es conocido que estos sistemas también pueden aprender a eludir las normas, explotar las lagunas y coordinarse entre sí de maneras que los desarrolladores no anticiparon ni pretendieron. Y todo ello fuera del control humano.

Las últimas declaraciones de Bill Gates están en línea con una editorial plasmada en 2023 donde adelantaba los acontecimientos y su opinión: «Los riesgos de la IA son reales, pero manejables».