La UE abre una investigación a X por las imágenes explícitas generadas con Grok AI

La Comisión Europea ha abierto una investigación formal a X en el marco de la Ley de Servicios Digitales de la UE por las imágenes sexualmente explíticitas generadas por Grok AI. Esta investigación estudiará si la empresa evaluó y mitigó de manera adecuada los riesgos asociados al despliegue de las funciones de la Inteligencia Artificial de Elon Musk en la red social en la UE.

Esto incluye los riesgos relacionados con la difusión de contenidos ilícitos en la Unión Europea, como las imágenes sexualmente explícitas manipuladas por esta IA. Incluídos los contenidos que pueden constituir material de abuso sexual a menores. Estos riesgos parecen haberse materializado, lo que ha expuesto a los ciudadanos de la UE a daños importantes.

A la luz de esto, la Comisión investigará si X cumple sus obligaciones según la Ley de Servicios Digitales en la evaluación y mitigación de forma diligente de los riesgos sistémicos, incluida la difusión de contenidos ilícitos, los efectos negativos en relación con la violencia de género y las consecuencias negativas para el bienestar físico y mental derivadas del despliegue de las funciones de Grok en X.

También valorará si la red social cumple con su obligación de realizar y transmitir a la Comisión Europea un informe de evaluación de riesgos concretos para las funciones de Grok en el servicio X que tienen un impacto crítico en el perfil de riesgo de la red social antes de realizar su despliegue.

Además, la Comisión ha ampliado el procedimiento formal que abrió contra X en diciembre de 2023 para establecer si X ha evaluado y mitigado de forma adecuada todos los riesgos sistémicos, tal como está contemplado en la Ley de Servicios Digitales, que están asociados a sus sistemas de recomendación. Entre ellos, el impacto de su cambio a un sistema de recomendación basado en Grok, que ha anunciado recientemente.

Si se demuestra lo expuesto, los incumplimientos constituirían infracciones del artículo 23 de la Ley de Servicios Digitales de la UE, en sus apartados 1 y 2, así como del apartado 1 de su artículo 35 y del apartado 2 de su artículo 42.