Segunda investigación a X en la UE por generar imágenes de índole sexual con Grok sin consentimiento

La red social X va a tener que afrontar otra investigación en la UE por la creación de imágenes de tipo sexual en su plataforma sin consentimiento por medio de su IA, Grok. En esta ocasión es la Comisión de Protección de datos de Irlanda, la DPC, la que ha abierto dicha investigación, además de por esta generación de fotografías, por el tratamiento de los datos personales de personas de la Unión Europea y del Espacio Económico Europeo, menores incluidos.

Estas investigaciones se han abierto después de que en alrededor de diez días, X generase unas tres millones de imágenes sexualizadas. De ellas, aproximadamente 23.000 eran de pornografía infantil. La que se acaba de anunciar, además por estas imágenes, investigará si X ha infringido el RGPD, y podría tener consecuencias para la red social en la UE.

En concreto, la DPC revisará si X ha incumplidosus obligaciones según los artículos del RGPD 5 (principios del tratamiento), 6 (licitud del tratamiento), 25 (protección de datos desde el diseño y por defecto) y 35 (obligación de realizar una evaluación de impacto relativa a la protección de datos), en lo que respecta a los datos personales tratados de interesados de la UE/EEE.

El Comisionado adjunto de la DPC, Grahan Doyle, ha comentado que «la DPC ha estado colaborando con X desde que aparecieron los primeros informes en los medios de comunicación hace varias semanas sobre la supuesta capacidad de los usuarios de X para incitar a la cuenta @Grok en X a generar imágenes sexualizadas de personas reales, incluidos niños. Como autoridad supervisora principal de XIUC en toda la UE/EEE, la DPC ha iniciado una investigación a gran escala que examinará el cumplimiento por parte de XIUC de algunas de sus obligaciones fundamentales en virtud del RGPD en relación con los asuntos en cuestión».

El pasado mes de enero, la Comisión Europea abrió otra investigación para determinar si la red social X ha infringido la Ley de Servicios Digitales. Actualmente la investigación está valorando si X ha mitigado y evaluado de forma adecuada los riesgos de Grok en X, incluida la difusión de contenidos ilegales, como las imágenes generadas por IA que se mencionan en la investigación abierta en Irlanda.