La Unión Europea presenta su propuesta para regular la Inteligencia Artificial en la UE

La Unión Europea ha presentado su propuesta para la regulación de la Inteligencia Artificial en el territorio del mercado único. Basado en los riesgos que puede plantear su uso, las normas presentadas se centran en la regulación de las aplicaciones de alto riesgo de la IA, e incluye prohibiciones de un pequeño número de supuestos considerados excesivamente peligrosos para la seguridad de las personas o para los derechos fundamentales de los ciudadanos de la UE.

Entre ellos está el uso de sistemas parecidos al que utiliza China de crédito social o diversos técnicas de manipulación basadas en la Inteligencia Artificial que pueden llegar a causar daño psicológico o físico. Además, también impone restricciones al uso de las fuerzas y cuerpos de seguridad del estado a la vigilancia biométrica en lugares públicos, pero con unas excepciones muy genéricas.

Esto quiere decir que solo hay un pequeño número de supuestos que se enfrentan a una regulación severa según las normas propuestas. Lo mismo sucede con las prohibiciones. Hay un pequeño grupo de usos catalogados como de alto riesgo que estarán sujetos a requerimientos regulatorios concretos. Otros supuestos de uso de la IA se enfrentarán a determinados requerimientos de transparencia, como es el caso de los chatbots o de los deepfakes, ya que los funcionarios creen que sus riesgos potenciales se pueden minimizar solo con informar a los usuarios de que están interactuando con algo que no es real, sino artificial.

Según la propuesta, las leyes presentadas afectarían a cualquier empresa que vendiese un producto o servicio relacionado con la Inteligencia Artificial en la Unión Europea. No solo a las empresas con sede en su territorio, ni a los ciudadanos de la UE. El objetivo ahora de la UE es mejorar la confianza del público en cómo se implementa la Inteligencia Artificial para ayudar a impulsar la adopción de esta tecnología. De hecho, lo que quieren muchos altos comisarios de la UE es desarrollar un ecosistema de excelencia en torno a la IA que esté en línea con los valores europeos.

Con esta propuesta de normativa, los requisitos obligatorios a cumplir están asociados a una categoría calificada de alto riesgo de aplicaciones de la Inteligencia Artificial, que englobará a las aplicaciones que supongan un riesgo de seguridad claro o que amenacen el cumplimiento de los derechos fundamentales de la UE, como el derecho a la no discriminación.

¿Cuáles se considerarán casos de alto riesgo?

Por ahora, los ejemplos que se barajan como de alto riesgo caben en estas categorías: identificación biométrica y categorización de personas, gestión y operación de infraestructura crítica, educación y preparación vocacional, empleo y gestión de trabajadores y acceso a autoempleo, acceso y disfrute de servicios privados esenciales y servicios y beneficios públicos, cumplimiento de la legalidad, migración y asilo, control de fronteras, y administración de procesos democráticos y judiciales. Los usos militares de la Inteligencia Artificial quedan específicamente excluidos de la normativa propuesta, ya que esta se centra únicamente en el mercado interno de la UE.

Así, quienes desarrollen aplicaciones con IA consideradas como de alto riesgo tendrán que cumplir una serie de obligaciones antes de poder lanzar sus productos al mercado. Entre ellas hay varias relacionadas con la calidad de los conjuntos de datos empleados para entrenar las Inteligencias Artificiales y un nivel de supervisión humana no solo sobre el diseño, sino también sobre el uso del sistema. Además tendrán que cumplir otros requisitos posteriores a la venta de los productos, como la vigilancia del mercado a posteriori.

Además tendrán que crear registros del sistema de Inteligencia Artificial que usen para permitir comprobaciones del cumplimiento de las normas y ofrecer información relevante a sus usuarios. La solidez, precisión y seguridad del sistema de Inteligencia Artificial también estarán sujetos a normativas concretas. Los Comisarios de la UE han apuntado que la gran mayoría de aplicaciones de IA quedarán incluidos en esta categoría de alto riesgo. En cuando a los que desarrollen sistemas de Inteligencia Artificial de bajo riesgo, serán invitados a adoptar, sin obligaciones legales, diversos códigos de conducta sobre su uso.

Las sanciones por no cumplir las normas en los casos de prohibiciones de supuestos en áreas concretas de la IA pueden llegar hasta el 6% de los ingresos globales anuales de la empresa que comercialice el producto o servicio que haya incumplido la normativa o una multa de 30 millones de euros, lo que sea mayor. Por la violación de las normas de las aplicaciones de alto riesgo, las multas pueden ser de hasta el 4% de los ingresos por ventas anuales de la compañía, o 20 millones de euros, la cantidad que sea mayor.

¿Que entidades se encargarán de hacer cumplir las normas?

En el cumplimiento de las normas que regulen la Inteligencia Artificial se tendrán que implicar varias agencias de cada estado miembro de la UE, y su supervisión la llevarán a cabo diversas agencias ya en marcha, como las agencias de protección de datos y diversas entidades de seguridad de producto. Esto ha levantado varias dudas sobre los recursos de las agencias nacionales, dado el trabajo adicional y la complejidad técnica a los que se enfrentarán al vigilar el cumplimiento de la normativa. Pero también sobre la manera de solucionar los cuellos de botella que se generarán en determinados países.

Por otro lado, habrá una base de datos a nivel de la Unión Europea, que se creará a modo de registro de los sistemas de alto riesgo implementados en el bloque, cuya gestión correrá a cargo de la Comisión Europea. Además, se va a crear un nuevo organismo, llamada Junta de Inteligencia Artificial Europea (EAIB), que se encargará de dar apoyo a una aplicación consistente de la regulación.

El Comisario de mercado interno Thierry Breton ha señalado, según Techcrunch, que la inversión es una pieza clave del plan, y por eso van a destinarle «hasta 1.000 millones de euros al año del programa Europe Digital y Horizonte Digital«. Además, la UE quiere «generar inversión privada y una inversión colectiva a nivel de UE de 20.000 millones de euros al año a lo largo de la próxima década» Durante esta década, a la que llaman la «década digital«, quienes que «parte de los 140.000 millones de euros para financiar inversiones digitales del Fondo de recuperación del COVID-19 vayan a Inteligencia Artificial«.

Según Margrethe Vestager, Vicepresidenta de la Comisión Europea, con la presentación de esta propuesta, la UE quiere «convertir a Europa en un terreno de primer nivel en el desarrollo de una Inteligencia Artificial segura, confiable y centrada en los humanos, lo mismo que su uso. Por otro lado, nuestra regulación se dirige a los riesgos humanos y sociales asociados con usos concretos de la Inteligencia Artificial. Es para crear confianza. Por otro lado, nuestro plan coordinado subraya los pasos necesarios que los estados miembros deberían dar para impulsar las inversiones y la innovación para garantizar la excelencia. Todo esto es para asegurar que reforzamos la adopción de la Inteligencia Artificial en Europa«.

Apertura del debate parlamentario en la Unión Europea

Esta propuesta inicia el debate asociado al proceso colegislativo de la UE, dado que el Parlamento Europeo y los estados miembros, a través del Consejo de la Unión Europea, tendrán mucho que decir sobre la propuesta. ¿Qué quiere decir esto? Que antes de que las instituciones de la UE lleguen a un acuerdo sobre una legislación sobre la Inteligencia Artificial a nivel europeo, la propuesta podría experimentar muchos y notables cambios.

Por ahora, los comisarios no han dado un plazo para la adopción de esta propuesta ya como ley, y solo han dicho que esperaban que otras instituciones de la Unión Europea se implicasen de manera inmediata en el proceso para que pueda llevarse a cabo tan pronto como sea posible. No obstante, podrían pasar todavía varios años antes de que la legislación se ratifique y entre en vigor.