Las IAs consideradas perjudiciales y dañinas para los ciudadanos, prohibidas en la UE

Esta semana han entrado en vigor varias normas de la Ley de IA de la UE, vigente desde agosto, centradas sobre todo en la prohibición de sistemas de IA que puedan ser perjudiciales o dañinas para los ciudadanos, así como en asegurar que quien tiene que manipular y utilizar IAs en ciertos entornos y supuestos tenga un nivel suficiente para hacerlos.

Quedan por tanto prohibidos ciertos casos de uso de la IA, entre ellos los que impliquen el uso para manipular el comportamiento de menores, o para provocar daño a adolescentes. Además, entre las IAs que están ya prohibidas en la UE están los sistemas de puntuación social que utilizan Inteligencia Artificial, ya que pueden causar daños injustos y/o desproporcionados.

También lo estarán el uso de IAs para valoración el riesgo en la predicción de comportamientos criminales basándose únicamente en la creación de perfiles. Los miembros de los cuerpos de seguridad de los países de la UE tampoco podrán utilizar IAs para realizar identificaciones biométricas en tiempo real en espacios públicos.

No podrán utilizarse, asimismo, las IAs que se aprovechen de la edad, la discapacidad o el estatus socioeconómico de las personas, ni las que intenten predecir la posibilidad de que las personas puedan cometer crímenes con base en su aspecto, o las que empleen la biometría para «deducir» ciertas características de una persona. Por ejemplo, su orientación sexual. Por otro lado, quedan prohibidas las IAs que generen o amplíen bases de datos de reconocimiento facial extrayendo imágenes de la web o de cámaras de seguridad.

Así, por ejemplo, las instituciones financieras que utilizan IA para determinados procesos tendrán que asegurarse de que sus valoraciones de riesgos crediticios no son sistemas de valoración social impulsados por Inteligencia Artificial. Las empresas de la Unión Europea, o las que sean de otros países pero operen en la región, tendrán que cumplir estas normas. De lo contrario, se enfrentan a multas que pueden ser cuantiosas

Además de no poder utilizar sistemas de IA para estos fines mencionados, las empresas que ofrezcan sistemas de IA, o los usen, tendrán que contar con personal que tenga un nivel suficiente de formación en IA. Esto podrán conseguirlo a través de formación interna o mediante la contratación de personal con las habilidades específicas para ello.

Las prohibiciones que acaban de entrar en vigor en la UE representan solo una porción de las medidas reflejadas en la Ley de IA de la UE. El próximo mes de abril, la Comisión Europea publicará además la versión final del Código de prácticas para los modelos de IA de propósito general. Las medidas de este código entrarán en vigor en agosto de este año. También entonces se ampliarán los poderes de las autoridades supervisoras de los estados miembros de la Unión Europea, de manera que puedan velar por el cumplimiento de las normas recogidas en la ley.