IBM deja de investigar y desarrollar tecnologias de reconocimiento facial

IBM ha decidido dejar de investigar y desarrollar tecnologías de reconocimiento facial por temor a que pueda utilizarse para promover la injusticia y la discriminación por motivo de raza. La compañía ha comunicado su decisión mediante una carta que ha enviado su CEO, Arvind Krishna, al Congreso de Estados Unidos.

En la carta, Krishna señala que «IBM se opone firmemente, y no aprueba ninguna tecnología, como la tecnología de reconocimiento facial ofertada por otros proveedores, para la vigilancia masiva, el perfilado racial, las violaciones de libertades y derechos humanos básicos o cualquier otro fin que no vaya en línea con nuestros valores y principios de confianza. Creemos que es hora de comenzar un diálogo a nivel nacional sobre si la tecnología de reconocimiento facial debe utilizarse o no y cómo por parte de las agencias y cuerpos de seguridad«.

Krishna también ha recordado que «la Inteligencia Artificial es una herramienta poderosa que puede ayudar a los cuerpos de seguridad a mantener seguros a los ciudadanos. Pero los fabricantes y usuarios de los sistemas de Inteligencia Artificial deben tener una responsabilidad compartida para asegurar que la Inteligencia Artificial se prueba en relación al sesgo, en particular cuando la usan los cuerpos de seguridad, y que ese sesgo debe ser auditado y contar con informes«.

Además, el CEO de IBM también ha pedido al Congreso que pongan en marcha una normativa a nivel nacional para fomentar el uso de determinada tecnología, como cámaras corporales y analíticas de datos, para que la vigilancia policial cuente con una mayor transparencia y pueda rendir cuentas cuando se desee y/o necesite.

La decisión de IBM llega cuando ya hay varias empresas que piden su regulación, y diversas ciudades de Estados Unidos, en concreto de California, han decidido prohibir el uso de la tecnología de reconocimiento facial: San Francisco, Oakland y San Diego. Entre los principales motivos que dieron para ello estaban sus limitaciones y una falta de estándares sobre su uso. También porque aseguran que fomenta el sesgo contra las minorías. También Microsoft ha decidido dejar de invertir en empresas dedicadas al desarrollo de esta tecnología, aunque sí seguirá investigando en su desarrollo.

Paralelamente, en la Unión Europea también se han planteado su prohibición, pero temporal (durante cinco años). Al menos en espacios públicos, como parques, recintos deportivos y puntos de interés turístico, para dar tiempo a que se apruebe una legislación sobre esta tecnología para evitar abusos.