Conecta con nosotros

Noticias

Microsoft está desarrollando una herramienta para ayudar a detectar si los algoritmos discriminan

Publicado el

Microsoft está desarrollando una herramienta para ayudar a detectar si los algoritmos discriminan

El uso ético de la tecnología, y especialmente de la Inteligencia Artificial, es una de las máximas preocupaciones de los expertos de todo el mundo. Muchos están advirtiendo de lospeligros que podría tener su uso por parte de entidades o empresas con malas intenciones y sin tener en cuenta unas mínimas normas éticas. Otros han decidido no quedarse sólo en las palabras y dar un paso más allá para evitarlo. Como Microsoft, que según el MIT Technology Review está desarrollando una herramienta capaz de detectar el sesgo en algoritmos de Inteligencia Artificial. Todo con la intención de evitar que las empresas utilicen esta tecnología de manera que pueda resultar discriminatoria contra determinadas personas.

Dicho dato ha sido confirmado por un investigador de la compañía, Rich Caruana, que lo ha descrito como una especie de panel de control, desde el que los ingenieros pueden ejecutar operaciones sobre modelos de Inteligencia Artificial que hayan recibido ya entrenamiento. Según ha declarado Caruana, “temas como la transparencia, la inteligibilidad o la explicación son tan nuevos para este campo que muy pocos tenemos la experiencia suficiente para conocer todo lo que debemos buscar, así como todas las manera que el sesgo se puede colar en nuestros modelos“.

Este investigador también apunta que la herramienta de detección de discriminación de Microsoft ayudará a que los investigadores en Inteligencia Artificial puedan detectar más ejemplos de injusticia, aunque no podrán encontrarlos todos. Tal como él lo ve, “por descontado, no podemos esperar la perfección, ya que siempre va a haber algo de sesgo que pase sin ser detectado o que no pueda eliminarse. El objetivo es hacerlo lo mejor que podamos“.

Esta discriminación en los algoritmos es un tema que preocupa cada vez más, y la lista de sesgos algorítmicos ya es tan grande que parece fuera de control. Y crece cada año. Por tanto, para intentar evitarlo, “lo mejor que pueden hacer por ahora sus empresas es educar a su plantilla para que estén alerta de las múltiples maneras en las que puede originarse y manifestarse la discriminación, además de generar herramientas para que los modelos puedan comprenderse con más facilidad y, por tanto, hacer que el sesgo sea más sencillo de detectar“.

La herramienta de Microsoft no es la única que se está desarrollando o se ha creado ya para intentar acabar con el sesgo en algoritmos. Facebook ha anunciado la suya hace sólo unos días. Se llama Fairness Flow, y avisa automáticamente de si un algoritmo está haciendo un juicio injusto sobre una persona con base en su raza, edad o género.

Redactora de tecnología con más de 15 años de experiencia, salté del papel a la Red y ya no me muevo de ella. Inquieta y curiosa por naturaleza, siempre estoy al día de lo que pasa en el sector.

Top 5 cupones

Lo más leído

Suscríbete gratis a MCPRO

La mejor información sobre tecnología para profesionales IT en su correo electrónico cada semana. Recibe gratis nuestra newsletter con actualidad, especiales, la opinión de los mejores expertos y mucho más.

¡Suscripción completada con éxito!