La inteligencia artificial también puede desarrollar prejuicios

Los prejuicios no son algo exclusivo de los seres humanos. Un estudio del MIT (Instituto Tecnológico de Massachusetts) y la Universidad de Cardiff ha confirmado que los sistemas de inteligencia artificial aplicados a robots también pueden desarrollar prejuicios interactuando entre ellos.

No es la primera vez que nos enfrentamos a esta cuestión. Los chatbots que Microsoft desarrolló en los últimos años estaban apoyados sobre una inteligencia artificial que aprendía de las interacciones que realizaba con humanos, y al final ambos acabaron adquiriendo una serie de prejuicios que se manifestaban en forma de comentarios racistas y sexistas, pero en este caso el ámbito del estudio se ha ampliado a los robots y se ha limitado a las relaciones entre ellos.

Los investigadores partieron de una base muy sencilla: creían que grupos de máquinas autónomas podrían demostrar prejuicios simplemente identificando, copiando y aprendiendo este comportamiento el uno del otro. Para demostrarlo llevaron a cabo una simulación a modo de juego en el que la inteligencia artificial de cada robot participante puede decidir si quiere llevar a cabo donaciones entre los robots de su grupo de trabajo o a favor de los de otro grupo, tomando como base la reputación de cada robot y sus propias estrategias.

Después de miles de simulaciones continuadas los robots aprendieron estrategias copiándose entre ellos para conseguir mayores recompensas a corto plazo que les beneficiaran tanto a ellos como a su grupo, y quedó confirmado que fueron adquiriendo prejuicios cada vez más fuertes contra los robots del grupo «rival».

Esto confirma que aunque la inteligencia artificial está llena de posibilidades y puede cambiar el mundo también puede aprender las malas costumbres de los humanos, y que quedan todavía muchos retos que superar antes de que podamos estar seguros de que es buena idea desarrollar robots con una autonomía plena.