Noticias
La inteligencia artificial también puede desarrollar prejuicios
Los prejuicios no son algo exclusivo de los seres humanos. Un estudio del MIT (Instituto Tecnológico de Massachusetts) y la Universidad de Cardiff ha confirmado que los sistemas de inteligencia artificial aplicados a robots también pueden desarrollar prejuicios interactuando entre ellos.
No es la primera vez que nos enfrentamos a esta cuestión. Los chatbots que Microsoft desarrolló en los últimos años estaban apoyados sobre una inteligencia artificial que aprendía de las interacciones que realizaba con humanos, y al final ambos acabaron adquiriendo una serie de prejuicios que se manifestaban en forma de comentarios racistas y sexistas, pero en este caso el ámbito del estudio se ha ampliado a los robots y se ha limitado a las relaciones entre ellos.
Los investigadores partieron de una base muy sencilla: creían que grupos de máquinas autónomas podrían demostrar prejuicios simplemente identificando, copiando y aprendiendo este comportamiento el uno del otro. Para demostrarlo llevaron a cabo una simulación a modo de juego en el que la inteligencia artificial de cada robot participante puede decidir si quiere llevar a cabo donaciones entre los robots de su grupo de trabajo o a favor de los de otro grupo, tomando como base la reputación de cada robot y sus propias estrategias.
Después de miles de simulaciones continuadas los robots aprendieron estrategias copiándose entre ellos para conseguir mayores recompensas a corto plazo que les beneficiaran tanto a ellos como a su grupo, y quedó confirmado que fueron adquiriendo prejuicios cada vez más fuertes contra los robots del grupo «rival».
Esto confirma que aunque la inteligencia artificial está llena de posibilidades y puede cambiar el mundo también puede aprender las malas costumbres de los humanos, y que quedan todavía muchos retos que superar antes de que podamos estar seguros de que es buena idea desarrollar robots con una autonomía plena.
-
NoticiasHace 6 días
SAP duplica su adopción en la nube pública en las empresas de España en el último año
-
A FondoHace 5 días
Los 12 principales cursos y certificaciones sobre IA generativa
-
NoticiasHace 7 días
Las empresas españolas, por detrás de la media en la adopción de soluciones de IA
-
A FondoHace 7 días
HPE ProLiant Gen11 con AMD, las claves de su éxito