Conecta con nosotros

Noticias

Investigadores usan Inteligencia Artificial para predecir delitos, entre dudas sobre sesgos y racismo

Publicado el

Investigadores usan Inteligencia Artificial para predecir delitos, entre dudas sobre sesgos y racismo

Varios grupos de investigadores llevan ya un tiempo utilizando la Inteligencia Artificial para predecir los delitos que van a cometerse. Pero no pocos expertos dudan de que, al menos hasta ahora, no se haya hecho entre sesgos socioeconómicos y racistas. Por ejemplo, sucedió con un modelo de predicción de crímenes mediante IA que probó el Departamento de Policía de Chicago en 2016. Lo seleccionaron para dejar además atrás sus sesgos racistas, pero tuvo el efecto contrario. Empleaba un modelo de Inteligencia Artificial para deducir quién podía correr más riesgo de estar implicado en un tiroteo. y entre sus resultados aparecieron el 56% de los hombres negros de entre 20 y 29 años de la ciudad.

A pesar de este fracaso, los científicos siguen buscando un sistema para predecir cuándo y dónde puede haber delitos. Y al parecer, han dado con un sistema que aseguran que no tiene sesgos. O eso aseguran. Es un sistema utilizado por un grupo de investigadores de la Universidad de Chicago, que según New Scientist ha utilizado un modelo de Inteligencia Artificial para analizar los datos históricos de crímenes de 2014 a 2016 en la ciudad como sistema para predecir los niveles de crímenes en Chicago con varias semanas de antelación.

El modelo predijo la probabilidad de crímenes en la ciudad con una semana de antelación y con casi un 90% de precisión. Cuando se utilizó en otras siete grandes ciudades de Estados Unidos, tuvo aproximadamente el mismo porcentaje de aciertos. Además, el estudio realizado al respecto sobre el uso de este modelo permitió a los investigadores revisar la respuesta a los patrones delictivos.

Ishanu Chattopadhyay, Profesor de la Universidad de Chicago, y miembro del equipo de investigación, apunta que «estas predicciones nos permiten estudiar las perturbaciones de los patrones de crímenes que sugieren que la respuesta a un aumento del crimen está sesgada por el estatus socioeconómico del barrio, lo que drena recursos policiales de zonas en desventaja socioeconómica, como ha quedado demostrado en ocho grandes ciudades estadounidenses. Los recursos de los cuerpos de seguridad del estado no son infinitos, así que si quieres usarlos de manera óptima, sería genial poder saber dónde hay mucha probabilidad de que haya homicidios«.

Chattopadhyay también ha señalado que, aunque los datos que usa su modelo pueden estar también sesgados, los investigadores han trabajado para reducir dicho efecto no identificando a los sospechosos, e identificado en su lugar los lugares donde se cometen los delitos.

El grupo también ha utilizado los datos para analizar la respuesta policial y las zonas en las que el sesgo humano está afectando a la actuación policial. Para ello analizaron los arrestos que siguieron a los delitos en barrios de Chicago con distintos niveles socioeconómicos. Y según los resultados, los delitos en zonas con mayor riqueza derivaban en más arrestos de los que se producían en zonas más pobres, lo que sugiere un sesgo en la respuesta policial.

No obstante, todavía preocupa el racismo en esta investigación con Inteligencia Artificial. Lawrence Sherman, del Centro Cambridge para políticas basadas en evidencias, ha señalado que debido a la manera en la que se registran los delitos, bien porque la gente llama a la policía o porque la policía busca delitos, todo el sistema de datos es susceptible de estar sesgado, y que «podría estar reflejando una discriminación intencionada por parte de la policía en ciertas zonas«.

Chattopadhyay señala que las predicciones con Inteligencia Artificial se podrían utilizar de manera más segura para informar a las autoridades de alto nivel, en vez de utilizarse directamente para asignar recursos policiales. Por el momento ha hecho públicos los datos y el algoritmo que han utilizado los investigadores, para que otros puedan trabajar con los resultados.

Redactora de tecnología con más de 15 años de experiencia, salté del papel a la Red y ya no me muevo de ella. Inquieta y curiosa por naturaleza, siempre estoy al día de lo que pasa en el sector.

Lo más leído

Suscríbete gratis a MCPRO

La mejor información sobre tecnología para profesionales IT en su correo electrónico cada semana. Recibe gratis nuestra newsletter con actualidad, especiales, la opinión de los mejores expertos y mucho más.

¡Suscripción completada con éxito!