Oracle y la era de la vigilancia masiva

Oracle acaba de presentar sus últimos resultados financieros. Y ante un panel de analistas, Larry Ellison tenía motivos más que justificados para mostrarse exultante. Sin hacer demasiado ruido la compañía es una de las que más crece en el sector de las Big Tech y lo que es más interesante; Oracle se ha convertido en una de las organizaciones más importantes del mundo en el campo de la Inteligencia Artificial. Los recientes acuerdos de colaboración que acaba de firmar con AWS y Microsoft, le permiten avanzan aún más en este campo.

Por eso ha llamado la atención que en un momento de entusiasmo generalizado, Ellison se haya adentrado en un campo tan espinoso como es el de la vigilancia a los ciudadanos. Ha explicado en este sentido, que imagina un futuro en el cada policía pueda estar equipado con una cámara de vigilancia, creándose una amplia red alimentada con capacidades de IA.

«Cada oficial de policía va a estar supervisado en todo momento, y si hay un problema, la IA reportará ese problema y lo comunicará a la persona adecuada. Los ciudadanos se comportarán de la mejor manera porque estamos grabando y reportando constantemente todo lo que sucede.” ha asegurado. El fundador de Oracle ha asegurado que el sistema no solo servirá para prevenir la tasa de criminalidad y por lo tanto que «Estados Unidos sea un país más seguro», sino que también será una salvaguarda para evitar abusos policiales, de modo que estas cámaras no podrían apagarse en ningún momento.

Lo cierto es que no hay ninguna evidencia (más bien todo lo contrario) de que la IA esté desempeñando actualmente un papel significativo a la hora de mejorar la seguridad de los ciudadanos. Y es que tal y como sugieren distintas investigaciones, el hecho de que estos algoritmos se entrenen con datos provenientes precisamente de los propios departamentos de policía, tiende a incrementar los sesgos ya existentes y la discriminación a los grupos de población más vulnerables.

No es ningún secreto que la IA es ya ampliamente utilizada por regímenes autoritarios para incrementar el control sobre sus ciudadanos, estableciendo para ello políticas de vigilancia masiva. Resulta más novedoso sin embargo, que esa capacidad de la IA para el control de los ciudadanos, haya sido bendecida por el fundador de Oracle, quien se ha confesado más que dispuesto a sumarse a esta causa…por la seguridad de todos.