Facebook y Google bloquearán automáticamente vídeos y otros contenidos extremistas

Según Reuters, Facebook y Google (particularmente en YouTube) están utilizando los escáneres empleados para batallar contra las violaciones de derechos de autor y los contenidos extremistas. En principio se empleaba para identificar y eliminar contenido protegido por copyright en portales de vídeo. Para ello, el algoritmo encargado de localizar contenido se encarga de buscar «hashes«, un tipo de huella digital única que las empresas asignan de manera automática a ciertos vídeos. No sólo eso, sino que también puede interceptar los intentos de volver a publicar contenido previamente borrado y eliminarlo con rapidez.

Eso sí, originalmente sólo es capaz de eliminar o bloquear vídeos que no hayan sido vistos antes. Para poder utilizarlo es necesario comprobar cada archivo para identificar si no cuenta con imágenes que concuerdan con las que hay en las bases de datos de contenido prohibido de cada plataforma, como una ejecución, decapitaciones o un discurso que incita a la violencia. Por lo tanto, todavía hace falta la intervención humana para bloquear contenidos violentos, aunque no se sabe hasta qué punto. También se desconoce cómo se identifican los vídeos como violentos.

Las empresas que están utilizando estos sistemas no quieren comunicarlo ya que, silo hacen, pueden dar pistas a los grupos sobre cómo operan y estos utilicen otro sistema para publicar sus contenidos sin que puedan ser eliminados, al menos con rapidez. No obstante, este sistema es solo una primera aproximación, y se pretende mejorar su tecnología tanto de forma interna en cada empresa como en encuentros y sesiones de trabajo con otras entidades interesadas.

A finales del pasado mes de abril, el Presidente de Estados Unidos, Barack Obama, y varios líderes de la Unión Europea, se reunieron con representantes de varias empresa de tecnología como YouTube, Twitter, Facebook y CloudFlare, para pedirles que refuercen su lucha contra los contenidos extremistas. Los contenidos exactos de esta reunión no han trascendido, aunque sí se ha hecho público que han aumentado la presión sobre las tecnológicas para que bloqueen contenidos y vídeos publicados por organizaciones terroristas y sus simpatizantes, y que han propuesto la creación de un organismo encargado de luchar contra ese tipo de contenidos. No es la primera vez que las autoridades estadounidenses piden ayuda a los grandes de Silicon Valley para luchar contra el terrorismo online, aunque cada vez que se reúne con ellos les pide más firmeza para acabar con los contenidos extremistas.