Google se encuentra desarrollando una herramienta de moderación gratuita para que sitios web pequeños puedan usarla con el objetivo de identificar y eliminar material terrorista, esto forma parte de una nueva legislación en Reino Unido y la Unión Europea que obliga a las empresas de internet a hacer más para abordar el contenido ilegal.
El software está siendo desarrollado en una asociación con la unidad de investigación y desarrollo del gigante de las búsquedas “Jigsaw y Tech Against Terrorism”, además de ser respaldada por la ONU como iniciativa para ayudar a compañías de tecnologías a vigilar el terrorismo en línea.
“Hay muchos sitios web que simplemente no tienen gente para hacer cumplir la ley. Es realmente una labor intensiva, incluso construir algoritmos y luego necesitas todos esos revisores humanos”, afirma Yasmin Green, directora ejecutiva de Jigsaw.
“Sitios web más pequeños no quieren contenido de Isis allí, pero hay un montón de ellos por todas partes” agregó.
La medida llega en un momento en que las empresas de Internet se verán obligadas a retirar contenidos extremistas de sus plataformas o se enfrentarán a multas y otras sanciones en virtud de leyes como la Ley de Servicios Digitales de la UE, que entró en vigor en noviembre y el proyecto de Ley de Seguridad en Línea del Reino Unido, que se espera que se convierta en ley este año.
La legislación ha sido impulsada por políticos y reguladores de toda Europa que sostienen que los grupos de las grandes tecnológicas no han ido lo suficientemente lejos en la vigilancia de los contenidos en línea.
Pero el nuevo régimen regulador ha suscitado la preocupación de que las pequeñas empresas de nueva creación no estén preparadas para cumplir la normativa y que la falta de recursos limite su capacidad para competir con las grandes tecnológicas.
"He observado un gran cambio en las plataformas líderes, que se están volviendo mucho más eficaces a la hora de moderar y eso empuja los contenidos terroristas y los bulos de COVID a otros sitios", añadió Green.
Un informe del Foro Global de Internet para la Lucha contra el Terrorismo en 2021 estimaba que de cada 10.000 publicaciones en Facebook, seis tendrían contenido terrorista o extremista. En plataformas más pequeñas, esta cifra podría ascender a 5.000, es decir, el 50% del contenido.
GIFCT, una organización no gubernamental fundada por Facebook, Microsoft, Twitter y YouTube en 2017 para fomentar la colaboración entre muchas plataformas tecnológicas, apoya el proyecto de Jigsaw. La organización no gubernamental cuenta con una base de datos de contenidos terroristas compartidos entre sus miembros de empresas tecnológicas, que los sistemas de moderación pueden utilizar para detectar materiales existentes.
El 13 de diciembre, Facebook y Meta, propietaria de Instagram, lanzaron un software de código abierto que otras plataformas pueden desplegar para cotejar contenidos terroristas con imágenes o vídeos existentes en la base de datos y destacarlos para su revisión humana urgente.
La herramienta de Jigsaw pretende abordar el siguiente paso del proceso y ayudar a los moderadores humanos a tomar decisiones sobre los contenidos marcados como peligrosos e ilegales. A principios de este año empezará a probarla con dos sitios no identificados.
"Según nuestra experiencia, los terroristas intentan explotar las plataformas más pequeñas, donde la moderación de contenidos es un reto debido a la escasez de recursos", afirma Adam Hadley, director de Tech Against Terrorism.
Jigsaw cuenta con unos 70 empleados, principalmente en las oficinas de Google en Nueva York. Green, que asumió el cargo de Director General en julio, declaró que no se espera que esta división deficitaria sea rentable.
"Se entiende que hay un retorno empresarial a largo plazo... Google necesita un Internet más sano", añadió Green. "Estamos ayudando a Google y a Internet de una forma que aporta valor aunque no sea monetario".