(CNNMoney) – Existe un trabajo que está en aumento en Facebook: especialista en contraterrorismo.
Facebook dice que tiene ahora más de 150 personas que están enfocadas principalmente en luchar contra el terrorismo en la red social, incluyendo un grupo de académicos, analistas y exagentes del orden público.
Este equipo de especialistas ha “crecido significativamente” durante el último año, según una publicación de Facebook del pasado jueves, en la que detalló sus esfuerzos para eliminar a los terroristas y sus publicaciones de la red social.
“Mi trabajo realmente es interrumpir lo que los terroristas están tratando de hacer y estar adelante de eso”, le dijo a CNN Tech Brian Fishman, manager de política contraterrorista de Facebook.
Fishman, un exprofesor que publicó un libro sobre ISIS y al Qaeda, se unió a Facebook hace tan solo un año. Su equipo trabaja con otros de Facebook para construir herramientas para detectar actividad terrorista y prevenir la difusión de propaganda.
Facebook dice que recientemente empezó a experimentar con inteligencia artificial para entender mejor si el lenguaje usado en las publicaciones es propaganda terrorista, resaltando el potencial de la nueva tecnología para ayudar a solventar el problema.
Facebook también usa herramientas de coincidencia de imágenes para prevenir que los usuarios suban videos o imágenes de terroristas conocidos, y también usa algoritmos para detectar grupos de perfiles afines, páginas y otros que apoyen el terrorismo.
“Las tácticas [de los terroristas] cambian rápidamente”, dice Fishman. “Lo que vemos es que los actores terroristas y sus seguidores empiezan a entender el tipo de cosas que estamos haciendo y tratan de cambiar lo que hacen y nosotros tenemos que reaccionar a eso”.
“Ese”, agrega, “es el problema”.
Facebook y sus pares en la industria de la tecnología han recibido presiones de los legisladores en los últimos meses para que hagan más en sus plataformas para combatir terroristas.
La primera ministra de Gran Bretaña Theresa May, en particular, ha hecho un llamado para que se regule “el ciberespacio para prevenir la propagación de la planificación extremista y del terrorismo”. Luego del ataque terrorista en Londres a principios de este mes, un funcionario de Facebook dijo que la compañía está trabajando para hacer de la red social un “ambiente hostil para los terroristas”.
Múltiples demandas también han sido presentadas contra Facebook, Twitter y Google, acusando a las empresas de ser plataformas para ISIS.
La publicación de Facebook de este jueves ofreció mayores detalles de cómo identifica y rige el contenido de un sitio que es usado por casi dos mil millones de personas cada mes. El equipo vio la necesidad de sacar a la luz la información a propósito de los recientes ataques y el aumento del escrutinio a empresas de tecnología.
“Ciertamente hemos visto preguntas sobre lo que deberían estar haciendo las compañías de redes sociales”, le dijo a CNNTech Monika Bickert, director de gestión de políticas globales de Facebook. “Parte de esto es decirle a nuestra comunidad ‘este es nuestro compromiso y de esta manera es como estamos a la altura’”.
En la publicación en Facebook, Bickert y Fishman admitieron que “la Inteligencia Artificial no puede atrapar todo”.
“Imaginarnos lo que apoya el terrorismo y lo que no, no es siempre fácil y los algoritmos no son aún tan buenos como las personas cuando se trata de entender esta clase de contexto”, escribieron.
Para ese fin, Facebook está construyendo su grupo interno de contraterrorista, asociándose con investigadores y gobiernos, y aprendiendo de sus equipo de moderadores de comunidad.
La compañía dijo el mes pasado que planeaba contratar a 3.000 revisores para combatir los videos violentos además de las 4.500 personas que ya están en el equipo de operaciones de la comunidad. Algunos expertos criticaron la medida como insuficiente considerando la gran cantidad de contenido que los usuarios de Facebook comparten.
Facebook está reconociendo qué tan difícil es este problema de resolver y está haciendo pidiendo ayuda de su comunidad.
El jueves pasado la compañía les pidió a sus usuarios que opinaran sobre una serie de “preguntas difíciles” que está enfrentando la compañía, incluyendo la mejor manera para “evitar que terroristas difundan propaganda en la red”.
“Mientras procedemos, ciertamente no esperamos que todo el mundo esté de acuerdo con todas las decisiones que tomamos. No siempre estamos de acuerdo internamente. También estamos aprendiendo con el tiempo, y a veces nos equivocamos”, escribió en un blog Elliot Schrage, vicepresidente de política pública y de comunicaciones de Facebook.
“Pero incluso cuando nuestras decisiones te causan escepticismo, esperamos que estos mensajes te den una mejor idea de cómo abordamos estas publicaciones”.