(CNN Business) – Apenas unos días después de que los insurrectos irrumpieran en el Capitolio el 6 de enero, la directora de operaciones de Facebook, Sheryl Sandberg, restó importancia al papel de su empresa en lo que había sucedido.
“Sabemos que esto se organizó en línea. Lo sabemos”, dijo en una entrevista con Reuters. “Nosotros … eliminamos a QAnon, Proud Boys, Stop the Steal, cualquier cosa que hablara de posible violencia la semana pasada. Nuestra aplicación nunca es perfecta, así que estoy segura de que todavía había cosas en Facebook. Creo que estos eventos se organizaron en gran parte en plataformas que no tienen nuestra capacidad para detener el odio y no tienen nuestros estándares y no tienen nuestra transparencia”.
Pero documentos internos de Facebook (FB) revisados por CNN sugieren lo contrario. Los documentos, incluida una auditoría interna y un documento que muestra en tiempo real las contramedidas que los empleados de Facebook estaban implementando tardíamente, pintan una imagen de una empresa que de hecho no estaba preparada fundamentalmente frente a cómo el movimiento Stop the Steal usaba su plataforma para organizarse, y que sólo entró realmente en acción después de que el movimiento, que jugó un papel fundamental en la insurrección, se tornó violento.
Cuando CNN le preguntó sobre la cita de Sandberg y si ella la mantenía, un portavoz de Facebook señaló el contexto más amplio en torno a la cita de Sandberg. Ella había estado señalando que la organización del 6 de enero se desarrolló principalmente en línea, incluidas, entre otras, las plataformas de Facebook, dijo el portavoz.
Los documentos fueron proporcionados por la denunciante de Facebook Frances Haugen como evidencia para respaldar las divulgaciones que hizo a la Comisión de Bolsa y Valores y que el asesor legal de Haugen proporcionó al Congreso en forma editada. Las versiones editadas fueron obtenidas por un consorcio de 17 organizaciones de noticias estadounidenses, incluida CNN.
Una de las principales acusaciones de Haugen sobre la empresa se centra en el ataque al Capitolio. En una divulgación de la SEC, alega, “Facebook engañó a los inversores y al público sobre su papel en la perpetuación de la desinformación y el extremismo violento en relación con las elecciones de 2020 y la insurrección del 6 de enero”.
Los documentos filtrados de Haugen comenzaron a aparecer en The Wall Street Journal a principios de este año. Las revelaciones en la serie de informes en curso del periódico, The Facebook Files (Los archivos de Facebook), captaron la atención de legisladores de todo el mundo.
Facebook niega la premisa de las conclusiones de Haugen y dice que ella ha seleccionado documentos para presentar una descripción injusta de la empresa.
“La responsabilidad de la violencia que ocurrió el 6 de enero recae en quienes atacaron nuestro Capitolio y quienes los alentaron. Tomamos medidas para limitar el contenido que buscaba deslegitimar la elección, incluyendo el etiquetado de las publicaciones de los candidatos con el último recuento de votos después de que el Sr. Trump declaró prematuramente la victoria, pausar la nueva publicidad política y eliminar el grupo original #StopTheSteal Group en noviembre”, dijo el viernes a CNN el portavoz de Facebook, Andy Stone.
“Después de que estalló la violencia en el Capitolio y vimos intentos continuos de organizar eventos para disputar el resultado de las elecciones presidenciales, eliminamos el contenido con la frase ‘stop the steal’ (detengan el robo) bajo nuestra política de Coordinación de Daño y suspendimos a Trump de nuestra plataforma”.
Facebook también publicó el viernes por la noche una entrada de blog de su vicepresidente de Integridad, Guy Rosen, sobre sus esfuerzos en torno a las elecciones de 2020.
“Nuestra aplicación fue poco sistemática”
Entre las decenas de miles de páginas de documentos que proporcionó Haugen se encuentra un análisis interno de cómo los movimientos Stop the Steal y Patriot Party se difundieron en Facebook, como reportó por primera vez BuzzFeed News a principios de este año.
“Visto en retrospectiva es más claro”, escribe el autor o autores del análisis, que no son identificables por lo proporcionado. “[En] ese momento era muy difícil saber si lo que estábamos viendo era un esfuerzo coordinado para deslegitimar la elección, o si estaba protegida la libertad de expresión de usuarios que estaban asustados y confundidos y merecían nuestra empatía. Pero visto en retrospectiva hace que sea aún más importante mirar hacia atrás para aprender lo que podamos sobre el crecimiento de los movimientos de deslegitimación electoral que crecieron, difundieron la conspiración y ayudaron a incitar la insurrección del Capitolio”.
El análisis encontró que las políticas y procedimientos que Facebook tenía implementados simplemente no estaban a la altura de la tarea de ralentizar, y mucho menos detener, el crecimiento “meteórico” de Stop the Steal. Por ejemplo, quienes están detrás del análisis notaron que Facebook trató cada pieza de contenido y persona o grupo dentro de Stop the Steal individualmente, en lugar de como parte de un todo, con resultados nefastos.
“Casi todos los grupos de FB de más rápido crecimiento fueron Stop the Steal durante su pico de crecimiento”, dice el análisis. “Debido a que miramos a cada entidad individualmente, en lugar de un movimiento cohesivo, solo pudimos eliminar grupos y páginas individuales una vez que excedieron un umbral de infracción. No pudimos actuar sobre objetos simples como publicaciones y comentarios porque individualmente tendían a ninguna violación, incluso si estaban rodeados de odio, violencia y desinformación”.
Este enfoque finalmente cambió, según el análisis, cuando ya era demasiado tarde.
“Después de la insurrección del Capitolio y una ola de eventos de Storm the Capitol (Asalten el Capitolio) en todo el país, nos dimos cuenta de que los grupos, las páginas y los eslóganes deslegitimadores individuales constituían un movimiento cohesivo”, dice el análisis.
Esta no fue la única forma en la que Facebook no había podido anticipar algo como Stop the Steal, o en la que faltaba su respuesta.
Facebook tiene desde hace algún tiempo una política que prohíbe el “comportamiento no auténtico coordinado” en sus plataformas. Esta prohibición le permite tomar medidas contra, por ejemplo, el ejército de trolls rusos que trabajó para interferir con las elecciones estadounidenses de 2016 a través de cuentas y páginas configuradas para parecer estadounidenses. Pero, señala el análisis con énfasis, la empresa tenía “pocas políticas en torno al daño auténtico coordinado”, es decir, para evitar que las personas se organicen bajo sus nombres reales y sin ocultar su intención de lograr que el país rechace los resultados de las elecciones.
Los grupos Stop the Steal y Patriot Party “no estaban movilizando directamente el daño fuera de línea, ni estaban promoviendo directamente la militarización”, dice el análisis. “En cambio, estaban amplificando y normalizando la desinformación y el odio violento de una manera que deslegitimó una elección democrática libre y justa. El daño existía a nivel de la red: el discurso de un individuo está protegido, pero como movimiento, normalizó la deslegitimación y el odio en una forma que resultó en daño fuera de línea y daño a las normas que sustentan la democracia”.
Sin embargo, el análisis señala que una vez que Facebook vio los resultados de Stop the Steal el 6 de enero y tomó medidas, pudo implementar acciones que obstaculizaron el crecimiento de los grupos Stop the Steal y Patriot Party.
Stone de Facebook le dijo a CNN: “Facebook ha tomado medidas extraordinarias para abordar el contenido dañino y continuaremos haciendo nuestra parte. También trabajamos de cerca con las fuerzas del orden público, tanto antes del 6 de enero como en los días y semanas posteriores, con el objetivo de asegurar que la información que vincula a los responsables del 6 de enero con sus delitos esté disponible”.
Tirando de las palancas
Haugen comenzó a reunir pruebas sobre la empresa antes de que finalmente dejara el gigante tecnológico en mayo pasado. Para reducir la posibilidad de ser sorprendida tomando capturas de pantalla de los sistemas internos de Facebook, usó su teléfono para tomar fotografías de la pantalla de su computadora.
Mientras la insurrección estaba en marcha en Washington y Facebook estaba tratando de controlar la situación, Haugen estaba tomando fotos, documentando la respuesta de la compañía.
Uno de los documentos que capturó, titulado “Capitol Protest BTG [Break the Glass] Response”, era una tabla de medidas que Facebook podría tomar en respuesta al ataque del 6 de enero. El gráfico parece haber sido preparado de antemano; en el momento en que Haugen lo fotografió, un poco menos de dos horas después de que el Capitolio fue asaltado inicialmente, la compañía había instituido algunas de esas medidas mientras que otras aún estaban bajo consideración. Entre las posibles acciones enumeradas en la tabla se encuentran degradar “el contenido que se considera probable que viole los estándares de nuestra comunidad en las áreas de discurso de odio, violencia gráfica y violencia e incitación”.
La página los etiquetó como “Palancas US2020, previamente revertidas”.
Esas “palancas”, como las llama Facebook, son medidas - barandas - que la compañía puso en marcha antes de las elecciones presidenciales del año pasado en un intento de frenar la propagación del odio y la desinformación en la plataforma. Facebook no ha sido claro en sus declaraciones públicas sobre qué medidas hizo retroceder después de las elecciones y por qué lo hizo en un momento de tumulto cuando el presidente en funciones cuestionaba los resultados de la votación.
Pero según el documento “Capitol Protest BTG response” (Respuesta a la protestas en el Capitolio BTG), las medidas de seguridad que Facebook reimplementó el 6 de enero incluyeron reducir la visibilidad de las publicaciones que probablemente se reportarían y congelar “los comentarios en las publicaciones en Grupos que comienzan a tener una alta tasa de incitación al odio y a la violencia & comentarios de incitación”, entre otros.
En la divulgación de la SEC, Haugen alega que estas palancas se restablecieron “solo después de que estalló la insurrección”.
Cuando se le preguntó acerca de las decisiones de marcar las palancas hacia atrás y luego empujarlas hacia afuera nuevamente, Stone dijo: “Al introducir gradualmente y luego ajustar las medidas adicionales antes, durante y después de las elecciones, tomamos en cuenta las señales específicas en las plataformas y la información de nuestro compromiso continuo y regular con la aplicación de la ley. Cuando esas señales cambiaron, también lo hicieron las medidas”.
Una línea continua
Cuando los ejecutivos de Facebook publicaron mensajes pública e internamente condenando el motín, algunos empleados los rechazaron, incluso sugiriendo que Facebook podría haber tenido algo de culpabilidad.
“Había docenas de grupos de Stop the Steal activos hasta ayer, y dudo que se hayan limitado a hablar sobre sus intenciones”, escribió un empleado en respuesta a una publicación de Mike Schroepfer, director de tecnología de Facebook.
Otro escribió: “Con el debido respeto, pero ¿no hemos tenido tiempo suficiente para descubrir cómo manejar el discurso sin permitir la violencia? Hemos estado alimentando este fuego durante mucho tiempo y no debería sorprendernos que ahora esté fuera de control”.
Otros empleados de Facebook fueron más allá, afirmando que las decisiones de los líderes de la empresa a lo largo de los años habían ayudado a crear las condiciones que allanaron el camino para un ataque al Capitolio de EE.UU.
En respuesta a la publicación de Schroepfer, un miembro del personal escribió que “el liderazgo anula las decisiones políticas basadas en la investigación para servir mejor a las personas como los grupos que incitan a la violencia en la actualidad. Los trabajadores de rango y archivo han hecho su parte para identificar cambios para mejorar nuestras plataformas, pero se han retenido activamente”.
Otro miembro del personal, refiriéndose a años de toma de decisiones controvertidas y cuestionables por parte de los líderes de Facebook en torno al discurso político, concluyó, “la historia no nos juzgará con amabilidad”.