(CNN Business) – A finales de 2017, Facebook tenía un gran problema: los usuarios estaban comentando, dando “me gusta” y compartiendo las publicaciones menos que en el pasado.
La disminución de la participación, visualizada en gráficos en un documento interno visto por CNN Business, parecía un ceño fruncido. Facebook decidió hacer un cambio, y rápido.
Ese mes de diciembre, según muestran otros documentos internos, la empresa elaboró un plan rápidamente: reorientaría su algoritmo de News Feed hacia una nueva métrica que denominó “interacciones sociales significativas”, o MSI, por sus siglas en inglés, para clasificar las interacciones de las personas en Facebook. La métrica MSI asignaría diferentes valores de puntos a cosas como las reacciones de “Me gusta” y los comentarios en las publicaciones, e incluso las confirmaciones de asistencia a eventos, y tendría en cuenta las relaciones entre las personas, como la de una persona que escribe una publicación y otra que la comenta. Esta métrica se lanzó a principios de 2018, marcando una nueva era en las formas en que la red social monitorea y manipula a sus usuarios, y experimenta con sus datos.
La introducción de la métrica MSI ayudó rápidamente con el problema de compromiso de Facebook, según una nota de investigación interna del 6 de noviembre de 2019. Sin embargo, como informó por primera vez The Wall Street Journal el mes pasado, la compañía también ha sido consciente durante mucho tiempo de la medida en que fomentó la negatividad en línea, de acuerdo con las revelaciones hechas a la Comisión de Bolsa y Valores de Estados Unidos (SEC, por sus siglas en inglés) y proporcionadas al Congreso en forma redactada por el asesor legal de la denunciante de Facebook Frances Haugen. Las versiones redactadas fueron obtenidas por un consorcio de 17 organizaciones de noticias del que forma parte CNN.
Este sistema de clasificación se construyó e implementó apresuradamente: según una nota interna del 21 de diciembre de 2017, Facebook armó la primera versión en poco más de un mes para que estuviera lista a fines de 2017 para su despliegue a principios de 2018.
Una portavoz de Facebook dijo a CNN Business que la introducción de MSI no era un “cambio radical” en la forma en que la compañía clasificaba la actividad de los usuarios en la red social, ya que anteriormente consideraba los “me gusta”, los comentarios y las acciones como parte de su clasificación. La portavoz también dijo que una “cantidad significativa de investigación interna y externa” condujo al MSI, y que Facebook probó “varias versiones” de la misma antes del lanzamiento, como lo haría para “cualquier cambio” en sus sistemas de clasificación.
“Cuando News Feed decidió apuntar a las interacciones significativas en noviembre, surgió la pregunta: ¿cómo podemos utilizar la investigación rigurosa y la ciencia para decidir qué peso debe ir en un ‘me gusta’ frente a un comentario, etc. en poco más de un mes?”, se preguntaba la nota (énfasis de los autores).
La respuesta, según la propia nota, llegó a través de una encuesta a decenas de miles de usuarios de Facebook y de la búsqueda en la enorme cantidad de datos de los usuarios de la empresa. Fue un proceso con el viso del rigor estadístico, pero también uno de prueba y error, y de juicio humano, revelan los documentos.
Actuar con rapidez y automatizar las cosas
Es difícil decir cómo se compara el uso que hace Facebook de los algoritmos que consideran las acciones e interacciones en sus plataformas con otras redes sociales, pero una cosa está clara: desde hace años, las principales redes sociales —y muchos otros servicios de contenido en línea, como Netflix y YouTube— dependen increíblemente de los algoritmos para gobernar lo que se ve. Y como la mayor red social de todas, los algoritmos de Facebook afectan a más de un tercio de las personas del planeta.
Así que cuando Facebook decidió utilizar la métrica MSI para dar forma a sus algoritmos que recomiendan el contenido del News Feed, estaba haciendo un cambio que afectaría a miles de millones de personas.
Como explicaba la nota de diciembre de 2017, no fue una tarea sencilla llegar a los valores que utilizó la métrica MSI en su lanzamiento.
Facebook realizó encuestas a más de 69.000 personas en cinco países que se encuentran entre los más grandes en términos de usuarios activos mensuales, preguntándoles sobre “qué tipo de retroalimentación encuentran significativos para dar y recibir”. Esto permitió a la empresa determinar cómo valoraban las personas las interacciones con diferentes tipos de personas, como los amigos cercanos frente a los conocidos, y diferentes tipos de interacción, como los comentarios en las publicaciones frente a los compartidos.
Estas conclusiones, que incluían que la gente encontraba más significado en la persona con la que interactuaba que en el tipo de interacción, “ayudaron a validar” y “afinar” los hallazgos de la ciencia de datos de la compañía, según el documento, y ayudaron a Facebook a ajustar la forma en que pondera las relaciones entre las personas que interactúan en la red social.
La empresa también utilizó encuestas, junto con el conocimiento existente sobre sus usuarios y los experimentos internos de ciencia de datos, para ayudar a entender cómo construir una escala para clasificar las interacciones. Por ejemplo, las encuestas detalladas en la nota revelaron que muchos usuarios valoran poco que sus publicaciones se compartan. Esto se debe a que lo ven como una interacción entre el que comparte y los amigos de esa persona.
La nota señalaba que la empresa hizo cosas como analizar “un montón de experimentos que dan a la gente una retroalimentación extra”. En esos experimentos, a algunas publicaciones se les dio “un poco más de ‘me gusta’” y a otros “un poco más de comentarios”. Los resultados se utilizaron para predecir cuántas publicaciones originales adicionales generaría la gente teniendo en cuenta el número de “me gusta”, comentarios y reacciones que habían recibido en publicaciones anteriores.
Esto ayudó a Facebook a elaborar una escala, etiquetada en la nota como el peso final de la métrica en la primera mitad de 2018: cada “me gusta”, por ejemplo, valdría 1 punto; un emoji de reacción o compartir una publicación sin añadir ningún texto valdría 5 puntos; una RSVP para un evento valdría 15 puntos; y los comentarios, mensajes o publicaciones compartidas considerados “significativos”, definidos como que tienen “al menos 5+ tokens únicos, o una foto o video (en el caso de compartidos y mensajes) valdrían 30 puntos, según la nota.
La empresa podría entonces multiplicar el total por una cifra que representara la cercanía de la relación entre las personas que interactuaban: ¿eran miembros del mismo grupo? Si es así, se multiplica por 0,5. ¿Son desconocidos? Se multiplica por 0,3.
Jenna Burrell, directora de investigación de la organización sin ánimo de lucro Data & Society, que estudia las implicaciones sociales de las tecnologías, dijo a CNN Business que la investigación que Facebook llevó a cabo sobre los usuarios en este caso parecía ser bastante limitada, ya que el documento no menciona que se encueste a los usuarios sobre el contenido real que publican –palabras, imágenes o videos– o los comentarios que podrían dejar en las publicaciones de otros.
“Lo que intentan conseguir es algo que es muy difícil de reducir a una métrica”, dijo.
Más allá de eso, la decisión de centrarse en las interacciones sociales significativas fue el tipo de cambio que requeriría “miles de formas diferentes de probarlo”, según Ethan Zuckerman, profesor asociado de la Universidad de Massachusetts en Amherst que estudia cómo los medios de comunicación pueden ser utilizados para dictar cambios sociales.
“Porque en realidad estás recableando toda la red. Así que hay que ser extraordinariamente cuidadoso y reflexivo sobre cómo hacerlo”, dijo.
Otro factor que complica las cosas es que, aunque Facebook es una red social internacional, la gente no utiliza Facebook de la misma manera en todos los países. En Myanmar, por ejemplo, que en 2018 se hizo conocido por el impacto mortal del discurso de odio difundido a través de Facebook, Zuckerman dijo que Facebook se ve más como un servicio de noticias que como una red personal.
“La noción de que Facebook es tus amigos y tus relaciones personales, eso simplemente no es cierto para algunas partes del mundo”, dijo.
Antes del lanzamiento de la métrica MSI la empresa llevó a cabo tres pruebas separadas de la misma, utilizando varios puntos fuertes de la escala, en un subconjunto de usuarios, dijo la portavoz de Facebook. Llevar a cabo este tipo de pruebas, seguidas de los ajustes necesarios, es una práctica habitual antes de la introducción de cualquier cambio en la clasificación, dijo.
“Beneficioso para la mayoría de las métricas”
Facebook introdujo públicamente la métrica MSI el 11 de enero de 2018, como una forma de priorizar las publicaciones de amigos, familiares y grupos. En una entrevista con CNN en ese momento, Adam Mosseri, que entonces era vicepresidente de Facebook y hoy dirige Instagram, propiedad de Facebook, describió la decisión para impulsar las interacciones sociales significativas como un “reequilibrio” de cómo los algoritmos de Facebook clasifican los elementos en el News Feed principal.
“Creemos que actualmente estamos sobrevalorando ligeramente la cantidad de tiempo que la gente pasa en nuestra plataforma y subestimando la cantidad de interacciones significativas que tienen con otras personas”, dijo Mosseri, que en ese momento supervisaba News Feed.
De hecho, a lo largo de 2018, como relataba la nota de investigación del 6 de noviembre de 2019, el uso de la MSI fue “beneficioso para la mayoría de las métricas”, en todo el mundo y en la región de Estados Unidos y Canadá. La nueva métrica condujo a un aumento de las interacciones sociales, como los “me gusta” y los comentarios entre los usuarios, así como a otras “métricas críticas del ecosistema”, como el número de personas que usan Facebook diariamente, las ganancias y el tiempo que los usuarios pasaron mirando sus News Feeds.
¿Efectos a largo plazo para la democracia?
Sin embargo, Facebook descubrió rápidamente que su énfasis en la métrica MSI no tendría el mismo impacto en todos los países y en todo tipo de dispositivos. Por ejemplo, como decía esa misma nota de noviembre de 2019, la compañía descubrió en abril de 2018 que la dependencia de la métrica estaba “perjudicando” a los usuarios activos diarios de Android de Facebook en la India; los autores de la nota escribieron que Facebook podría compensar esta pérdida reduciendo su dependencia de la MSI y enfatizando cada vez más los videos que recomendaba en los feeds de los usuarios. A finales de septiembre de ese año, según el documento, Facebook había identificado 11 países en los que utilizaba una “estrategia más equilibrada” de MSI más “cantidades adecuadas de video”.
La nota también señalaba que “la dinámica del Feed está cambiando constantemente”, y a principios de 2019 el equipo de clasificación de la compañía concluyó que optimizar para el MSI “ya no era una táctica efectiva para hacer aumentar las sesiones”; la clasificación de contenido público, decía, era una “mejor estrategia”.
Y menos de un año después de su lanzamiento, los documentos indican que Facebook sabía que había problemas más profundos al confiar en la métrica. Una nota de investigación interna de noviembre de 2018 titulada “¿Facebook premia la indignación? Las publicaciones que generan comentarios negativos obtienen más clics”, señalaba que un análisis de ese mes mostraba que más comentarios negativos en publicaciones que enlazaban a BuzzFeed llevaban a más clics en ese enlace. Al analizar otros 13 editores y dominios populares, el autor de la investigación descubrió que el problema se extendía mucho más allá de BuzzFeed.
La nota también señaló que, debido a esta tendencia, algunos editores pueden optar por capitalizar la negatividad. “Con los incentivos que creamos, algunos editores elegirán hacer lo correcto, mientras que otros tomarán el camino que maximiza las ganancias a expensas del bienestar de su audiencia”, señaló el memo.
“Dejando a un lado las cuestiones éticas, empíricamente, el actual conjunto de incentivos financieros que crean nuestros algoritmos no parece estar alineado con nuestra misión”, decía la nota. “Podemos elegir ser frívolos y seguir alimentando a los usuarios con comida rápida, pero eso solo funciona durante un tiempo; muchos ya se han dado cuenta de que la comida rápida está vinculada a la obesidad y, por lo tanto, su valor a corto plazo no vale el costo a largo plazo”.
El paso a la MSI no era solo un problema para los editores: los partidos políticos también tenían de qué preocuparse. Otra nota de investigación interna del 1 de abril de 2019 señalaba que múltiples partidos políticos europeos afirmaban que la llegada del MSI en 2018 “cambió la naturaleza de la política. Para peor”.
Los partidos argumentaron, según la nota, que al enfatizar el contenido compartido, Facebook estaba recompensando “sistemáticamente” el “contenido provocativo y de baja calidad” y los partidos sintieron que debían ajustarse bombeando “mucho más contenido negativo que antes” porque la participación en las publicaciones positivas y políticas había caído dramáticamente.
En Polonia, por ejemplo, la nota dice que el equipo de gestión de redes sociales de un partido estimó que sus publicaciones pasaron de ser mitad positivas y mitad negativas a ser 80% negativas debido al cambio de algoritmo. En España, según el documento, los partidos dijeron sentirse “atrapados en un ciclo ineludible de campaña negativa por las estructuras de incentivos de la plataforma”.
“Muchos partidos, incluidos los que han dado un giro fuertemente hacia lo negativo, se preocupan por los efectos a largo plazo en la democracia”, decía el documento.
Los empleados de Facebook también estaban preocupados por el impacto de la MSI. En un comentario sobre ese mismo documento, un empleado de Facebook respondió a los datos de España diciendo que hacían que su “corazón se encogiera”.
“He visto el efecto que esto ha tenido en mi madre y cómo se ha polarizado. Es difícil reunir a la gente al grito de ‘sé razonable’… para encontrar un terreno común”, escribieron.
“Me divierte”
Con el tiempo, según muestran los documentos internos, los empleados de Facebook propusieron cambios a la métrica MSI, algunos de los cuales pueden parecer pequeños pero muestran la dificultad de asignar números a las interacciones. Por ejemplo, los emojis de reacción de la compañía, y el “Me divierte” en particular, no siempre funcionan igual en todos los países.
En una nota del 11 de diciembre de 2019 en la plataforma interna de la compañía titulada “Somos responsables del contenido viral”, el autor escribió que las reacciones “Me divierten”, “se ven como un insulto en los posts no humorísticos en Myanmar”. Incluían un cartón traducido del birmano que, según la nota, decía: “No has acreditado la educación de este año porque reaccionaste con ‘me divierte’ a todas mis publicaciones”.
En ese momento, todas las reacciones seguían siendo ponderadas de la misma manera, pero el autor señaló entonces que “se están elaborando propuestas prometedoras para cambiar esto”, según el documento.
Se hicieron cambios en la métrica en numerosas ocasiones después de su lanzamiento, como a principios y finales de 2020; la portavoz de Facebook dijo que la fórmula detrás de ella es “actualizada continuamente y afinada con base en nuevas investigaciones y comentarios directos de los usuarios”. Una publicación en un grupo interno de empleados el 15 de septiembre de ese año pronosticó cambios previstos para alrededor del 1 de octubre destinados a “hacer que la MSI plasme interacciones más útiles”. Estos cambios incluían el filtrado de algunas de las llamadas “malas interacciones”, como los comentarios eliminados y los de un solo símbolo, y la modificación de los pesos asociados a los iconos de reacción. En particular, Facebook dijo que haría que la reacción de “Me enoja”, que anteriormente había sido degradada a 1,5 puntos, valiera cero puntos.
Un documento de julio de 2020 en el que se expone la propuesta de revisión del peso que se producirá en la segunda mitad del año dio una pista de cómo la compañía llegó a esa decisión.
“Después de discutir con Comunicaciones para decidir entre ‘Me enoja’ 0 vs. 0,5 para ver si uno es más defendible externamente, esta es nuestra propuesta final en 2020/07/31”, decía, enumerando un valor cero para “Me enoja” en una tabla inferior.