Internacional
Árabe
Cómo Microsoft está arruinando las noticias al reemplazar editores y redactores con inteligencia artificial
(CNN) -- Afirmaciones falsas acerca de que el presidente de Estados Unidos, Joe Biden, se quedó dormido durante un momento de silencio por las víctimas del incendio forestal de Maui. Una teoría conspiratoria según la cual el último aumento de casos de covid-19 está siendo orquestado por el Partido Demócrata antes de las elecciones. El obituario de un fallecido jugador de la NBA que lo describió como "fuera de uso".
Estas historias falsas y raras no figuran en ningún rincón remoto de internet: las publica Microsoft. La página de inicio de la compañía, también conocida como MSN.com y Microsoft Start, sigue siendo uno de los sitios web con más tráfico del mundo y un lugar donde millones de estadounidenses reciben noticias todos los días.
Pero la decisión de Microsoft de depender cada vez más del uso de la automatización y la inteligencia artificial (IA) en lugar de los editores humanos para seleccionar su página de inicio parece estar detrás de la reciente amplificación de historias falsas y raras en el sitio, dijeron a CNN personas familiarizadas con el funcionamiento del sitio.
El portal, que viene precargado como página de inicio predeterminada en dispositivos que ejecutan software de Microsoft, incluido el último navegador Edge de Microsoft, el sucesor del navegador Internet Explorer de la compañía, empleó a más de 800 editores en 2018 para ayudar a seleccionar noticias e historias mostradas a millones de lectores en todo el mundo.
Pero en los últimos años, Microsoft ha despedido a editores, a algunos de los cuales se les dijo que estaban siendo reemplazados por la “automatización”, lo que ellos entienden como IA.
La inversión inicial de Microsoft en OpenAI (los creadores de la popular aplicación ChatGPT) lo ha colocado a la vanguardia de la prometedora y potencialmente peligrosa revolución de la IA, incluso cuando el presidente del gigante tecnológico ha dado una conferencia pública sobre el uso responsable de la tecnología.
Pero el aparente papel de la IA en la reciente amplificación de historias falsas por parte de Microsoft plantea interrogantes sobre la adopción pública de la tecnología naciente por parte de la compañía y para la industria del periodismo en su conjunto.
The Guardian
Las preocupaciones y tensiones sobre el uso de la IA por parte de Microsoft en su contenido de noticias se desbordaron el martes cuando el periódico británico The Guardian acusó a la compañía de dañar la reputación del periódico después de que publicara un artículo suyo en su sitio.
Para impulsar su portal de noticias de gran tráfico, Microsoft ha establecido acuerdos de licencia con importantes organizaciones de noticias de todo el mundo, incluidas The Guardian y CNN, que permiten al gigante tecnológico volver a publicar sus artículos a cambio de una parte de los ingresos publicitarios.
La semana pasada, The Guardian publicó un artículo sobre Lilie James, una mujer de 21 años que fue encontrada muerta con graves heridas en la cabeza en una escuela de Sydney, Australia.
El asesinato de James causó un gran dolor y generó una conversación nacional en Australia sobre la violencia contra las mujeres.
Pero cuando MSN volvió a publicar la historia de The Guardian, la acompañó con una encuesta generada por IA que preguntaba a los lectores: "¿Cuál crees que es la razón detrás de la muerte de la mujer?" Y enumeró tres opciones: asesinato, accidente o suicidio.
La encuesta causó críticas por parte de los lectores de Microsoft: "Esta tiene que ser la encuesta más patética y repugnante que he visto jamás", escribió una persona.
Anna Bateson, directora ejecutiva de The Guardian Media Group, dijo en una carta redactada con dureza a Microsoft y obtenida por CNN, que la encuesta generada automáticamente era una aplicación "profundamente preocupante" de la tecnología de inteligencia artificial de la compañía y exigía que Microsoft asumiera toda la responsabilidad.
“Este tipo de solicitud no solo es potencialmente angustiante para la familia del individuo que es el tema de la historia, sino que también es profundamente perjudicial para la reputación de periodismo sensible y confiable de The Guardian, ganada con tanto esfuerzo, y para la reputación de los periodistas que escribieron la historia original”, escribió Bateson en una carta el martes al presidente de Microsoft, Brad Smith.
Bateson dijo que el uso por parte de Microsoft de la encuesta generada por IA junto con el artículo fue "exactamente el tipo de instancia sobre la que hemos advertido en relación con las noticias" y fue "una razón clave por la que previamente hemos solicitado a sus equipos que no queremos la encuesta de Microsoft". Tecnologías experimentales genAI aplicadas al periodismo con licencia de The Guardian”.
Un portavoz de Microsoft dijo que la compañía estaba deshabilitando todas las encuestas sobre artículos de noticias y que la compañía estaba "investigando la causa del contenido inapropiado". Una encuesta no debería haber aparecido junto con un artículo de esta naturaleza y estamos tomando medidas para ayudar a evitar que este tipo de error vuelva a ocurrir en el futuro”.
Noticias falsas
Pero la desagradable encuesta no fue el primer error público causado por la adopción de la IA por parte de Microsoft.
En agosto, MSN publicó una historia en su página de inicio que afirmaba falsamente que el presidente Joe Biden se había quedado dormido durante un momento de silencio por las víctimas del catastrófico incendio forestal de Maui.
El mes siguiente, Microsoft volvió a publicar una historia sobre Brandon Hunter, un exjugador de la NBA que murió inesperadamente a los 42 años, bajo el título "Brandon Hunter deja de servir a los 42 años".
Luego, en octubre, Microsoft volvió a publicar un artículo que afirmaba que el supervisor de San Francisco, Dean Preston, había dimitido de su puesto tras las críticas de Elon Musk.
La historia era completamente falsa.
Algunos de los artículos presentados por Microsoft fueron publicados inicialmente en sitios web oscuros que podrían haber pasado desapercibidos en medio de la avalancha diaria de información errónea en línea que circula todos los días.
Pero la decisión de Microsoft de volver a publicar artículos de medios marginales ha elevado esas historias a potencialmente millones de lectores adicionales, dando vida a sus afirmaciones. Los editores que anteriormente trabajaron para Microsoft le dijeron a CNN que la empresa no destacaría este tipo de historias falsas, o prácticamente cualquier otro artículo de sitios web de baja calidad, si no fuera por el uso de IA.
Fuentes poco confiables
Ryn Pfeuffer, que trabajó de forma intermitente como contratista para Microsoft durante ocho años, dijo que recibió una llamada en mayo de 2020 con la noticia de que todo su equipo estaba siendo despedido.
Ryn Pfeuffer.
2020 fue el año en el que la compañía comenzó la transición a un "flujo de noticias personalizado" que está "adaptado mediante un algoritmo a los intereses de nuestras audiencias", dijo un portavoz de Microsoft a CNN en un comunicado el miércoles.
Como editora en la sección de estilo de vida del sitio, el trabajo de Pfeuffer implicaba elegir y seleccionar historias para presentarlas en los sitios de Microsoft.
"Teníamos un equipo editorial muy unido y súper talentoso y todos habíamos trabajado juntos durante mucho tiempo", dijo Pfeuffer a CNN. El grupo, que incluía a periodistas veteranos, tomó en serio sus responsabilidades como curadores, afirmó.
"No creo que nadie se de cuenta de cuánta gente usa (MSN). Tenías que ser responsable de lo que colocabas en el sitio porque mucha gente lo leía y podía dejarse influenciar por él", dijo a CNN.
Microsoft se negó a decir cuántos editores humanos, si es que hay alguno, todavía trabajan en la curación del sitio o si todo se hace mediante inteligencia artificial y algoritmos.
Al desplazarse por la página de inicio de Microsoft hace unas semanas, Pfeuffer dijo que el portal que ella y sus colegas alguna vez crearon le parecía irreconocible. En el sitio no sólo se han presentado historias objetivamente falsas y extravagantes, sino también artículos abiertamente hiperpartidistas con titulares como "¿Debería Estados Unidos deshacerse de Biden para siempre?" y “Un lado más oscuro de la catástrofe que se desarrolla bajo Joe Biden” también han ganado prominencia.
Esas historias, que CNN ha observado en la página de inicio de Microsoft, no fueron publicadas por organizaciones de noticias creíbles y establecidas, sino que se originaron en sitios más pequeños con poca o ninguna información sobre quién está detrás de ellas o detalles sobre sus estándares editoriales.
Pfeuffer dijo que estos sitios y titulares nunca habrían aparecido de manera destacada en la página de inicio de Microsoft mientras ella y sus colegas editores trabajaban allí, y dijo que estaba consternada de que "tienen estos sitios web que parecen basados en hechos, que no son fuentes de noticias legítimas y publican desinformación en la página de inicio”.
"Intentamos cubrir todo de manera muy justa desde todos los lados y no adoptar una postura política sobre los temas", dijo a CNN.
Página de inicio por defecto
Fueron titulares sensacionalistas como estos los que llamaron la atención de Ferris Kawar, padre de dos hijos y gerente de sustentabilidad en Santa Mónica, California.
El navegador web predeterminado de Kawar cambió a Microsoft Edge después de una reciente actualización de software y, con ello, su página de inicio cambió a Microsoft.
“Me sentí como si estuviera haciendo cola en el supermercado leyendo la portada del National Enquirer”, dijo Kawar a CNN.
"Creo que Microsoft es una empresa bastante confiable", dijo. “No los considero tendenciosos políticamente de ninguna manera. Pero definitivamente parecía que el contenido que se estaba enviando estaba definitivamente sesgado hacia la derecha”.
Microsoft guarda silencio
Microsoft y su presidente Brad Smith han publicado extensamente sobre el uso responsable de la IA.
Pero la compañía ofreció muy pocos detalles cuando CNN le hizo preguntas.
Un portavoz de Microsoft dijo en un comunicado el miércoles: “Al igual que con cualquier producto o servicio, continuamos ajustando nuestros procesos y actualizamos constantemente nuestras políticas existentes y definimos otras nuevas para manejar las tendencias emergentes. Estamos comprometidos a abordar el problema reciente de los artículos de baja calidad aportados al flujo de noticias y estamos trabajando estrechamente con nuestros socios de contenido para identificar y abordar los problemas y garantizar que cumplan con nuestros estándares”.
Pero en su carta a la empresa el martes, The Guardian dijo que la compañía de tecnología "no había respondido sustancialmente" a las preguntas del periódico sobre cómo se utilizaría la IA en su periodismo.
La página de inicio de Kawar ya no es Microsoft y ha cambiado su navegador predeterminado a su opción preferida de Google Chrome. Pero millones de personas en todo el mundo siguen recibiendo noticias de Microsoft.
"Si van a tener una portada centrada exclusivamente en noticias, entonces deberían tomar esa responsabilidad en serio y comprender que tiene implicaciones para la sociedad", dijo Kawar.
