Twitter dice que su algoritmo de recorte de imágenes estaba sesgado, por lo que lo está cambiando

(CNN Business) -- Twitter ha abandonado en gran medida un algoritmo de recorte de imágenes después de determinar que el sistema automatizado estaba sesgado. Algunos usuarios se quejaron de que preferían mostrar imágenes de personas blancas en vistas previas de tuits.

En una publicación de blog el miércoles, Rumman Chowdhury, director de ingeniería de software del equipo de Ética, Transparencia y Responsabilidad del aprendizaje automático de Twitter, escribió que la compañía concluyó que el algoritmo estaba sesgado después de probarlo buscando sesgos basados ​​en el género y la raza. La publicación y un artículo de investigación adjunto detallan cómo el sistema de recorte favoreció a personas blancas sobre las personas negras y mujeres sobre hombres, por ejemplo, cuando se probó en imágenes vinculadas al azar de personas de varias razas y géneros.

La conclusión de Twitter llega meses después de que la compañía dijera que estudiaría el algoritmo y sirve como otro ejemplo más de cómo el sesgo puede infiltrarse en los sistemas informáticos destinados a realizar tareas en las que los humanos suelen ser excepcionalmente buenos.

"Consideramos las compensaciones entre la velocidad y la consistencia del recorte automatizado con los riesgos potenciales que vimos en esta investigación", escribió Chowdhury. "Una de nuestras conclusiones es que no todo en Twitter es un buen candidato para un algoritmo y, en este caso, cómo recortar una imagen es una decisión que la gente toma mejor".

Cambios tras quejas

En marzo, Twitter comenzó a probar una nueva forma de mostrar una imagen completa, en lugar de una versión de vista previa recortada automáticamente, en dispositivos móviles cuando un usuario tuiteaba una sola imagen. La compañía dijo que, después de recibir comentarios positivos, implementó la función para todos sus usuarios de iOS y Android en mayo. (Sin embargo, centra las imágenes que son extremadamente largas o anchas).

Un portavoz de Twitter le dijo a CNN Business el miércoles que el cambio se produjo primero en la aplicación móvil de Twitter, ya que así es como la mayoría de la gente tuitea y mira las imágenes.

Cuando el algoritmo de recorte de imágenes estaba en su lugar, cada vez que un usuario publicaba una imagen en Twitter, el sistema automatizado recortaba una versión de vista previa de esa imagen que los espectadores verían antes de hacer clic en la imagen de tamaño completo. Twitter dijo en una publicación de blog en 2018 que anteriormente usaba la detección de rostros para ayudar a descubrir cómo recortar imágenes para vistas previas.

Sin embargo, el software de detección de rostros era propenso a errores. La compañía descartó ese enfoque y, en cambio, enfocó su software en lo que se conoce como "prominencia" en las imágenes, o el área considerada más interesante para una persona que mira la imagen general. La prominencia se estudia rastreando lo que la gente mira; tendemos a interesarnos en cosas como personas, animales y texto, por ejemplo.

Las críticas

En septiembre pasado, se pidió a la compañía que estudiara su enfoque algorítmico para recortar imágenes después de que en numerosos tuits lo criticaran.

Entre estos estaba del usuario @bascule, quien el 19 de septiembre tuiteó: "Intentando un experimento horrible ... ¿Cuál elegirá el algoritmo de Twitter: Mitch McConnell o Barack Obama?". Junto con sus palabras había dos imágenes largas y rectangulares.

Explicó que la primera consistía en una foto del líder de la mayoría del Senado de los Estados Unidos, McConnell, en la parte superior, que es blanco, con un delgado rectángulo blanco en el medio, y una foto del expresidente Obama, que es una persona negra, en la parte inferior. El segundo presentó lo contrario, con Obama en la parte superior y McConnell en la parte inferior. Con el algoritmo de recorte de imágenes de Twitter en uso, las versiones de su vista previa, que están una al lado de la otra, muestran solo a McConnell.

Un día antes, otro usuario de Twitter, @colinmadland, notó un resultado de vista previa similar cuando publicó una foto que, según dijo, se mostraba a sí mismo, un hombre blanco, junto a una foto de un hombre negro con quien asistió a una reunión en línea; La vista previa de Twitter estaba predeterminada para mostrar solo al hombre blanco.

En respuesta a @bascule en ese momento, la compañía tuiteó que no vio evidencia de sesgo racial o de género durante las pruebas antes de lanzar la función de vista previa, pero dijo que investigaría si había problemas con el algoritmo de recorte.

Las mejoras

En la publicación del blog de Twitter del miércoles, Chowdhury escribió que el alejamiento del uso de un algoritmo para recortar imágenes reduce la dependencia de la empresa del aprendizaje automático (una técnica de inteligencia artificial en la que una computadora se aprende a sí misma analizando los datos) "para una función que estamos de acuerdo es mejor realizado por personas que utilizan nuestros productos".

El portavoz de Twitter dijo que la compañía planea descargar el algoritmo de recorte de imágenes en el sitio web Twitter.com en los próximos meses. El algoritmo también se utiliza de otras dos formas, como cuando una persona tuitea varias imágenes; el portavoz dijo que Twitter también está trabajando en mejoras para esos usos.