(CNNMoney) – La nueva función de etiquetado automático de Flickr califica a las personas negras como “mono” y a los campos de concentración como “juegos de pasamanos”. La nueva función de etiquetado automático de Flickr está generando resultados bastante ofensivos.
El sitio web para compartir fotografías, el cual es propiedad de Yahoo, lanzó un software de reconocimiento de imágenes hace dos semanas que automáticamente crea etiquetas para las fotos. El propósito era hacer que fuera más fácil buscar imágenes en el sistema.
Por ejemplo, una fotografía en blanco y negro del Puente de la Torre de Londres automáticamente fue etiquetada con “arquitectura”, “exterior”, “ciudad”, “monocromático” y “horizonte”.
Pero los algoritmos informáticos no son perfectos, y cuando identifican imágenes de manera incorrecta, los resultados pueden ser desastrosos.
Algunas fotografías de campos de concentración recibieron etiquetas inapropiadas, como “deporte” y “juego de pasamanos”.
Flickr también había estado etiquetando algunas imágenes de personas como “mono” y “animal”, entre ellas una fotografía de un hombre negro llamado William, tomada por el fotógrafo Corey Deshon, según The Guardian.
El servicio de fotografías también había etiquetado a una mujer blanca que tenía pintada la cara como “mono” y “animal”, así que el algoritmo de Flickr no parece tomar el color de la piel de una persona en consideración con la función de las etiquetas automáticas.
Flickr ya ha corregido ambos errores, pero los errores del campo de concentración permanecen.
Estamos conscientes de los problemas con los errores en las etiquetas automáticas de Flickr y estamos trabajando en una solución”, dijo un vocero de Flickr en una declaración. “Si bien estamos muy orgullosos de esta tecnología avanzada de reconocimiento de imágenes, somos los primeros en admitir que habrá errores y constantemente trabajamos para mejorar la experiencia”.
Flickr señaló que borrar las etiquetas incorrectas le enseña al nuevo algoritmo a aprender de su error y mejora sus resultados en el futuro. La compañía también señaló que el personal de Flickr no etiqueta las fotografías personalmente… se trata de un sistema automático.