(CNN Business) – Instagram está probando nuevas maneras de determinar la edad de los más jóvenes en la plataforma, incluyendo el uso de la inteligencia artificial (IA) para analizar una foto y estimar la edad del usuario.
El jueves, Instagram, propiedad de la empresa Meta, dijo en una entrada de blog que la inteligencia artificial es uno de los tres nuevos métodos que está probando para verificar la edad de los usuarios en el sitio para compartir fotos. Los usuarios tendrán que utilizar una de las opciones para verificar su edad si cambian su fecha de nacimiento en Instagram de menor a mayor de 18 años. Instagram está probando estas opciones primero con sus usuarios en Estados Unidos. La red social ya exige a los usuarios que indiquen su edad cuando empiezan a utilizar el servicio, y emplea la IA de otras maneras para determinar si los usuarios son menores o adultos.
Esta medida forma parte de un esfuerzo continuo por garantizar que los usuarios más jóvenes de la aplicación para compartir fotos vean contenidos adecuados para su edad. Llega menos de un año después de que las revelaciones de una denunciante de Facebook suscitaran preocupación por el impacto de la plataforma en los usuarios más jóvenes. El año pasado, Instagram fue objeto de críticas cuando los documentos filtrados por la denunciante, Frances Haugen, mostraron que era consciente de cómo el sitio de redes sociales puede dañar la salud mental y la imagen corporal, especialmente entre las adolescentes.
La tecnología proviene de una empresa con sede en Londres llamada Yoti. Un video animado que Instagram publicó en su blog da una idea de cómo funciona la estimación de la edad por parte de la IA de Yoti: se pide a un usuario que se tome un video en modo selfie con su teléfono inteligente (Yoti dice que este paso sirve para asegurarse de que hay una persona real en la imagen resultante), e Instagram comparte una imagen de ese video con la empresa.
La inteligencia artificial de Yoti detecta primero que hay una cara en la foto y luego escudriña sus rasgos faciales para determinar la edad de la persona.
Julie Dawson, jefa de política y regulación de Yoti, dijo a CNN Business que su IA fue entrenada con un conjunto de datos compuesto por imágenes de rostros de personas junto con su año y mes de nacimiento. (La documentación que la empresa publicó en mayo para explicar su tecnología decía que se había entrenado con “millones de imágenes faciales diversas”).
“Cuando aparece un nuevo rostro, la IA realiza un análisis a nivel de píxel de esa cara y luego informa un número: la estimación de la edad con un valor de confianza”, explica Dawson. Una vez realizada la estimación, Yoti e Instagram eliminan el video y la imagen fija tomada de él.
Verificar la edad de un usuario puede ser un problema molesto para las empresas tecnológicas, en parte porque muchos usuarios pueden no tener un documento de identidad con foto emitido por el gobierno que se pueda comprobar.
Karl Ricanek, profesor de la Universidad de Carolina del Norte en Wilmington y director del Laboratorio de Investigación del Grupo de Envejecimiento Facial, cree que la tecnología de Yoti es una buena aplicación de la IA.
“Es un esfuerzo que merece la pena para intentar proteger a los niños”, afirma.
Sin embargo, aunque esta tecnología podría ser útil para Instagram, hay una serie de factores que pueden dificultar la estimación precisa de la edad a partir de una fotografía, según Ricanek, como la pubertad, que cambia la estructura facial de una persona, así como el tono de la piel y el sexo.
La documentación reciente de Yoti indica que su tecnología es, en general, ligeramente menos precisa a la hora de estimar la edad de los niños que tienen entre 13 y 17 años y un tono de piel más oscuro que los que tienen un tono de piel más claro. Según los datos de Yoti, su estimación de la edad se desvía, por término medio, en 1,91 años en el caso de las mujeres de 13 a 17 años cuyos tonos de piel se clasificaron como los dos tonos más oscuros de la escala Fitzpatrick, una escala de seis tonos que suelen utilizar las empresas tecnológicas para clasificar los colores de la piel, frente a un error medio de 1,41 años en el caso de las mujeres del mismo grupo de edad cuyos tonos de piel eran los dos tonos más claros de la escala. En el caso de los chicos de entre 13 y 17 años, la estimación de la tecnología sobre su edad se equivocó en 1,56 años de media, según el documento. (Para los adolescentes en general, el promedio de error es de 1,52 años).
Lo que esto significa, en la práctica, es que habrá muchos errores, dijo Luke Stark, profesor asistente de la Western University de Ontario, Canadá, que estudia las implicaciones éticas y sociales de la IA. “Seguimos hablando de un error medio absoluto, en cualquier sentido, de un año a un año y medio”, dijo.
Varios empleados de CNN, todos mayores de 25 años, probaron una demostración en línea de la tecnología de estimación de la edad de Yoti. La demostración difiere de la experiencia que tendrán los usuarios de Instagram en que se toma una selfie, en lugar de un video corto, y el resultado es una estimación de rango de edad, en lugar de una estimación de edad específica, dijo el director de marketing de Yoti, Chris Field.
Los resultados variaron: para un par de reporteros, el rango de edad estimado era el adecuado, pero para otros se desviaba por muchos años. Por ejemplo, se estimó que un editor tenía entre 17 y 21 años, cuando en realidad tiene unos 35.
Entre otras cuestiones, a Stark también le preocupa que la tecnología contribuya a la llamada “proliferación de la vigilancia” o “surveillance creep”.
“Es ciertamente problemático, porque condiciona a la gente a asumir que van a ser vigilados y evaluados”, dijo.