(CNN) – Apple dijo este jueves que empezará a probar un nuevo sistema para cotejar automáticamente las fotos de los iPhones y las cuentas de iCloud subidas a una base de datos de imágenes de abusos sexuales a menores y alertar a las autoridades en caso necesario.
El nuevo servicio convertirá las fotos de los dispositivos en un conjunto ilegible de hashes, o números complejos, almacenados en los dispositivos de los usuarios, según explicó la compañía en una rueda de prensa. Esos números se cotejarán con una base de datos de hashes proporcionada por el Centro Nacional para Niños Desaparecidos y Explotados.
Al dar este paso, Apple sigue a otras grandes empresas tecnológicas como Google y Facebook. Pero también está tratando de encontrar un equilibrio entre la seguridad y la privacidad, que Apple ha destacado como uno de los principales puntos de venta de sus dispositivos.
Algunos defensores de la privacidad se apresuraron a expresar su preocupación por esta iniciativa.
“Apple está sustituyendo su sistema de mensajería encriptada de extremo a extremo, estándar en la industria, por una infraestructura de vigilancia y censura, que será vulnerable a los abusos y al espionaje no solo en Estados Unidos, sino en todo el mundo”, afirma Greg Nojeim, codirector del Proyecto de Seguridad y Vigilancia del Centro para la Democracia y la Tecnología. “Apple debería abandonar estos cambios y restaurar la fe de sus usuarios en la seguridad e integridad de sus datos en los dispositivos y servicios de Apple”.
En una publicación en su sitio web en el que se describen las actualizaciones, la compañía dijo: “El método de Apple […] está diseñado teniendo en cuenta la privacidad del usuario”. Apple hizo hincapié en que la herramienta no “escanea” las fotos de los usuarios y que solo se incluirán como coincidencias las imágenes de la base de datos. (Esto debería significar que la inofensiva foto de un usuario de su hijo en la bañera no será marcada).
Apple también explicó que el dispositivo creará un “vale de seguridad” doblemente encriptado, un paquete de información que se envía a los servidores, codificado en las fotos. Una vez que haya un cierto número de vales de seguridad marcados, el equipo de revisión de Apple será alertado. Entonces descifrará el vale, desactivará la cuenta del usuario y alertará al Centro Nacional para Niños Desaparecidos y Explotados, que puede informar a las fuerzas del orden. Quienes crean que sus cuentas han sido marcadas por error pueden presentar un recurso para que las restablezcan.
El objetivo de Apple es garantizar que las imágenes idénticas y visualmente similares den como resultado el mismo hash, incluso si han sido recortadas, redimensionadas o convertidas de color a blanco y negro.
“La realidad es que la privacidad y la protección de los niños pueden coexistir”, dijo John Clark, presidente y CEO del Centro Nacional para Niños Desaparecidos y Explotados, en un comunicado. “Aplaudimos a Apple y esperamos trabajar juntos para hacer de este mundo un lugar más seguro para los niños”.
El anuncio forma parte de un mayor impulso en torno a la seguridad infantil por parte de la compañía. Apple dijo el jueves que una nueva herramienta de comunicación también advertirá a los usuarios menores de 18 años cuando estén a punto de enviar o recibir un mensaje con una imagen explícita. La herramienta, que debe activarse en Compartir en familia, utiliza el aprendizaje automático en el dispositivo para analizar las imágenes adjuntas y determinar si una foto es sexualmente explícita. Los padres con hijos menores de 13 años pueden además activar una función de notificación en caso de que un niño esté a punto de enviar o recibir una imagen desnuda. Apple dijo que no tendrá acceso a los mensajes.
Esa herramienta estará disponible como una futura actualización de software, según la compañía.