CNNEarrow-downclosecomment-02commentglobeplaylistsearchsocial-facebooksocial-googleplussocial-instagramsocial-linkedinsocial-mailsocial-moresocial-twittersocial-whatsapp-01social-whatsapptimestamptype-audiotype-gallery
Redes sociales

Google usará etiquetas de advertencia e inteligencia artificial para luchar contra los videos extremistas

Por Alanna Petroff

(CNN) -- Google está usando nuevas armas para luchar contra los videos extremistas.

El propietario de YouTube ha anunciado planes para utilizar la nueva tecnología de inteligencia artificial para identificar videos extremistas. También le pondrá etiquetas de advertencia sobre contenido objetable que no cumpla con los criterios de eliminación, y hará que sea más difícil encontrar estos videos.

"Aunque nosotros y otros hemos trabajado durante años en identificar y eliminar contenido que viola nuestras políticas, la incómoda verdad es que nosotros, como industria, debemos reconocer que hay más que hacer", dijo Kent Walker, asistente legal de Google, en una entrada en el blog. "No debe haber lugar para contenido terrorista en nuestros servicios".

La medida surge cuando las empresas de tecnología se enfrentan a una mayor presión en Europa para regular mejor el contenido extremista tras una serie de ataques terroristas en Berlín, París y Londres.

publicidad

Google dijo que comenzaría a usar su "más avanzada investigación de aprendizaje de máquina" para identificar y eliminar rápidamente videos relacionados con el terrorismo después de que se suban a sus plataformas. También dijo que incorporará nuevos recursos humanos para soporte mediante la expansión de un programa que permite a las organizaciones de terceros de confianza para señalar el contenido extremista.

LEE: Facebook ha creado un monstruo que no puede domar

Este gran cambio afecta a videos con material religioso o supremacista incendiario que no violan las políticas del sitio. Google pondrá ahora señales de advertencia en dichos videos, al tiempo que evitará que los usuarios comenten sobre ellos o los respalden. Los videos serán más difíciles de encontrar y no llevarán publicidad. "Creemos que esto logrará un equilibrio correcto entre la libre expresión y el acceso a la información sin promover puntos de vista extremadamente ofensivos", aseguró Walker.

Google dijo que también trataría de llegar a potenciales reclutas de ISIS con publicidad específica que los lleve a "videos antiterroristas que puedan cambiar sus opiniones sobre unirse a estos grupos". El gigante tecnológico dijo que los ensayos previos del sistema dieron como resultado que los usuarios estaban viendo más de medio millón de minutos de videos que debilitaban los mensajes de reclutamiento de terroristas.

Los esfuerzos anteriores de las empresas de Silicon Valley para controlar el contenido extremista no han logrado impresionar a los observadores en Europa.

Google se enfrentó a un éxodo de anunciantes en los últimos meses, después de que las compañías descubrieran que sus spots estaban apareciendo junto a contenido extremista en YouTube. Marriott y Etihad Airways estuvieron entre más de una docena de marcas que retiraron sus anuncios de la plataforma.

Los reguladores también han pedido a la industria que haga más.

Facebook, Twitter, Microsoft y Google acordaron con el principal regulador de Europa el año pasado revisar la mayoría de los discursos de odio marcados por los usuarios en 24 horas y eliminar cualquier contenido ilegal. Un informe de seguimiento de este mes mostró que tanto Facebook como YouTube lograron eliminar el 66% de los mensajes de discurso de odio y los videos después de que fueron marcados. Twitter se rezagó, fallando en sacar la mayoría de mensajes de discurso de odio.

En el Reino Unido, un informe de un comité parlamentario publicado en mayo acusó a la industria (incluyendo a Google) de priorizar los beneficios sobre la seguridad de los usuarios al continuar alojando contenidos ilegales.

LEE: ¿Por qué crees todo lo que dicen tus amigos de Facebook? Esta es la explicación científica

"Las compañías de redes sociales más grandes y más ricas están vergonzosamente lejos de tomar medidas suficientes para combatir el contenido ilegal y peligroso", dijo el informe del Comité de Asuntos Internos. "Dado su inmenso tamaño, recursos y alcance global, es completamente irresponsable por parte de ellos no seguir la ley".

El informe pide "multas significativas" si las compañías no mejoran rápidamente.

En abril, el gabinete alemán aprobó un plan para comenzar a imponer multas por 50 millones de euros (56 millones de dólares) a las empresas de redes sociales si no eliminan rápidamente las publicaciones que violan la ley alemana.