Por Guy Rosen, VP de Integridad de Facebook
Luego de los terribles ataques terroristas en Nueva Zelanda, evaluamos qué medidas adicionales podíamos tomar para evitar que nuestros servicios sean utilizados para causar daño o difundir propaganda de odio. Como resultado de ese análisis, a partir de hoy, las personas que hayan infringido las normas de Facebook, incluida nuestra política de Organizaciones y Personas Peligrosas, tendrán restricciones para usar Facebook Live.
Está claro que para enfrentar estas amenazas es necesario poder contar con un nivel de innovación técnica que ayude a detectar posibles manipulaciones de productos multimedia, como las que vimos después de Christchurch, cuando algunos usuarios modificaron el video para evitar su identificación y volver a publicarlo después de que éste fuera retirado. Esto requerirá de investigación fundacional impulsada por la industria y la academia. Para ello, también anunciamos nuevas asociaciones de investigación con líderes académicos de tres universidades por un total de 7,5 millones de dólares. Estas asociaciones estarán diseñadas para impulsar nuevas mejoras en la tecnología para el análisis de imágenes y videos.
Restricciones para transmisiones Live
La gran mayoría de las personas utilizan Facebook Live con fines positivos, como compartir un momento con amigos o crear conciencia sobre una causa que les interesa. Aún así, se puede abusar de esta herramienta y queremos tomar medidas para limitar esa posibilidad.
Hasta el día de hoy, si alguien publica contenido que viola nuestras Normas Comunitarias en Live u otras herramientas de la plataforma, eliminamos esta publicación. Si esta persona sigue publicando contenido que continúa infringiendo nuestras políticas, se le impide usar Facebook durante un cierto período de tiempo, lo que también restringe su capacidad de transmitir en Live. En algunos casos, incluso pueden quedar excluidos del servicio por completo, ya sea debido a violaciones repetidas de bajo nivel o, en episodios raros, debido a una sola violación considerada grave (por ejemplo, usar propaganda terrorista en su foto de perfil o compartir imágenes de explotación infantil).
Hoy estamos ajustando las reglas que se aplican específicamente a Live. A partir de ahora, aplicaremos una política de «única advertencia» en relación con una gama ampliada de delitos. A partir de ahora, cualquier persona que viole nuestras políticas más serias no podrá utilizar Live durante períodos de tiempo establecidos, por ejemplo, de 30 días desde que cometió la primera infracción. Por mencionar un caso, alguien que comparta un enlace a una declaración de un grupo terrorista sin contexto ahora será bloqueado inmediatamente para que no pueda usar Live durante un período de tiempo específico.
Planeamos extender estas restricciones a otras áreas en las próximas semanas, comenzando por evitar que esas mismas personas creen anuncios en Facebook.
Reconocemos la tensión existente entre quienes prefieren contar con un servicio sin restricciones y los límites necesarios que requiere mantener a las personas seguras en Facebook. Nuestro objetivo es minimizar el riesgo de abuso en Live y permitir que las personas utilicen esta herramienta de una forma positiva todos los días.
Invertir en la investigación para detectar manipulación audiovisual
Uno de los desafíos que enfrentamos en los días posteriores al ataque de Nueva Zelanda fue la proliferación de variantes diferentes del video. Las personas, no siempre de manera intencional, compartieron versiones editadas del mismo, lo que dificultó su detección en nuestros sistemas.
Aunque implementamos distintas técnicas para encontrar estas variantes, incluida la tecnología de coincidencia de video y audio, nos dimos cuenta de que esta es un área en la que tenemos que invertir en investigaciones adicionales.
Como resultado, hoy anunciamos asociaciones con tres universidades- la Universidad de Maryland, la Universidad de Cornell y la Universidad de California, en Berkeley- las cuales estarán centradas en la investigación de nuevas técnicas para:
- Detectar imágenes, videos y audios manipuladas.
- Distinguir entre publicaciones de individuos que de manera intencional manipulan imágenes y videos de aquellos que lo hacen inconscientemente.
Está claro que lidiar con el aumento de este tipo de manipulaciones requerirá de mucha investigación y una colaboración profunda entre la industria y la academia. Necesitamos que todos trabajemos juntos para enfrentar este desafío. Estas asociaciones son solo una parte del esfuerzo que estamos llevando a cabo para trabajar de la mano con la academia y nuestros colegas de la industria. En los próximos meses, buscaremos seguir avanzando lo más rápido posible para innovar frente a esta amenaza.
Este trabajo será fundamental en nuestro esfuerzo ampliado por combatir la manipulación de imágenes, videos y audios, incluyendo DeepFakes. También, esperamos que nos ayude a combatir de forma más eficaz a los grupos organizados que intentan engañar a nuestros sistemas, como hemos visto después del ataque a Christchurch.
Estas son cuestiones sumamente complejas y nos encontramos trabajando en un entorno en constante cambio. Solo si nos mantenemos atentos y trabajando con expertos, otras empresas, gobiernos y la sociedad civil en general alrededor del mundo, podremos mantener a las personas seguras. Estamos ansiosos por continuar este trabajo juntos.