Hoy publicamos nuestro Informe de Cumplimiento de Normas Comunitarias correspondientes al cuarto trimestre del 2020. Este reporte registra la forma en la que aplicamos nuestras políticas sobre 12 categorías para Facebook y 10 para Instagram entre octubre y diciembre del año pasado.
Destaques del informe
En el trimestre pasado, compartimos la prevalencia del discurso de odio en Facebook por primera vez, con el objetivo de mostrar el porcentaje estimado en que las personas ven este tipo de contenido en nuestra plataforma. En este trimestre, la prevalencia del discurso del odio cayó de 0,10 – 0,11% a 0,07 – 0,08%, o el equivalente a entre 7 y 8 visualizaciones de discurso de odio por cada 10.000 visualizaciones de contenido general. La prevalencia de contenido violento y gráfico también se redujo, en este caso de 0,07% a 0,05%, y el contenido de desnudez de adultos bajó de 0,05 – 0,06% a 0,03 – 0,04%.
La mejora registrada en la prevalencia obedece principalmente a los cambios de clasificación que hicimos para personalizar el contenido en el News Feed y reducir considerado problemático. Cada publicación es clasificada por procesos que tienen en cuenta una combinación de señales de integridad, como la probabilidad de que un contenido infrinja nuestras políticas, con otras que recibimos de los usuarios, provenientes de encuestas o de acciones realizadas por ellos, como ocultar o reportar publicaciones. Mejorar la manera en que utilizamos estas señales contribuye a adaptar el News Feed a las preferencias individuales de los usuarios y reduce la cantidad de veces que aparecen publicaciones que más tarde podrían ser definidas como violatorias.
Nuestra tasa proactiva, que es el porcentaje de contenido sobre el que actuamos antes de que un usuario nos lo informe, mejoró en áreas problemáticas, particularmente en casos de bullying y acoso. Esa tasa pasó del 26% en el tercer trimestre al 49% en el cuarto trimestre en Facebook, y de 55% a 80% en Instagram. Los avances en Inteligencia Artificial en áreas donde los matices y el contexto son esenciales, como el discurso de odio, el bullying y el acoso, nos han ayudado a escalar mejor nuestros esfuerzos para poder mantener seguras a más personas.
Continuamos recuperando nuestra fuerza laboral de revisión de contenido a nivel mundial, aunque anticipamos que nuestra capacidad para revisar el contenido se verá afectada por el COVID-19 hasta que una vacuna esté disponible para la mayoría de las personas. Debido a esto, estamos priorizando el contenido más dañino para que lo revisen nuestros equipos, como es el caso de publicaciones relativas a suicidios y autolesiones.
Acciones adoptadas en Facebook en el cuarto trimestre:
- 6,3 millones de piezas de contenido de bullying y acoso, por encima de los 3,5 millones del tercer trimestre, debido en parte a actualizaciones en nuestra tecnología para detectar los comentarios.
- 6,4 millones de piezas de contenido de odio organizado, por encima de los 4 millones del tercer trimestre.
- 26,9 millones de piezas de contenido de incitación al odio o a la violencia, por encima de los 22,1 millones del tercer trimestre, debido en parte a las actualizaciones de nuestra tecnología en árabe, español y portugués.
- 2,5 millones de piezas de contenido de suicidio y autolesiones, por encima de los 1,3 millones del tercer trimestre, debido a una mayor capacidad de revisión.
Acciones tomadas en Instagram en el cuarto trimestre:
- 5 millones de piezas de contenido de bullying y acoso, por encima de los 2,6 millones del tercer trimestre, debido en parte a actualizaciones en nuestra tecnología para detectar los contenidos.
- 308.000 piezas de contenido de odio generalizado, por encima de los 224.000 del tercer trimestre.
- 6,6 millones de piezas de contenido de incitación al odio o a la violencia, por encima de los 6,5 millones del tercer trimestre.
- 3,4 millones de piezas de contenido suicida y de autolesión, por encima de los 1,3 millones del tercer trimestre, debido a una mayor capacidad de revisión.
Hoja de Ruta del 2021
Este año, planeamos compartir datos adicionales en Instagram y agregar nuevas categorías de políticas en Facebook. También estamos trabajando para que nuestro informe de cumplimiento sea más fácil de entender y más interactivo. Nuestro objetivo es ser la referencia de la industria de la tecnología en materia de transparencia y continuaremos compartiendo más mediciones de cumplimiento como parte de este objetivo. También creemos que ninguna empresa debería calificar su propio trabajo. Es por eso que el año pasado nos comprometimos a realizar una auditoría externa e independiente de nuestros sistemas de moderación de contenido para validar los números que publicamos. Esta iniciativa comenzará este año.
Continuaremos construyendo sobre este progreso y mejorando nuestra tecnología y esfuerzos para mantener el contenido dañino fuera de nuestras aplicaciones.