Actualizado el 19 de enero de 2021:
Seguimos procurando la aplicación de nuestra política ampliada de Personas y organizaciones peligrosas contra los movimientos sociales militarizados y las redes de conspiración que inducen a la violencia, como QAnon. Este esfuerzo fue prioritario durante nuestro trabajo en torno a la elección presidencial de EE.UU. el año pasado. De agosto al 30 de noviembre de 2020, eliminamos unas 3.200 Páginas, 18.800 Grupos, 100 eventos, 23.300 perfiles de Facebook y 7.400 cuentas de Instagram por violar nuestra política contra movimientos sociales militarizados. A la par, también eliminamos cerca de 3.000 Páginas, 9.800 Grupos, 420 eventos, 16.200 perfiles de Facebook y 25.000 cuentas de Instagram por violar nuestra política contra QAnon.
Desde entonces, hemos hecho cumplir esta política. Del 12 de enero de 2021 a la fecha hemos identificado más de 890 movimientos sociales militarizados y eliminado cerca de 3.400 Páginas, 19.500 Grupos, 120 eventos, 25.300 perfiles de Facebook y 7.500 cuentas de Instagram. También, hemos removido cerca de 3.300 Páginas, 10.500 Grupos, 510 eventos, 18.300 perfiles de Facebook y 27.300 cuentas de Instagram por violar nuestra política contra QAnon.
Seguimos fortaleciendo la aplicación de nuestra política a través de la identificación de nuevos movimientos sociales militarizados y nuevas políticas asociadas con QAnon y la forma en la que la gente intenta eludir nuestra detección, incluyendo la atención en perfiles de Facebook utilizados para organizar y promover estos movimientos y grupos en nuestra plataforma. Continuaremos consultando a expertos para conformar nuestra estrategia y en concordancia identificar y eliminar contenido. Estos grupos trabajan constantemente para evadir nuestras políticas, por lo que seguiremos estudiando su evolución para mantener a las personas seguras.
Actualizado el 27 de octubre de 2020:
En agosto, ampliamos nuestra política respecto a Personas y Organizaciones Peligrosas para atajar movimientos sociales militarizados y redes de conspiración que inducen a la violencia, como QAnon. Desde entonces, hemos identificado más de 600 movimientos sociales militarizados y en consecuencia eliminamos alrededor de 2.400 Páginas, 14.200 Grupos y cerca de 1.300 cuentas de Instagram que estos manejaban. Asimismo, hemos removido alrededor de 1.700 Páginas, 5.600 Grupos y cerca de 18.700 cuentas de Instagram que representaban a QAnon.
El número de movimientos sociales militarizados que identificamos reflejan la variedad de grupos fuera del mundo digital, incluyendo organizaciones establecidas, grupos que cambiaron su nombre recientemente y organizaciones pequeñas de reciente creación. Y el número de remociones reflejan las diferencias sobre cómo Facebook e Instagram son usados. Por ejemplo, había menos Grupos de Facebook vinculados con QAnon que cuentas de Instagram, pero estos grupos a menudo tenían más miembros en comparación con las cuentas de Instagram que tenían menos seguidores.
Continuamos fortaleciendo nuestras acciones para identificar más movimientos sociales militarizados y eliminando más Grupos, Páginas y cuentas de Instagram ligadas a QAnon. De igual forma, seguiremos consultando a los expertos para construir nuestra estrategia de acciones para identificar y remover contenido en consecuencia.
Actualizado el 21 de octubre de 2020:
Una actualización sobre nuestras acciones contra QAnon
A partir de hoy, cuando alguien busque términos relacionados a QAnon en Facebook e Instagram, lo redirigiremos a fuentes confiables de la Global Network on Extremism and Technology (GNET), la red de investigación académica del Foro Global de Internet contra el Terrorismo. Esta es la expansión más reciente de nuestra iniciativa Redirect para ayudar a combatir el extremismo violento y dirigirá a las personas a recursos que les pueden ayudar a informarse sobre las realidades de QAnon y sus vínculos con la violencia y el daño al mundo real.
Conforme estudiamos el impacto de nuestras acciones contra QAnon, colaboraremos con GNET para evaluar el impacto de la iniciativa Redirect, y continuaremos actualizando la lista de términos que, cuando se busquen en nuestra plataforma, deberían dirigir a las personas a estos recursos.
Actualizado el 6 de octubre de 2020:
El 19 de agosto anunciamos un conjunto de medidas diseñadas para impedir que QAnon y los movimientos sociales militarizados operen y se organicen en nuestra plataforma. En el primer mes eliminamos más de 1.500 Páginas y Grupos de QAnon que contenían conversaciones de posible violencia y más de 6.500 Páginas y Grupos vinculados a más de 300 movimientos sociales militarizados. Pero creemos que estos esfuerzos deben reforzarse tratándose de QAnon.
A partir de hoy, eliminaremos cualquier Página de Facebook, Grupo o cuentas de Instagram que representan a QAnon, aún cuando no contengan contenido violatorio. Esta es una actualización a la política inicial de agosto que eliminó Páginas, Grupos y cuentas de Instagram asociadas con el movimiento cuando discutían posible violencia e imponen una serie de restricciones para limitar el alcance de otras Páginas, Grupos y cuentas de Instagram de esta naturaleza. Las Páginas, Grupos y cuentas de Instagram que representan un movimiento social militarizado identificado ya están prohibidas. Continuaremos desactivando los perfiles de los administradores de Páginas y Grupos que han sido eliminados por violar esta política, tal como empezamos a hacerlo en agosto.
Empezamos a aplicar la actualización de esta política a partir de hoy y a eliminar el contenido en consecuencia, pero este trabajo continuará en los próximos días y semanas. Nuestro equipo de Operaciones de Organizaciones Peligrosas continuará ejecutando esta política y detectará proactivamente el contenido para eliminarlo, como un paso adicional a los reportes por parte de los usuarios. Estos son especialistas quienes estudian y responden a nuevas formas de violación de contenido de este movimiento y su detección interna ha derivado en mejores directrices para identificar formas de violación de contenido más allá de la revisión de los reportes de usuarios.
Estamos atentos para aplicar nuestra política y estudiar su impacto en la plataforma, pero hemos visto varios problemas que nos han llevado a realizar la actualización de hoy. Por ejemplo, aunque hemos eliminado el contenido de QAnon que celebra y apoya la violencia, detectamos otras publicaciones del movimiento ligadas a diferentes formas de daño en el mundo real, incluidas las recientes afirmaciones acerca de que los incendios forestales en la costa oeste de Estados Unidos fueron iniciados por ciertos grupos, lo que desvió la atención de funcionarios locales de la lucha contra los incendios y la protección del público. Además, los mensajes de QAnon cambian rápidamente y vemos redes de partidarios que construyen una audiencia con un mensaje y luego rápidamente pasan a otro. Buscamos combatir esto de forma más eficaz con esta actualización que fortalece y amplía nuestras acciones contra el movimiento sobre la teoría de la conspiración.
Esta no es la primera actualización de esta política, la semana pasada comenzamos a dirigir a las personas a recursos confiables de seguridad infantil cuando buscan ciertos hashtags relacionados con el tema, y continuamos trabajando con expertos externos para resolver el hecho de que los partidarios de QAnon estén usando el tema de la seguridad infantil para reclutar y organizar. Podemos anticipar que habrá nuevos intentos para evadir nuestra detección, tanto en el comportamiento como en el contenido que se comparte en nuestra plataforma, por lo que seguiremos estudiando el impacto de nuestros esfuerzos y estaremos listos para actualizar nuestra política y su aplicación según sea necesario.
Actualizado el 30 de septiembre de 2020:
Hoy compartimos algunas actualizaciones sobre nuestras acciones contra movimientos sociales militarizados y QAnon:
El 16 de septiembre empezamos a disminuir la distribución del contenido de Páginas y Grupos que han sido restringidos pero no removidos. Ahora, las personas que son miembros de Grupos que han sido restringidos y siguen Páginas que han sido restringidas, verán contenido de estos Grupos y Páginas más abajo en la Sección de Noticias.
Hace unos días, también prohibimos que cualquiera en nuestra plataforma publique anuncios que elogien, apoyen o representen movimientos sociales militarizados y a QAnon.
Estamos tomando medidas para atender la evidencia que indica que los seguidores de QAnon están usando cada vez más el tema de seguridad infantil y hashtags, como #savethechildren, para reclutar y organizarse. A partir de hoy, redireccionaremos a las personas a recursos confiables sobre seguridad infantil cuando busquen ciertos hashtags sobre este tema. Adicionalmente, el contenido sobre QAnon y seguridad infantil es elegible para ser verificado a través de nuestro programa de verificadores de datos independientes. El contenido que sea marcado como falso verá disminuida su distribución en la Sección de Noticias, será filtrado en la sección Explorar y los hashtags de Instagram, será etiquetado (para que las personas que lo vean, traten de compartirlo o ya lo hayan hecho, puedan acceder a más contexto), y será rechazado como anuncio.
Originalmente publicado el 19 de agosto de 2020:
Hoy, estamos tomando medidas contra Páginas y Grupos de Facebook, así como cuentas de Instagram ligadas a grupos anárquicos que apoyan actos violentos durante las protestas, las organizaciones paramilitares ubicadas en Estados Unidos y QAnon. Ya removemos contenido que haga llamados o promueva la violencia y vetamos organizaciones e individuos que divulguen misiones violentas. Sin embargo, hemos visto movimientos crecientes que, si bien no organizan actos violentos, los celebran y han mostrado tener armas y sugieren que las usarán, o tienen seguidores con patrones de conducta violentos. Por esto, estamos extendiendo nuestra política de Personas y Organizaciones Peligrosas, para combatir organizaciones y movimientos que han demostrado ser un riesgo importante a la seguridad pública pero que no cumplen con los criterios rigurosos para ser categorizados como una organización peligrosa y ser vetados por tener cualquier presencia en nuestra plataforma. Si bien permitiremos que las personas publiquen contenido que apoye estos movimientos y grupos, siempre y cuando no viole nuestras políticas de contenido, restringiremos su capacidad de organizarse en nuestra plataforma.
Bajo esta extensión de la política, impondremos restricciones para limitar la difusión de contenido de Páginas y Grupos de Facebook, así como de cuentas de Instagram. También, removeremos Páginas y Grupos de Facebook y cuentas de Instagram cuando identifiquemos conversaciones de violencia potencial, incluso cuando usen lenguaje velado y símbolos particulares del movimiento para hacerlo.
Tomaremos las siguientes acciones, unas entrarán en vigor inmediatamente y otras lo harán próximamente:
- Remoción de Facebook: Las Páginas, Grupos y cuentas de Instagram asociadas con estos movimientos y organizaciones serán removidas cuando discutan actos de violencia potencial. Seguiremos estudiando la terminología y simbolismo específicos que usan los seguidores para detectar el lenguaje que indica violencia utilizado por estos movimientos y grupos y actuaremos en consecuencia.
- Limitación en las recomendaciones: Las Páginas, Grupos y cuentas de Instagram asociadas con estos movimientos que no sean removidos no serán elegibles para ser recomendados a las personas cuando sugerimos Grupos a los que pueden unirse o Páginas y cuentas de Instagram que pueden seguir.
- Reducción en la Sección de Noticias: Próximamente, se reducirá la posición del contenido de estas Páginas y Grupos en la Sección de Noticias, lo que significa que será menos probable que las personas que ya siguen estas Páginas y son miembros de estos Grupos vean este contenido en la Sección de Noticias.
- Reducción en la búsqueda: Los hashtags y los títulos de Páginas, Grupos y cuentas de Instagram que estén restringidos en nuestra plataforma y estén relacionados con estos movimientos y organizaciones estarán limitados en las búsquedas: no serán sugeridos en la búsqueda y serán mostrados más abajo en los resultados de búsqueda.
- Revisión de hashtags relacionados en Instagram: Hemos removido temporalmente la función de hashtags relacionados en Instagram, que permite a las personas encontrar hashtags similares a aquellos con los que interactúan. Estamos trabajando en desarrollar soluciones más robustas para proteger a las personas que usan esta función y seguimos evaluando la mejor forma para relanzarla.
- Prohibición del uso de anuncios, plataformas de comercio y herramientas de monetización: Las páginas de Facebook relacionadas a estos movimientos no podrán publicar anuncios ni vender productos a través de Marketplace o las tiendas de Facebook. Próximamente, extenderemos esta prohibición para evitar que cualquiera publique anuncios que elogien, apoyen o representen estos movimientos.
- Prohibición para recaudar fondos: Prohibiremos que las asociaciones que representen o busquen apoyar estos movimientos, organizaciones y grupos usen nuestras herramientas para recaudar fondos. También, prohibiremos las recaudaciones de fondos personales que elogien, apoyen o representen estas organizaciones y movimientos.
Como resultado de algunas de las acciones que ya hemos tomado, removimos de Facebook más de 790 grupos, 100 páginas y 1,500 anuncios ligados a QAnon, bloqueamos más de 300 hashtags en Facebook e Instagram e impusimos restricciones sobre más de 1,950 Grupos y 440 Páginas de Facebook y más de 10,000 cuentas de Instagram. Estos números reflejan las diferencias sobre cómo Facebook e Instagram son usados, con menos Grupos en Facebook con un alto número de miembros y más cuentas de Instagram con una menor cantidad de seguidores en comparación. Esas Páginas, Grupos y cuentas de Instagram que han sido restringidos están sujetos a ser removidos a medida que nuestro equipo continúa revisando su contenido de acuerdo con nuestra política actualizada, al igual que otras que identifiquemos posteriormente. Respecto a organizaciones paramilitares y grupos que promueven disturbios, incluyendo algunos que pueden identificarse como Antifa, hemos removido inicialmente más de 980 grupos, 520 páginas y 160 anuncios de Facebook. También, hemos restringido más de 1,400 hashtags relacionados con estos grupos y organizaciones en Instagram.
Las actualizaciones que hoy hacemos se enfocan en nuestra política de Personas y Organizaciones Peligrosas, pero seguiremos revisando el contenido y las cuentas según todas nuestras políticas de contenido en un esfuerzo por mantener a las personas seguras. Removeremos el contenido de estos movimientos que viole nuestras políticas, incluyendo aquel contra cuentas falsas, acoso, discurso de odio y/o incitación a la violencia. La información errónea que no ponga en riesgo de violencia inminente o daño físico a las personas pero que sea calificada como falsa por los verificadores de datos independientes será disminuida en la Sección de Noticias para que menos personas puedan verla. Cualquier actor o grupo no estatal que califique como una persona u organización peligrosa será vetado de nuestra plataforma. Nuestros equipos también estudiarán las tendencias en los intentos para eludir la aplicación de nuestras políticas para poder adaptarnos. Estos movimientos y grupos evolucionan rápidamente y nuestros equipos los seguirán de cerca y consultarán con expertos externos para que podamos seguir aplicando nuestras políticas en contra de estos.