Informe de Comportamiento Inauténtico Coordinado – Marzo 2021

Trabajamos constantemente para detectar y frenar campañas coordinadas que buscan manipular el debate público en nuestras aplicaciones. 

El objetivo de este informe

Durante los últimos tres años y medio, hemos compartido nuestros descubrimientos sobre el comportamiento inauténtico coordinado que detectamos y eliminamos de nuestras plataformas. Como parte de los informes regulares de CIB, estamos compartiendo información acerca de todas las redes que removimos durante el curso de un mes para facilitar que las personas vean nuestro progreso en un solo lugar.

Resumen de los descubrimientos de marzo 2021

Nuestros equipos continúan enfocándose en detectar y eliminar campañas diseñadas para engañar a las personas alrededor del mundo, ya sean extranjeras o locales. En marzo, eliminamos 14 redes de 11 países. Cinco de ellas, Albania, Irán, España, Argentina y Egipto, dirigidas a personas fuera de sus países. Otras nueve de Israel, Benín, Comoros, Georgia y México, dirigidas a audiencias locales. Hemos compartido información sobre estos descubrimientos con nuestros socios en la industria, investigadores y expertos en políticas públicas.

A continuación algunos detalles de este informe: 

Detección temprana y medidas continuas: La gran mayoría de las redes que eliminamos en marzo tenían seguidores limitados o estaban en las primeras etapas de construcción de audiencia cuando las removimos. La pequeña red iraní es un buen ejemplo: el actor detrás de esta intentó restablecer su presencia después de que interrumpimos su operación enfocada a Israel en octubre de 2020. A finales del año pasado y a principios de 2021, empezaron a crear Páginas y cuentas, algunas de las cuales fueron detectadas y desactivadas por nuestros sistemas automatizados. Alrededor de un mes después de que su primera Página fuera creada, nuestros equipos empezaron a investigar al resto de la red. Medidas continuas contra estos actores en todo Internet han hecho que estas operaciones sean menos eficaces en la construcción de su base de seguidores. Con cada remoción, debilitamos más a los responsables detrás de estas redes, forzándolos a reconstruir sus operaciones y ralentizándolos. 

Una mirada profunda a una granja de trolls: Además de estas nuevas redes, también investigamos y desactivamos una operación de larga data en Albania orientada principalmente a Irán. Si bien no construyó audiencias significativas durante varios años de operaciones, esta campaña estaba liderada por lo que parece ser una granja de trolls bien organizada y vinculada a un grupo opositor de exiliados de Irán: Mojahedin-e Khalq (MEK). Para dar claridad sobre cómo se manifiestan este tipo de operaciones en nuestra plataforma, estamos añadiendo un estudio detallado y una sección de análisis al final de este informe. Hemos compartido nuestros descubrimientos con otras plataformas e investigadores para contribuir a que se realicen descubrimientos adicionales de actividades similares en Internet. 

Imágenes generadas por Inteligencia artificial: Hemos eliminado tres redes de comportamiento inauténtico coordinado que usaban fotos de perfil probablemente generadas por tecnologías de aprendizaje automático capaz de crear imágenes realistas. Desde 2019, hemos interrumpido siete operaciones que usaban este tipo de fotografías. De forma notable, y pese a que el uso de imágenes generadas por Redes Generativas Antagónicas (GAN por sus siglas en inglés) pueden hacer que una cuenta parezca auténtica para un observador externo, no cambia materialmente el patrón de comportamiento engañoso que buscamos hallar para identificar actividades inauténticas.

Sabemos que las operaciones de influencia seguirán evolucionando conforme nuestras acciones avancen y que nuevos comportamientos engañosos surgirán. Seguiremos refinando nuestras medidas y compartiendo nuestros descubrimientos de forma pública. Estamos progresando para erradicar este abuso, pero como hemos dicho antes, es un esfuerzo continuo. Estamos comprometidos a mejorar constantemente para estar un paso adelante, construyendo mejor tecnología, contratando más personas y trabajando de cerca con las autoridades, expertos en seguridad y otras compañías. 

Aquí, los números relacionados a las 14 nuevas redes de comportamiento inauténtico coordinado que eliminamos en marzo: 

• Número total de cuentas de Facebook eliminadas: 1.167

• Número total de cuentas de Instagram eliminadas: 290

• Número total de Páginas eliminadas: 255

• Número total de Grupos eliminados: 34

Redes eliminadas en marzo de 2021: 

1. Albania: Eliminamos 128 cuentas, 41 Páginas, 21 Grupos y 146 cuentas de Instagram de Albania que se dirigían a audiencias en todo el mundo, incluyendo Irán. Detectamos esta red como parte de nuestra investigación interna y la vinculamos con MEK, un grupo de oposición militante exiliado de Irán, ahora basado en Albania. (Ver el análisis detallado de la actividad de esta red al final de este informe). 
2. Irán: Eliminamos 29 cuentas de Facebook, dos Páginas, un Grupo y 10 cuentas de Instagram de Irán enfocadas a Israel. Detectamos esta red como parte de nuestra investigación interna sobre sospechas de comportamiento inauténtico coordinado vinculado a una red que eliminamos en octubre de 2020.
3. España y El Salvador: Eliminamos 118 cuentas de Facebook, ocho Páginas y 10 cuentas de Instagram originadas en España y El Salvador y orientadas a El Salvador. Detectamos esta red tras revisar una investigación de FireEye, una empresa de ciberseguridad. Nuestra investigación encontró vínculos con empleados basados en España de la empresa de Relaciones Públicas italiana, Reputation Up, y con individuos con experiencia en Marketing digital trabajando a nombre del partido ARENA en El Salvador. 
4. España y Argentina: Eliminamos 390 cuentas de Facebook, seis Páginas y 17 cuentas de Instagram de España y Argentina que se enfocaban en Ecuador. Detectamos esta red tras revisar una investigación de FireEye sobre esta actividad en otras plataformas. Nuestra investigación encontró vínculos con Leanga Software, una empresa de gestión de redes sociales en España. 
5. Egipto: Eliminamos 17 cuentas de Facebook, seis Páginas y tres cuentas de Instagram de Egipto enfocadas en Etiopía, Sudán y Turquía. Detectamos esta red como parte de nuestra investigación interna vinculada a Bee Interactive, una compañía de Marketing en Egipto. 
6. Israel: Eliminamos 37 cuentas de Facebook, 20 Páginas y una cuenta de Instagram de Israel que se dirigían a audiencias locales en ese país. Detectamos esta red como parte de nuestra investigación interna y la vinculamos con ElBaladd, un sitio de noticias en Israel. 
7. Benín: Eliminamos 21 cuentas de Facebook, 16 Páginas y nueve cuentas de Instagram de Benín que se dirigían a audiencias locales en ese país. Detectamos esta red como parte de nuestra investigación interna sobre sospechas de comportamiento inauténtico coordinado en la región.
8. Comoros: Eliminamos 33 cuentas de Facebook, 12 Páginas y cinco cuentas de Instagram de Comoros orientadas a audiencias locales. Detectamos esta red como parte de una investigación interna y la vinculamos con Centre Médiatique Moderne des Comores (CMMC), una empresa de Comunicación en Comoros. 
9. Georgia: Eliminamos 23 cuentas de Facebook, 24 Páginas, 12 Grupos y 11 cuentas de Instagram del país de Georgia que se dirigían a audiencias locales en ese país. Detectamos esta red después de revisar reportes públicos de esta actividad del Laboratorio de Investigaciones Forenses Digitales del Atlantic Council. Nuestra investigación encontró vínculos con individuos relacionados con Marcha de Georgia, un partido político en Georgia y sus militantes. 
10. México: Eliminamos 71 cuentas de Facebook, 18 Páginas y siete cuentas de Instagram del Estado de Quintana Roo que se dirigían a audiencias locales en ese Estado. Detectamos esta red como parte de nuestra investigación interna sobre sospechas de comportamiento inauténtico coordinado en la región.
11. México: Eliminamos 56 cuentas de Facebook del Estado de Colima que se dirigían a audiencias locales en ese Estado. Detectamos esta red como parte de nuestra investigación interna sobre sospechas de comportamiento inauténtico coordinado en la región.
12. México: Eliminamos 54 cuentas de Facebook y 73 Páginas del Estado de Baja California que se dirigían a audiencias locales en ese Estado. Detectamos esta red como parte de nuestra investigación interna sobre sospechas de comportamiento inauténtico coordinado en la región.
13. México: Eliminamos 39 cuentas de Facebook, 15 Páginas y ocho cuentas de Instagram que se originaron en México y estaban orientadas a audiencias locales. Detectamos esta red como parte de nuestra investigación interna sobre sospechas de comportamiento inauténtico coordinado en la región. Detectamos esta actividad como parte de nuestra investigación interna y la vinculamos con Flow Agency, una empresa de Relaciones Públicas en México.
14. México: Eliminamos 151 cuentas de Facebook, 14 Páginas y 63 cuentas de Instagram del Estado de Nayarit enfocadas en audiencias locales de ese Estado. Detectamos esta red como parte de nuestra investigación interna sobre sospechas de comportamiento inauténtico coordinado en la región.

Conoce más sobre lo que es el Comportamiento Inauténtico Coordinado o CIB

Vemos CIB como esfuerzos coordinados para manipular el debate público y lograr un objetivo estratégico, en donde las cuentas falsas son parte central de la operación. Hay dos tipos de actividades que buscamos detener: 1) comportamiento inauténtico coordinado en el contexto de campañas locales y no gubernamentales, y 2) comportamiento inauténtico coordinado a nombre de un actor extranjero o gubernamental.

Comportamiento Inauténtico Coordinado (CIB)

Cuando detectamos campañas locales no gubernamentales que involucran grupos de cuentas o Páginas buscando engañar a la gente acerca de quiénes son y qué hacen usando cuentas falsas, removemos tanto las cuentas inauténticas como las auténticas, así como Páginas y Grupos involucrados directamente en esta actividad.

Interferencia extranjera o gubernamental (FGI)

Si detectamos alguna instancia de CIB operada a nombre de una entidad gubernamental o por un actor extranjero, aplicamos las medidas más extensas incluyendo la remoción de cualquier propiedad en nuestras plataformas relacionada con la operación misma y con las personas y organizaciones detrás de esta.

Medidas continuas

Monitoreamos los esfuerzos para restablecer la presencia en Facebook de redes que ya hemos removido previamente. Usando detección automática y manual, eliminamos constantemente cuentas y Páginas conectadas a redes que removimos en el pasado.

Ver el informe completo aquí para más información.