Por Miranda Sissons, Directora de Políticas de Derechos Humanos, y Nicole Isaac, Directora de Respuesta Estratégica Internacional

• Trabajamos exhaustivamente en los países que experimentan o corren riesgo de experimentar conflictos o violencia, actuando rápidamente para remover contenido que viola nuestras políticas y tomando medidas proactivas.
• Desde el 2018 hemos construido equipos con experiencia en derechos humanos, discurso de odio, desinformación, polarización y otros temas. Muchas de estas personas han vivido o trabajado en países de alto riesgo y hablan idiomas relevantes para la tarea que hacen.
• Contamos con un proceso líder en la industria para revisar y priorizar cada seis meses los países con los mayores niveles de riesgo de daño offline y violencia. Cuando respondemos a una crisis, desplegamos apoyo específico para esos países en la medida que sea necesario
• La complejidad de estos asuntos significa que no hay soluciones estandarizadas. Nuestro trabajo nunca terminará y requiere de una vigilancia e inversiones constantes.

 

En las últimas dos décadas, Facebook ha empoderado a personas de todo el mundo con innumerables beneficios sociales y económicos. Permitió las conexiones sociales y la libertad de expresión a una escala enorme. Y eso puede ser especialmente importante para las personas que están en lugares que atraviesan conflictos y violencia.

Facebook apoya el derecho de las personas a expresarse libremente, independientemente de en qué parte del mundo estén. La libertad de expresión es un derecho humano fundacional y hace posible muchos otros derechos. Pero sabemos que las tecnologías que facilitan la libre expresión, información y opinión pueden ser abusadas para desparramar odio y desinformación – un desafío agravado en lugares donde existe un riesgo mayor de conflicto y violencia. Eso requiere desarrollar soluciones de corto plazo que podemos implementar ante una crisis y contar con una estrategia de largo plazo para mantener a las personas seguras. Este es nuestro abordaje.

Desde el 2018 tenemos equipos de productos, ingeniería, investigación y operaciones dedicados a entender mejor y responder a la forma en que los medios sociales son usados en países que atraviesan por conflictos. Muchas de estas personas tienen experiencia trabajando en conflictos, derechos humanos y asuntos humanitarios, además de en áreas como desinformación, discurso de odio y polarización. Muchos han vivido y trabajado en países que hemos identificado como de alto riesgo y hablan idiomas que son relevantes para hacer su trabajo. Son parte de un equipo de más de 40.000 personas que trabajan en seguridad, incluyendo un grupo global dedicado a la revisión de contenido, que opera en más de 20 lugares alrededor del mundo y trabaja en más de 70 idiomas.

En los últimos dos años hemos contratado más personas con experiencia en idiomas, países y asuntos específicos. Hemos incrementado, por ejemplo, el número de personas con experiencia de trabajo en Birmania y Etiopía, incluyendo extrabajadores de ayuda humanitaria, expertos en crisis y en políticas públicas. Hemos incorporado también a más personas capaces de revisar contenido en amárico, oromo, tigrinya, somalí y birmano. Aumentar el conocimiento en más idiomas ha sido un área central. Este año hemos contratado moderadores de contenido en 12 idiomas, incluyendo creole haitiano, kirundi, tswana y kinyarwanda.

 

Evaluando daños en un países en riesgo

Nuestros equipos han desarrollado un proceso líder en la industria para revisar y priorizar semestralmente qué países corren más riesgos de experimentar daños offline y violencia. Tomamos estas determinaciones de acuerdo a los Principios Rectores sobre las Empresas y Derechos Humanos de las Naciones Unidas y siguiendo una revisión de los siguientes factores:

• Condiciones de largo plazo y contexto histórico: Recurrimos a expertos regionales, datos de la plataforma y datos de más de 60 fuentes como Variedades de Democracia (V-Dem), Programa Uppsala de Datos de Conflicto, el Proyecto de Alerta Temprana del Museo del Memorial del Holocausto de Estados Unidos, el Proyecto de Datos sobre Conflictos Armados, y el Banco Mundial para evaluar las condiciones de largo plazo en el terreno. Este proceso puede incluir la participación cívica y derechos humanos, tensiones sociales y violencia, además de calidad de los ecosistemas de información relevantes.
• En qué medida el uso de nuestros productos podría potencialmente impactar un país: priorizamos una serie de factores, incluyendo dónde nuestras aplicaciones se han vuelto centrales para la sociedad, como países en los que una parte mayor de la población usa nuestros productos; dónde ha habido un aumento del daño offline; y dónde ha crecido la adopción de redes sociales.
• Acontecimientos en el terreno: Prestamos especial atención a eventos que puedan magnificar problemas sociales, como el riesgo local o ocurrencias de crímenes atroces, elecciones, episodios de violencia y los niveles de vacunación y transmisión del COVID-19.

 

Estrategias para ayudar a mantener seguras a las personas en países en riesgo

Usando este proceso de priorización desarrollamos estrategias de más largo plazo para estar preparados, responder y mitigar los impactos de eventos dañinos offline en los países que consideramos de mayor riesgo. Esto nos permite actuar rápidamente para remover contenido que viola nuestras políticas y tomar otras medidas de protección, al tiempo que protegemos la libertad de expresión y otros principios de derechos humanos. Ejemplos recientes incluyen nuestra preparación para elecciones en Birmania, Etiopía, India y México.

• Entendiendo e interactuando con contextos y comunidades locales: Sabemos que es esencial trabajar con personas y organizaciones en el terreno, que tienen información y experiencia de primera mano. En los últimos años hemos expandido esas relaciones con organizaciones de la sociedad civil para apoyar programas de educación en países específicos y soluciones de producto, además de asegurar que la aplicación de nuestras políticas toma en cuenta el contexto local. Hemos también expandido nuestra red global de verificadores independientes. Además, invertimos recursos significativos en más de 30 países con conflictos activos o agitación social. Junto con aliados de las Naciones Unidas y decenas de organizaciones no gubernamentales locales e internacionales hemos desarrollado programas, incluyendo iniciativas de educación digital como Soy Digital o programas para hacer más seguras las interacciones online, como la Búsqueda de Terreno Común en Africa central.
• Desarrollar y evaluar políticas para prohibir contenido y comportamiento dañino: Estamos constantemente evaluando y refinando nuestras políticas para responder a nuevos matices del discurso de odio, identificar grupos que corren mayor riesgo de violencia o perpetradores de atrocidades y aquellos que abusan de los derechos humanos, o el potencial de que rumores y desinformación contribuyan a daño real en el mundo offline, especialmente en países donde existen tensiones étnicas y religiosas.
• Mejorando nuestra tecnología y capacidad de tomar acción para ayudar a mantener segura a nuestra comunidad: Cuando el riesgo de daño es mayor podemos tomar acciones más agresivas. Por ejemplo, antes de elecciones o durante períodos de elevada agitación en India, Birmania y Etiopía redujimos significativamente la distribución de contenido sospechoso de violar nuestras políticas sobre discurso de odio o incitación a la violencia mientras era investigado por nuestros equipos. Y una vez confirmado que el contenido violaba nuestras políticas, era removido. También disminuimos significativamente la distribución de contenido publicado por cuentas que habían abordado repetidamente contenido no permitido por nuestras políticas – además de nuestra práctica habitual de remover las cuentas que violan frecuentemente nuestras Normas Comunitarias. Para proteger a las personas en Afganistán después que el Talibán tomó el poder, habilitamos una herramienta que les permitía bloquear sus perfiles para tener una capa extra de seguridad y protección de su información.

Durante una crisis, determinamos qué tipo de apoyo y equipos son necesarios en cada país o idioma, y por cuánto tiempo debemos mantenerlos activados. Eso puede incluir desplegar nuestro modelos de Centros de Operaciones de Integridad de Producto para monitorear y responder a amenazas en tiempo real. Puede incluir también garantizar que nuestros sistemas de integridad y recursos son robustos y están preparados en lugares donde existe mayor riesgo de agitación política, o construir recursos temporales de producto ante protestas o eventos culturalmente sensibles. Todo eso, al tiempo que nuestros equipos están listos para responder eventos inesperados, como responder al golpe en Birmania.

Sabemos que este trabajo enfrenta una serie de desafíos y que es un espacio complejo y a menudo hostil, y que no existe una solución estandarizada. Muchos de estos problemas offline han existido durante décadas, o más, y los medios han sido históricamente abusados por aquellos que quieren consolidarse o mantenerse en el poder, o incitar a la violencia. Pero sabemos también que nuestro trabajo para mantener segura a nuestra comunidad global nunca terminará y requiere de una constante vigilancia e inversiones. Eso es lo que hemos hecho durante años y es lo que vamos a continuar haciendo.