Por Antigone Davis, Head Global de Seguridad
Cuando se comparten imágenes intimas de alguien sin su consentimiento, puede ser devastador. Para proteger a las víctimas, nuestra política desde hace mucho tiempo ha sido eliminar estas imágenes no consensuadas -a veces denominadas “pornografía de venganza- cuando son reportadas y hemos utilizado en los últimos años una técnica de revisión de fotos para evitar que vuelvan a ser compartidas. Para detectar este tipo de contenido de forma más rápida y, por lo tanto, poder brindar un apoyo más adecuado a las víctimas, estamos anunciando una nueva tecnología de detección y un centro de recursos en línea para ayudar a las personas a responder cuando ocurren este tipo de abusos.
Encontrar estas imágenes va más allá de detectar desnudos en nuestra plataforma. Al utilizar el aprendizaje automático y la inteligencia artificial, ahora podemos detectar proactivamente imágenes o videos de desnudos que se comparten sin consentimiento en Facebook o Instagram. Esto significa que podemos se capaces de encontrar este contenido antes de que alguien lo reporte, lo cual es relevante por dos razones: a menudo las víctimas temen las represalias, por lo que se muestran reticentes a informar el contenido por sí mismas, o desconocen que el contenido ha sido compartido. Un miembro especialmente capacitado de nuestro equipo de Normas Comunitarias revisará el contenido detectado por nuestra tecnología. Si la imagen o el video infringen nuestras normas, será eliminado, incluso, podremos llegar a inhabilitar la cuenta por compartir contenido íntimo sin permiso. Ofreceremos además un proceso de apelación si alguien cree que hemos cometido un error.
Esta nueva tecnología de detección se suma a nuestro programa piloto ejecutado junto con distintas organizaciones de defensa de víctimas. Este programa brinda a las personas una opción de emergencia para enviar una foto a Facebook de forma segura y proactiva. Posteriormente, creamos una huella digital de esa imagen y evitamos, en primer lugar, que se comparta en nuestra plataforma. Después de recibir comentarios positivos de las víctimas y de las organizaciones de apoyo, hemos decidido ampliar este programa piloto en los próximos meses para que más personas puedan beneficiarse de esta opción en casos de emergencia.
«Estamos encantados de que el programa pilotos se expanda para incorporar más organizaciones de seguridad de las mujeres en todo el mundo, ya que muchas de las solicitudes que recibimos provienen de víctimas que residen fuera de los Estados Unidos» – Holly Jacobs, Fundadora, Cyber Civil Rights Initiative (CCRI) Cyber Civil Rights Initiative (CCRI)
También queremos hacer más para ayudar a las personas que han sido víctimas de esta explotación cruel y destructiva. Para lograrlo, estamos lanzando «No sin mi consentimiento«, un centro de asistencia a las víctimas dentro nuestro Centro de seguridad, el cual hemos desarrollamos junto con expertos. En este centro, las víctimas pueden encontrar organizaciones y recursos de apoyo, así como también conocer sobre los pasos a seguir para eliminar el contenido de nuestra plataforma y evitar que se siga compartiendo, además de poder acceder a nuestro programa piloto. Además, haremos que sea más fácil e intuitivo para las víctimas informar cuando sus imágenes íntimas se hayan compartido en Facebook. Durante los próximos meses, crearemos un set de herramientas en apoyo a las víctimas para brindarles a las personas de todo el mundo más información que incluya apoyo cultural y local relevante. Haremos esto en colaboración con la Línea de ayuda para la pornografía de Venganza (Reino Unido), Cyber Civil Rights Initiative (Estados Unidos), Digital Rights Foundation (Pakistán), SaferNet (Brasil) y el profesor Lee Ji-yeon (Corea del Sur).
Nuestro trabajo de combate al abuso y el apoyo a las víctimas no sería posible sin la ayuda de expertos internacionales. Hoy, al margen de la Sexagésima Comisión de la Condición Jurídica y Social de la Mujer, realizaremos un evento con Dubravka Šimonović – la Relatora Especial de Estados Unidos sobre la violencia contra las mujeres- que reúne a algunos de estos defensores de las víctimas, representantes de la industria y organizaciones sin fines de lucro. Allí discutiremos cómo este abuso se manifiesta en todo el mundo; sus causas y consecuencias; los desafíos que se aproximan y cómo abordarlos, así como estrategias disuasivas. Esperamos ansiosos este evento y nos encontramos sumamente agradecidos con nuestros aliados. Continuaremos generando más vínculos para atender este tema.
Pueden leer más sobre la investigación detrás del anuncio de hoy aquí.