La sextorsión financiera es un delito atroz. Llevamos años trabajando en estrecha colaboración con expertos, incluidos aquellos con experiencia en la lucha contra estos delitos, para comprender las tácticas que utilizan los estafadores para encontrar y extorsionar a las víctimas en línea, y así poder desarrollar formas eficaces de ayudar a detenerlos.
A continuación, compartimos una síntesis sobre nuestro trabajo más reciente para hacer frente a estos delitos. Esto incluye nuevas herramientas que estamos probando para ayudar a proteger a las personas de la sextorsión y otras formas de abuso de imágenes íntimas, y para dificultar al máximo que los estafadores encuentren potenciales objetivos en las aplicaciones de Meta y en internet. También estamos probando nuevas medidas para ayudar a los jóvenes a reconocer y protegerse de las estafas de sextorsión.
Estas actualizaciones se basan en el trabajo que venimos desarrollando desde hace ya muchos años para ayudar a proteger a los jóvenes de contactos no deseados o potencialmente dañinos. Por defecto, los adolescentes tienen una configuración de mensajes más estricta para que no puedan recibir mensajes de nadie con quien no estén conectados, mostramos avisos de seguridad a los adolescentes que ya están en contacto con cuentas potencialmente fraudulentas y ofrecemos una opción específica para denunciar los mensajes que amenazan con compartir imágenes privadas. También apoyamos al Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) en el desarrollo de Take It Down, una plataforma que permite a los jóvenes recuperar el control de sus imágenes íntimas y ayuda a evitar que se compartan en línea, quitando poder a los estafadores.
Introduciendo protección contra los desnudos en los mensajes directos
Aunque las personas utilizan abrumadoramente los mensajes para compartir lo que les gusta con sus amigos, familiares o creadores favoritos, los estafadores de la extorsión sexual también pueden utilizar los mensajes privados para compartir o pedir imágenes íntimas. Pronto empezaremos a probar nuestra nueva función de protección contra desnudos en Instagram, que difumina las imágenes detectadas que contienen desnudos y anima a las personas a pensárselo dos veces antes de enviar imágenes de desnudos. Esta función está diseñada no solo para proteger a las personas de ver desnudos no deseados en sus mensajes privados, sino también para protegerlos de los estafadores que pueden enviar imágenes de desnudos para engañar a las personas para que envíen sus propias imágenes a cambio.
La protección contra desnudos se activará por defecto para los adolescentes menores de 18 años en la mayoría de los países, y mostraremos una notificación a los adultos animándoles a activarla.
Cuando la protección contra desnudos está activada, las personas que envíen imágenes que contengan desnudos verán un mensaje que les recordará que sean cautelosos al enviar fotos sensibles y que pueden anular el envío de estas fotos si han cambiado de opinión. Cualquiera que intente reenviar una imagen de desnudo que haya recibido verá un mensaje animándole a reconsiderarlo.
Cuando alguien reciba una imagen que contenga desnudos, se difuminará automáticamente bajo una pantalla de advertencia, lo que significa que el destinatario no se enfrenta a una imagen de desnudos y puede elegir si la ve o no. También se mostrará un mensaje animando a las personas a no sentirse presionadas para responder, con la opción de bloquear al remitente y denunciar el chat.
Al enviar o recibir estas imágenes, los usuarios recibirán consejos de seguridad, elaborados con la ayuda de expertos, sobre los posibles riesgos que conlleva. Estos consejos incluyen recordatorios de que las personas pueden hacer capturas de pantalla o reenviar imágenes sin tu conocimiento, que tu relación con la persona puede cambiar en el futuro y que debes revisar los perfiles cuidadosamente en caso de que no sean quienes dicen ser. Estos consejos de seguridad también enlazan con una serie de recursos, como el Centro de Seguridad de Meta, las líneas de ayuda, StopNCII.org para mayores de 18 años y Take It Down para menores de 18 años.
La protección contra desnudos utiliza el aprendizaje automático en el dispositivo para analizar si una imagen enviada en un mensaje en Instagram contiene desnudos. Como las imágenes se analizan en el propio dispositivo, la protección contra desnudos funcionará en chats cifrados de extremo a extremo, en los que Meta no tendrá acceso a esas imágenes, a menos que alguien decida reportarlas.
«Como educador, padre e investigador del comportamiento de los adolescentes en Internet, celebro la nueva función de Meta que gestiona el intercambio de contenido de desnudos personales de forma reflexiva, matizada y apropiada. Reduce la exposición no deseada a imágenes potencialmente traumáticas, introduce suavemente la disonancia cognitiva a aquellos que pueden estar abiertos a compartir desnudos, y educa a las personas sobre los posibles inconvenientes involucrados. Todo ello debería contribuir a disminuir la incidencia de la sextorsión y los daños relacionados, ayudando a mantener a los jóvenes seguros en la Red.» Dr. Sameer Hinduja, codirector del Cyberbullying Research Center y profesor asociado del Berkman Klein Center de la Universidad de Harvard.
Previniendo que posibles estafadores se pongan en contacto con los adolescentes
Tomamos medidas severas cuando tenemos conocimiento de personas que se dedican a la sextorsión: eliminamos su cuenta, tomamos medidas para evitar que creen otras nuevas y, en su caso, las denunciamos al NCMEC y a las fuerzas de seguridad. Nuestros equipos de expertos también trabajan para investigar y desarticular las redes de estos delincuentes, inutilizar sus cuentas y denunciarlas al NCMEC y a las fuerzas de seguridad, incluidas varias redes sólo en el último año.
Ahora, también estamos desarrollando tecnología para ayudar a identificar las cuentas que podrían estar participando en estafas de sextorsión, basándonos en una serie de señales que podrían indicar un comportamiento de sextorsión. Aunque estas señales no son necesariamente pruebas de que una cuenta haya infringido nuestras normas, estamos tomando medidas preventivas para evitar que estas cuentas encuentren cuentas de adolescentes e interactúen con ellas. Esto se suma al trabajo que ya realizamos para evitar que otras cuentas potencialmente sospechosas encuentren a adolescentes e interactúen con ellos.
Una forma de conseguirlo es dificultar aún más que las posibles cuentas de extorsión sexual envíen mensajes o interactúen con otras personas. Ahora, todas las solicitudes de mensajes que intenten enviar las cuentas de extorsión sexual irán directamente a la carpeta de solicitudes ocultas del destinatario, lo que significa que no se les notificará el mensaje y que nunca tendrán que verlo. Para aquellos que ya están chateando con posibles cuentas de estafa o sextorsión, mostramos avisos de seguridad animándoles a denunciar cualquier amenaza de compartir sus imágenes privadas, y recordándoles que pueden decir que no a cualquier cosa que les haga sentir incómodos.
En el caso de los adolescentes, vamos aún más lejos. Ya impedimos que los adultos inicien conversaciones por mensajes directos con adolescentes que no les siguen, y en enero anunciamos mensajes más estrictos para los adolescentes, lo que significa que sólo pueden recibir mensajes de personas con las que ya están conectados, independientemente de la edad del remitente. Ahora, no mostraremos la opción «Mensaje» del perfil de un adolescente a posibles cuentas de extorsión sexual, aunque ya estén conectadas. También estamos probando ocultar a los adolescentes de estas cuentas en las listas de seguidores, seguidos y me gusta de las personas, y a dificultar que encuentren cuentas de adolescentes en los resultados de búsqueda.
Nuevos recursos para las personas que puedan haber sido abordadas por estafadores
Estamos probando nuevos mensajes pop up para las personas que hayan interactuado con una cuenta que hayamos eliminado por extorsión sexual. El mensaje les dirigirá a nuestros recursos respaldados por expertos, incluido nuestro Stop Sextortion Hub, líneas de ayuda, la opción de contactar con un amigo, StopNCII.org para mayores de 18 años y Take It Down para menores de 18 años.
También estamos incorporando nuevas líneas de ayuda para la seguridad infantil de todo el mundo a nuestros flujos de denuncia dentro de la aplicación. De este modo, cuando los adolescentes nos informen de problemas relevantes (como desnudos, amenazas de compartir imágenes privadas, explotación sexual o incitación a la prostitución), les dirigiremos a las líneas de ayuda locales donde estén disponibles.
Lucha contra las estafas de sextorsión en Internet
En noviembre, anunciamos que éramos miembros fundadores de Lantern, un programa dirigido por la Tech Coalition que permite a las empresas tecnológicas compartir señales sobre cuentas y comportamientos que infringen sus políticas de seguridad infantil.
Esta cooperación del sector es fundamental, porque los depredadores no se limitan a una sola plataforma, y lo mismo ocurre con los estafadores que practican la sextorsión. Estos delincuentes atacan a sus víctimas a través de las distintas aplicaciones que utilizan, a menudo trasladando sus conversaciones de una aplicación a otra. Por eso hemos empezado a compartir más señales específicas de la extorsión sexual con Lantern, para aprovechar esta importante cooperación e intentar detener las estafas de extorsión sexual no solo en plataformas individuales, sino en todo Internet.