- Nuestro objetivo es proporcionar a las personas las aplicaciones de mensajería privada más seguras, ayudándoles a protegerse del abuso sin dejar de lado el cifrado.
- Compartimos una actualización sobre nuestro enfoque de seguridad en los mensajes directos de Messenger e Instagram para prevenir que ocurran abusos, brindarle a las personas controles para administrar su experiencia y que puedan responder de manera efectiva a posibles daños.
- La protección de los usuarios en nuestras aplicaciones requiere una iteración constante, por lo tanto revisamos nuestras políticas y actualizamos nuestras funciones con regularidad, en función también de las consultas que realizamos con expertos.
Nuestras aplicaciones de mensajería ayudan a miles de millones de personas a mantenerse conectadas con quienes más les importan y esperan que sus conversaciones sean privadas y seguras.
Queremos que los usuarios tengan un espacio privado en el que confíen, que sea seguro y esté protegido, y por eso estamos dedicando nuestro tiempo para construir e implementar cuidadosamente el cifrado de extremo a extremo (E2EE) de manera predeterminada en los mensajes directos de Messenger e Instagram. E2EE está diseñado para proteger los mensajes privados y que solo el remitente y el destinatario puedan acceder a ellos. Por lo tanto, si una persona envía fotos o datos bancarios, el cifrado hará que esa información confidencial se comparta de forma segura. También debemos ayudar a protegerlos del abuso, sin debilitar las protecciones que ya están integradas. Los usuarios deben confiar en la privacidad de sus datos, y también tener el control para evitar interacciones no deseadas y responder al abuso. La privacidad y la seguridad van de la mano, y nuestro objetivo es brindar las aplicaciones de mensajería privada más seguras.
La aplicación del E2EE predeterminado es compleja y está en proceso. En este contexto, compartimos una actualización sobre nuestro enfoque para ayudar a que las personas se sientan seguras cuando envían mensajes a través de Messenger o Instagram; estamos:
- Trabajando para prevenir que ocurran abusos en primer lugar.
- Brindando más controles para ayudar a los usuarios a mantenerse seguros.
- Respondiendo a los informes sobre posibles daños.
Prevenir abusos
Evitar que ocurran abusos es la mejor manera de proteger a las personas. En un entorno cifrado de extremo a extremo, utilizaremos un tipo de inteligencia artificial que no se basa en el análisis de los mensajes privados para detectar de forma proactiva las cuentas involucradas en patrones de comportamiento malignos. Por el contrario, la tecnología de aprendizaje automático analizará las partes no cifradas de las plataformas, como la información de la cuenta y las fotos cargadas en espacios públicos, para detectar actividades sospechosas y también abusos.
Si un adulto configura nuevos perfiles reiteradamente, e intenta conectarse con menores que no conoce, o envía mensajes a un gran número de desconocidos, podemos intervenir para tomar medidas, como por ejemplo prohibiendole que interactúe con menores. También podemos hacer que las cuentas de menores de edad sean privadas o «sólo para amigos». Esto ya se está implementando en Instagram y en Facebook.
También educamos a los jóvenes con consejos en la app para saber cómo evitar interacciones no deseadas. Nuestros avisos de seguridad en Messenger, que fueron efectivos, son banners con consejos para detectar actividades sospechosas y así tomar medidas para bloquear, denunciar o ignorar o restringir a alguien cuando hay señales sospechosas.
Estos consejos fueron desarrollados utilizando aprendizaje automático con el fin de ayudar a que las personas no caigan en estafas, puedan denunciar suplantaciones de identidad y, lo más importante, detecten a los adultos sospechosos que intentan conectarse con menores. Solo en el último mes, más de 100 millones de personas han visto anuncios de seguridad en Messenger. Esta característica funciona con la encriptación de extremo a extremo.
Brindar a las personas más control y opciones
Además de nuestros esfuerzos para prevenir abusos, le daremos a los usuarios más controles en su bandeja de entrada para poder brindar la diversidad de experiencias que la gente desea. Los creadores emergentes desean un mayor alcance, mientras que otras personas quieren mantenerse en círculos más cercanos. Por ejemplo, recientemente anunciamos Palabras Ocultas en Instagram para que las personas puedan filtrar en una carpeta oculta las palabras, frases y emojis ofensivos que no quieran ver. Esto también es parte de nuestro esfuerzo por adoptar un enfoque más amplio de seguridad. Filtramos una lista de palabras, hashtags y emojis potencialmente ofensivos de forma predeterminada, incluso si no infringen nuestras normas.
En los últimos años, mejoramos las opciones para revisar las solicitudes de chat y creamos controles que permiten a las personas elegir quién puede enviarles mensajes, cuáles se redirigen a su carpeta de solicitudes y quién no puede comunicarse con ellos en absoluto. Para ayudar a los usuarios a revisar estas solicitudes de la manera más segura posible, difuminamos imágenes y videos, bloqueamos enlaces y permitimos eliminar masivamente solicitudes de chat.
Las personas ya pueden bloquear a contactos no deseados en Messenger, por lo que ahora estamos presentando la posibilidad de bloquear usuarios en los mensajes directos de Instagram. Estamos facilitando el bloqueo de contactos desconocidos, una función que está activada de forma predeterminada para cualquier usuario que identifiquemos como un menor potencial.
Responder al daño que pueda ocurrir
Los reportes son una herramienta esencial para que las personas se mantengan seguras y nos ayuden a responder al abuso de manera efectiva. Estamos facilitando mucho más la denuncia de daños y, también, enseñándoles a los usuarios cómo detectar a los estafadores e imitadores al rediseñar nuestra función de informes para que sea más prominente en Messenger. Recientemente facilitamos las denuncias de contenidos que violan nuestras políticas de explotación infantil. Se puede seleccionar la opción «involucra a un niño» al informar sobre esos daños, lo que, además de otros factores, hace que se priorice el informe para su revisión y acción. Nuestro objetivo es fomentar estos reportes haciéndolos más accesibles, especialmente entre los jóvenes. Como resultado, estamos viendo un crecimiento anual cercano al 50% en reportes, y estamos tomando medidas para que los mensajes directos de Messenger e Instagram sean seguros.
Continuaremos aplicando nuestras Normas Comunitarias en mensajes directos de Messenger e Instagram con cifrado de extremo a extremo. La denuncia o reporte descifra partes de la conversación que antes estaban encriptadas y que no estaban disponibles para nosotros, por lo que podemos tomar medidas inmediatas si se detectan violaciones, ya sean estafas, intimidación, acoso o delitos violentos. En los casos de explotación infantil, continuaremos informando estas cuentas al NCMEC. Ya sea que la infracción se encuentre en o a través de partes no cifradas de nuestra plataforma, o mediante informes de usuarios, podemos compartir datos como la información de la cuenta, su actividad y el contenido de la bandeja de entrada en los mensajes informados por el usuario para cumplir con nuestros Términos de servicio y Normas de la comunidad.
Queremos educar a más personas para que accionen si ven contenido dañino y eviten compartirlo, incluso si lo hacen manifestando su indignación. Comenzamos a enviar alertas para informarles sobre el daño que puede causar compartir contenido de explotación infantil, y que por más de que sea expresándose en contra de ello, les advertimos que puede ir en contra de nuestras políticas y podrá tener consecuencias legales. Continuaremos compartiendo estas alertas en un entorno cifrado de extremo a extremo, además de informar este contenido al NCMEC. Por otro lado, lanzamos una campaña global «Denuncialo, no lo compartas» para recordar el daño que causa compartir cierto contenido y la importancia de denunciar e informar sobre el tema.
Incluso en el contexto de los sistemas cifrados, hay datos adicionales que podemos proporcionar a la justicia para que investiguen cuando se les solicite, como con quién se comunican los usuarios, dónde estaban cuando enviaron un mensaje y cuándo lo enviaron.
Desarrollando nuestro enfoque con nuevas tecnologías y aprendizaje
En nuestras aplicaciones, la prevención del abuso requiere una iteración constante, por lo que revisamos regularmente nuestras políticas y funciones, escuchamos los comentarios de los expertos en el tema y también a los usuarios que las usan para adelantarnos a las personas que pueden no tener las mejores intenciones.
Si bien la construcción de un espacio confiable requiere innovación, flexibilidad y creatividad continua, creemos que este enfoque de prevención, control y respuesta ofrece un marco para brindarles a las personas la protección que necesitan y merecen. La privacidad y la seguridad van de la mano, y estamos comprometidos a asegurarnos de que sean dos pilares de nuestras aplicaciones de mensajería.