Por Alex Schultz, VP de Analytics
Suelen preguntarnos mucho sobre la cantidad de cuentas falsas que reportamos en nuestro Informe de Cumplimiento de Normas Comunitarias (CSER) y en nuestro reporte anual ante la SEC (Comisión de Bolsa y Valores de Estados Unidos). Debido al aumento registrado en el último reporte en el volumen de cuentas falsas eliminadas, y con los datos de su prevalencia, pensamos que sería un buen momento para ofrecer más detalles sobre nuestra forma de medirlas. Estamos abriendo cada vez más temas a terceros actores, incluidos nuestros números de cuentas falsas al Grupo Asesor de Transparencia de Datos (DTAG). Sabemos que es importante contar con una verificación independiente de nuestra metodología y nuestro trabajo.
Creemos que las cuentas falsas están siendo medidas de forma correcta dentro de las limitaciones de nuestros sistemas de medición (que revelamos en nuestro informe CSER y en el reporte ante la SEC). Dicho esto, aunque informar sobre las cuentas falsas es un estándar de la industria (y algo ampliamente solicitado), puede no ser la mejor forma de ver las cosas. Por ejemplo:
- El número de cuentas falsas sobre las que actuamos está muy influenciado por intentos de ataques básicos que no representan un daño real o incluso siquiera un riesgo. (Si un actor malicioso poco sofisticado intenta montar un ataque y crear cien millones de cuentas falsas, que eliminamos tan pronto como son creadas, habremos tomado medidas contra cien millones de cuentas falsas. Pero como nadie estuvo expuesto a estas cuentas, por consiguiente, no hemos evitado ningún daño). Debido a que eliminamos estas cuentas de manera rápida, no son consideradas activas y no las contamos como usuarios activos mensuales.
- La prevalencia es una mejor manera de entender qué está pasando en la plataforma porque muestra el porcentaje de cuentas activas que probablemente sean falsas.
- Sin embargo, incluso en ese caso, el número de prevalencia para cuentas falsas incluye tanto cuentas abusivas como mal clasificadas (un ejemplo común es cuando las personas configuran la cuenta de su mascota como un perfil y no como una Página), mientras que únicamente las cuentas abusivas causan daño.
- Enfocamos la aplicación de nuestras normas sobre las cuentas abusivas, tanto para prevenir daños como para evitar tomar actuar contra cuentas genuinas.
Por lo tanto:
- Recomendamos centrarse en las métricas relacionadas a violaciones reales de contenido en el CSER.
- Estamos evaluando si existe alguna mejor manera de reportar las cuentas falsas a futuro.
En general, confiamos en que la mayoría de las personas y su actividad en Facebook son genuinas.
Cómo aplicamos y medimos la aplicación de las normas en las cuentas falsas
Cuando se trata de cuentas abusivas falsas, nuestra intención es simple: encontrar y eliminar tantas como podamos y quitar la menor cantidad de cuentas auténticas posibles. Hacemos esto de tres maneras e incluimos la información en nuestro Informe de Cumplimiento de Normas Comunitarias para proporcionar una imagen lo más completa posible de nuestros esfuerzos:
1. Bloquear la creación de cuentas. La mejor manera de combatir las cuentas falsas es detenerlas antes de que lleguen a Facebook. Es por esto que hemos desarrollado tecnología para identificar y bloquear cuentas incluso antes de que sean creadas. Nuestros sistemas buscan diferentes señales que les indican si las cuentas son creadas de forma masiva en una misma ubicación. Un ejemplo simple es bloqueando ciertas direcciones de IP para impedirles acceder a nuestros sistemas, y que por consiguiente, no puedan crear cuentas.
Lo que medimos. La información que incluimos en el reporte acerca de las cuentas falsas no incluye los intentos fallidos que bloqueamos en esta etapa. Esto se debe a que realmente no podemos saber el número de intentos que hemos impedido. Por ejemplo, podemos bloquear todo un rango de IP por el mero hecho de que ingresaran a nuestro sitio. Estos esfuerzos no están incluidos en el reporte, pero podemos calcular que todos los días prevenimos la creación de millones de cuentas falsas con este sistema.
2. Eliminar cuentas cuando inician sesión. Nuestros avanzados sistemas de detección también buscan posibles cuentas en el momento en el que el usuario inicia una sesión, al identificar señales de comportamiento malicioso. Estos sistemas usan una combinación de indicadores, como patrones de uso para correos electrónicos dudosos, acciones sospechosas, u otros previamente asociados a otras cuentas falsas que ya han sido eliminadas. La mayoría de las cuentas que eliminamos en la actualidad son bloqueadas minutos después de haber sido creadas y antes de que puedan causar algún daño.
Lo que medimos. Incluimos las cuentas que deshabilitamos en esta etapa dentro de la métrica para cuentas falsas. Los cambios en nuestros números de cuentas sobre las que actuamos son a menudo el resultado de ataques poco sofisticados, tal como sucedió durante los últimos dos trimestres. Estos son realmente fáciles de detectar y pueden representar la mayoría de los casos, pese a que conllevan un bajo riesgo. Por ejemplo, un spammer puede intentar crear rápidamente 1.000.000 cuentas desde la misma dirección IP. Nuestros sistemas detectarán esto y eliminarán estas cuentas falsas rápidamente. El número se añadirá a nuestro número de cuentas eliminadas, pero las cuentas fueron removidas tan rápido que nunca se consideraron activas y, por lo tanto, no contribuyeron a nuestra prevalencia estimada de cuentas falsas entre los usuarios activos mensuales declarados públicamente o incluso cualquier impresión de anuncios.
3. Eliminar cuentas que están en Facebook. Algunas cuentas podrían conseguir evitar estos dos mecanismos de defensa y llegar hasta la plataforma. A menudo, esto se debe a que, inicialmente, no muestran señales de ser falsas o de ser mal intencionadas, así que les damos el beneficio de la duda hasta que se demuestre lo contrario. Encontramos estas cuentas cuando nuestros sistemas identifican comportamientos irregulares o si son reportadas. Empleamos diversas señales para entender cómo fue creada esa cuenta y cómo está siendo usada de manera de determinar si tiene una alta probabilidad de ser falsa y removerlas.
Lo que medimos: Las cuentas que eliminamos en esta etapa también son contabilizadas en nuestras métrica de cuentas accionadas. Si estas cuentas están activas en la plataforma, también las consideraremos en nuestra métrica de prevalencia. La prevalencia sobre esta categoría mide cuántas cuentas falsas existen entre nuestros usuarios activos mensuales en un período de tiempo determinado. De las cuentas que eliminamos, tanto las que inician sesión como aquellas que ya están en la plataforma, más del 99% son detectadas de manera proactiva antes de ser reportadas. Proporcionamos esa información como nuestra métrica de tasa proactiva.
Consideramos que de todas las métricas mencionadas, la prevalencia de cuentas falsas es la más importante y en la que hay que centrarse.
Es importante lograr un equilibrio
Tenemos dos metas principales en lo que concierne a cuentas falsas. Prevenir abusos y dar poder a las personas de compartir a través cuentas auténticas. Tenemos que lograr el equilibrio adecuado entre estos objetivos.
Para evitar abusos, intentamos identificar las cuentas que parecen irregulares. Pero incluso aquí existe el riesgo de actuar sobre cuentas que no lo merecen. Cuando alguien se une a Facebook y envía muchas solicitudes de amistad podría parecer que es un spammer, cuando en realidad puede tratarse de una persona socialmente activa. Por ejemplo, usuarios en Brasil que están adoptando rápidamente las redes sociales o adolescentes que envían una gran cantidad de mensajes en un día. A veces alguien inicia sesión y se comporta de manera distinta porque es nueva en Internet y está en una etapa de descubrimiento, algo que se produce en algunos países en desarrollo o en adultos mayores que están aprendiendo a navegar en línea. Creemos que dar a las personas el poder de construir una comunidad es realmente importante y, por lo tanto, daremos tiempo a esas cuentas. Por lo tanto, debido a esta estrategia de centrar nuestra atención en cuentas abusivas (y no en los perfiles de mascotas mal clasificados) y de dar oportunidad a las nuevas cuentas para demostrar sus intenciones reales, siempre habrá un pequeño porcentaje de cuentas falsas en nuestros servicios.
Prevenir las cuentas falsas es tan solo una manera de detener el abuso y tenemos otras protecciones, una vez que el contenido ha sido generado y las personas están interactuando con estas cuentas. También las cuentas falsas es solo una de las maneras en que se producen abusos. Las cuentas auténticas también pueden ser usadas para cometer abusos. Por lo tanto, para evaluar nuestro trabajo de mantener a la comunidad segura en general, recomendamos utilizar el conjunto completo de métricas que ofrecemos en el informe CSER y enfocarse especialmente en las métricas de prevalencia. Nuestro trabajo en torno a cuentas falsas es solo un eje de estos.
Además de las preguntas que recibimos sobre cuentas falsas que cometen abusos, también recibimos preguntas sobre este asunto en general, dada su relación con el retorno de inversión que los anunciantes obtienen con nosotros. Queremos que las personas compartan en Facebook y sabemos que solo lo harán si se sienten seguros. También sabemos que los anunciantes solo continuarán pautando en Facebook si obtienen resultados, y continuamos brindándoles retornos, a pesar de la pequeña ocurrencia de cuentas falsas.
Confiamos en que la mayoría de las personas y la actividad en Facebook son auténticas. Nos interesa recibir información y que ser exigidos en el tratamiento de las cuentas falsas, pero estamos orgullosos de nuestro trabajo para balancear la protección de las personas y a los anunciantes que utilizan nuestros servicios, y al mismo tiempo, otorgar a todos el poder de construir una comunidad en Facebook.