En octubre pasado, actualizamos las Cuentas para Adolescentes de Instagram en Estados Unidos, el Reino Unido, Australia y Canadá, colocando automáticamente a los adolescentes en una experiencia apropiada a su edad, que se inspiró en los criterios de clasificación de películas y contó con contribuciones de los padres. Desde su lanzamiento, nueve de cada diez adolescentes han permanecido en esta configuración. También presentamos una función más estricta, llamada Contenido Limitado, para aquellos padres que prefieren que sus hijos tengan una experiencia aún más restrictiva.
A medida que expandimos las nuevas configuraciones de contenido a más países y aplicaciones, también invitamos a padres alrededor del mundo a calificar contenido de Facebook e Instagram y decirnos si creen que es apropiado para adolescentes. Recibimos respuestas de cientos de miles de padres que evaluaron más de 15 millones de piezas de contenido. En nuestra encuesta más reciente, realizada a finales de abril, donde padres en Estados Unidos, Reino Unido, Australia y Canadá revisaron contenido de Facebook que había sido recomendado a adolescentes en sus respectivos países, menos de 2% de las publicaciones fueron consideradas inapropiadas.
Reducimos la exposición recurrente a ciertos tipos de contenido
También seguimos explorando otras formas de ayudar a que los adolescentes tengan experiencias positivas y apropiadas para su edad en nuestras aplicaciones. Entendemos que algunos contenidos, como publicaciones sobre nutrición, levantamiento de pesas, o manejo de la ansiedad, pueden ser útiles, pero es necesario equilibrarlos con otro tipo de publicaciones y evitar mostrarlos en reiteradamente. Por eso, estamos probando formas de limitar que los adolescentes vean demasiadas publicaciones de este tipo de una sola vez, incluyendo en superficies como Explorar, Feed y Reels.
Una evaluación externa para probar nuestras configuraciones de contenido para las Cuentas de Adolescentes
Para ayudar a garantizar que nuestras nuevas configuraciones de contenido en las Cuentas para adolescentes funcionen apropiadamente, pedimos a la organización Alice (anteriormente ActiveFence) que las evaluara mediante pruebas de estrés. Alice está integrada por expertos en seguridad en línea con amplia experiencia en este tipo de pruebas diseñadas para mantener a las personas seguras.
Los expertos de Alice crearon cuentas de prueba en Instagram y en un competidor, y compararon distintos temas para públicos más maduros que hallaron en las configuraciones de Cuentas para Adolescentes con los que aparecen en películas clasificadas para 13 años o más. Esto proporcionó una referencia útil para entender lo que estos jóvenes podrían ver en las Cuentas para adolescentes de Instagram en relación con otros lugares. El análisis de Alice encontró que:
- Las Cuentas para adolescentes de Instagram en la configuración predeterminada para 13+ vieron 68% menos de contenido para audiencias más maduras que en la experiencia para adolescentes del competidor;
- Las Cuentas para adolescentes de Instagram en la configuración más estricta de Contenido Limitado mostraron una capa adicional de protección, mostrando 96% menos de contenido para audiencias más maduras que en la experiencia para adolescentes del competidor;
- En los casos en que las Cuentas para adolescentes de Instagram mostraron contenido para audiencias más maduras, este fue menos intenso que el que apareció en el competidor y también que el de películas para mayores de 13 años.
- Instagram bloqueó ese tipo de contenido con mayor frecuencia que su competidor;
- Las siguientes funcionalidades operaron según lo descrito: las Cuentas para adolescentes de Instagram están configuradas automáticamente para contenido 13+; los adolescentes no pueden seleccionar la configuración «Más Contenido» sin el permiso de alguno de sus padres. Los adolescentes no pueden ver ni publicar comentarios cuando están en la configuración de Contenido Limitado.
El análisis de Alice identificó dos áreas de mejora, que abordamos rápidamente.
- Las Cuentas para adolescentes de Instagram ya contaban con medidas para prevenir la interacción con otras cuentas que comparten regularmente contenido inapropiado para su edad. Cuando la evaluación de Alice identificó algunas excepciones, actualizamos de inmediato nuestras señales de detección para mejorar su precisión. Como señala el informe de Alice: «estas medidas de mejora fueron posteriormente reevaluadas y fueron efectivas antes de ser publicadas».
- En los pocos casos en que Alice encontró contenido considerado para audiencias más maduras, en su mayoría involucraba «acrobacias riesgosas» o «desafíos virales». Tras la revisión, descubrimos que el «car surfing» —una tendencia que se ha popularizado recientemente— aún no estaba cubierta por nuestras políticas, a diferencia del «subway surfing», que ya era restringido. Actualizamos rápidamente nuestras políticas y limitamos ese contenido para adolescentes.
Estos resultados son alentadores. Seguiremos realizando pruebas de estrés rigurosas a nuestros sistemas para continuar mejorando. Para detalles sobre los resultados de Alice y la metodología usada, clic aquí.
*Existen muchas diferencias entre las redes sociales y las películas. No trabajamos con la Motion Picture Association (MPA) al actualizar nuestras configuraciones de contenido, y ellos no están clasificando ningún contenido en Instagram, ni están respaldando o aprobando nuestras configuraciones de contenido de ninguna manera. Más bien, nos inspiramos en las directrices públicas de la MPA, que ya son familiares para los padres, así como en los comentarios de los padres. Nuestros sistemas de moderación de contenido no son los mismos que una junta de clasificación de películas, por lo que la experiencia puede no ser exactamente la misma.