En las próximas semanas, Instagram empezará a notificar a los padres que usan la función de supervisión si su adolescente intenta repetidamente buscar términos relacionados con el suicidio o la autolesión en un corto período de tiempo. Esta es la protección más reciente para las Cuentas para adolescentes y las herramientas de supervisión parental de Instagram.
Entendemos lo sensibles que son estos temas y lo angustiante que puede ser para un padre o una madre recibir una alerta como esta. La gran mayoría de los adolescentes no intenta buscar contenido sobre suicidio y autolesión en Instagram y, cuando lo hacen, nuestra política es bloquear estas búsquedas y, en su lugar, dirigirlos a recursos y líneas de ayuda que puedan ofrecer apoyo. Estas alertas están diseñadas para asegurar que los padres estén al tanto en de que su adolescente intenta repetidamente buscar este tipo de contenido y para darles los recursos que necesitan para apoyarlo.
Cómo funcionarán las alertas
La próxima semana, los padres y los adolescentes que usan la supervisión recibirán una notificación de que Instagram empezará a enviar estas nuevas alertas a los padres, basadas en la actividad de búsqueda de sus adolescentes. Entre las búsquedas intentadas que activarían la alerta se incluyen frases que promueven el suicidio o la autolesión, frases que sugieren que un adolescente quiere hacerse daño y términos como “suicidio” o “autolesión”.
 |
 |
Las alertas se enviarán a los padres por correo electrónico, SMS o WhatsApp, según la información de contacto disponible, además de mediante una notificación dentro de la aplicación. Al seleccionar la notificación, se abrirá un mensaje a pantalla completa que explica que su adolescente ha intentado repetidamente buscar en Instagram términos asociados con el suicidio o la autolesión en un corto período de tiempo. Los padres también tendrán la opción de ver recursos de expertos, diseñados para ayudarles a abordar conversaciones potencialmente sensibles con su adolescente.
 |
 |
Estas alertas se implementarán la próxima semana para los padres que usan las herramientas de supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá, y estarán disponibles en otras regiones más adelante este año.
Lograr el equilibrio adecuado
Nuestro objetivo es empoderar a los padres para que intervengan si las búsquedas de su adolescente sugieren que podría necesitar apoyo. También queremos evitar enviar estas notificaciones innecesariamente, lo que, si ocurre con demasiada frecuencia, podría hacer que las notificaciones sean menos útiles en general.
“Cuando una persona joven busca información sobre suicidio o autolesión, empoderar a un padre o una madre para intervenir puede ser extremadamente importante. El hecho de que Meta ahora haya incorporado esto es un avance significativo y es el tipo de cambio que los expertos en seguridad infantil han estado impulsando.”
– Dr. Sameer Hinduja, codirector del Cyberbullying Research Center
Para lograr este equilibrio tan importante, analizamos el comportamiento de búsqueda en Instagram y consultamos con expertos de nuestro Grupo Asesor sobre Suicidio y Autolesión. Definimos un umbral que requiere algunas búsquedas en un corto período de tiempo, manteniéndonos del lado de la precaución. Si bien eso significa que en ocasiones podríamos notificar a los padres cuando quizá no exista un motivo real de preocupación, creemos —y los expertos coinciden— en que este es el punto de partida adecuado, y seguiremos monitoreando y escuchando comentarios para asegurarnos de estar en el lugar correcto.
“Es fundamental que los padres tengan la información que necesitan para apoyar a sus adolescentes. Este es un paso realmente importante que debería ayudar a dar a los padres mayor tranquilidad: si su adolescente está intentando activamente buscar este tipo de contenido dañino en Instagram, lo sabrán.”
– Vicki Shotbolt, CEO de Parent Zone
Sobre la base de protecciones existentes
Estas alertas se basan en nuestro trabajo existente para ayudar a proteger a los adolescentes del contenido potencialmente dañino en Instagram. Contamos con políticas estrictas contra el contenido que promueve o glorifica el suicidio o la autolesión y, aunque permitimos que las personas compartan contenido sobre sus propias luchas con estos temas, ocultamos este contenido a los adolescentes, incluso si lo comparte alguien a quien siguen.
Trabajamos para bloquear las búsquedas de términos claramente asociados con el suicidio y la autolesión, incluidos términos que infringen nuestras políticas sobre suicidio y autolesión. Esto significa que no mostramos resultados y, en su lugar, dirigimos a las personas a recursos y organizaciones locales que pueden ayudar. También dirigimos a las personas a recursos y líneas de ayuda cuando sus búsquedas no están claramente relacionadas con el suicidio y la autolesión, sino con la salud mental de forma más amplia. Seguiremos alertando a los servicios de emergencia cuando tengamos conocimiento de que alguien se encuentra en riesgo inminente de sufrir daño físico; acciones que han salvado vidas.
Estamos lanzando primero estas alertas en las búsquedas de Instagram, pero sabemos que los adolescentes recurren cada vez más a la IA en busca de apoyo. Si bien nuestra IA ya está entrenada para responder de forma segura a los adolescentes y ofrecer recursos sobre estos temas cuando corresponda, ahora estamos desarrollando alertas parentales similares para ciertas experiencias de IA. Estas notificarán a los padres si un adolescente intenta entablar ciertos tipos de conversaciones relacionadas con el suicidio o la autolesión con nuestra IA. Este es un trabajo importante y compartiremos más en los próximos meses.