Puntos clave:
- Instagram comenzará a enviar notificaciones a los padres si sus hijos intentan buscar repetidamente términos relacionados con el suicidio o las autolesiones en un corto espacio de tiempo.
- Estas alertas están diseñadas para proporcionar a los padres la información que necesitan para ayudar a sus hijos e incluyen recursos especializados para ayudar a los padres a abordar estas conversaciones delicadas.
- Meta también está desarrollando notificaciones similares para los padres sobre las conversaciones de los adolescentes con la IA, que estarán disponibles más adelante este año.
En las próximas semanas, Instagram comenzará a notificar a los padres que utilizan la supervisión parental si sus hijos intentan buscar repetidamente términos relacionados con el suicidio o las autolesiones en un corto espacio de tiempo. Se trata de la última medida de protección para las Cuentas de Adolescente y las funciones de supervisión parental de Instagram.
Sabemos lo sensibles que son estos temas y lo angustiante que puede ser para un padre recibir una alerta como esta. La gran mayoría de los adolescentes no intenta buscar contenido relacionado con el suicidio o las autolesiones en Instagram y, cuando lo hacen, nuestra política es bloquear estas búsquedas y redirigirlos a recursos y líneas de ayuda que puedan ofrecerles apoyo. Estas alertas están diseñadas para garantizar que los padres estén informados si su hijo adolescente intenta repetidamente buscar este tipo de contenido y para proporcionarles los recursos que necesitan para apoyarlo.
Cómo funcionarán las alertas
La próxima semana, los padres y adolescentes inscritos en la función de supervisión recibirán una notificación informándoles que Instagram va a empezar a enviar estas nuevas alertas a los padres, en función de la actividad de búsqueda de sus hijos. Las búsquedas que podrían activar una de estas alerta incluyen frases que promuevan el suicidio o las autolesiones, frases que sugieran que el adolescente quiere hacerse daño y términos como “suicidio” o “autolesiones”.
Las alertas se enviarán a los padres por correo electrónico, mensaje de texto o WhatsApp, dependiendo de la información de contacto disponible, además de mediante una notificación en la aplicación. Al pulsar sobre esta notificación, se abrirá un mensaje a pantalla completa en el que se explicará que su hijo ha intentado repetidamente buscar en Instagram términos relacionados con el suicidio o las autolesiones en un breve periodo de tiempo. Los padres también tendrán la opción de consultar recursos especializados diseñados para ayudarles a abordar conversaciones potencialmente delicadas.
Estas alertas se enviarán a los padres que utilicen las herramientas de supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá la semana que viene, y estarán disponibles en otras regiones a finales de este año.
Encontrar el equilibrio adecuado
Nuestro objetivo es dar a los padres las herramientas necesarias para averiguar si las búsquedas de su hijo sugieren que podría necesitar apoyo. A su vez, queremos evitar enviar estas notificaciones de forma innecesaria, ya que hacerlo con demasiada frecuencia podría reducir su utilidad.
«Cuando un joven busca información sobre el suicidio o las autolesiones, empoderar a los padres para que intervengan puede ser extremadamente importante. El hecho de que Meta haya incorporado ahora esta funcionalidad supone un avance significativo y es el tipo de cambio que los expertos en seguridad infantil han estado promoviendo».
– Dr Sameer Hinduja, Co-Director of the Cyberbullying Research Center
Para lograr este importante equilibrio, hemos analizado el comportamiento de búsqueda en Instagram y consultado con expertos de nuestro Grupo Asesor sobre Suicidio y Autolesiones. Hemos elegido un umbral que requiere varias búsquedas en un corto período de tiempo, manteniendo al mismo tiempo un enfoque prudente. Si bien esto significa que en ocasiones podríamos notificar a los padres cuando no exista un motivo real de preocupación, creemos —y los expertos coinciden— que este es el punto de partida adecuado. Seguiremos revisando la situación y escuchando las opiniones para asegurarnos de que estamos actuando de la manera correcta.
«Es fundamental que los padres dispongan de la información necesaria para apoyar a sus hijos adolescentes. Se trata de un paso muy importante que debería ayudarles a tener mayor tranquilidad: si sus hijos adolescentes buscan activamente este tipo de contenido perjudicial en Instagram, ellos lo sabrán».
– Vicki Shotbolt, CEO Parent Zone
Aprovechar las protecciones existentes
Estas alertas se suman a nuestro trabajo actual para ayudar a proteger a los adolescentes de contenidos potencialmente dañinos en Instagram. Tenemos políticas estrictas contra los contenidos que promueven o glorifican el suicidio o las autolesiones y, aunque permitimos que las personas compartan contenidos sobre sus propias luchas con estos problemas, ocultamos estos contenidos a los adolescentes, incluso si los comparte alguien a quien siguen.
Trabajamos para bloquear las búsquedas de términos claramente asociados con el suicidio y las autolesiones, incluidos los términos que infringen nuestras políticas sobre suicidio y autolesiones. Esto significa que no mostramos ningún resultado y, en su lugar, dirigimos a las personas a recursos y organizaciones locales que pueden ayudarles. También dirigimos a las personas a recursos y líneas de ayuda cuando sus búsquedas no están claramente relacionadas con el suicidio y las autolesiones, sino con la salud mental en general. Seguiremos alertando a los servicios de emergencia cuando tengamos conocimiento de que alguien enfrenta un riesgo inminente de daño físico, ya que son medidas que han salvado vidas.
Estamos lanzando estas alertas primero en las búsquedas de Instagram, pero sabemos que cada vez más adolescentes recurren a la IA en busca de apoyo. Aunque nuestra IA ya está entrenada para responder de manera segura a los adolescentes y ofrecer recursos adecuados sobre estos temas cuando corresponde, ahora estamos desarrollando alertas parentales similares para determinadas experiencias con IA. Estas notificarán a los padres si un adolescente intenta entablar ciertos tipos de conversaciones relacionadas con el suicidio o las autolesiones con nuestra IA. Se trata de un trabajo importante y compartiremos más información al respecto en los próximos meses.