Queremos que los adolescentes tengan experiencias con IA apropiadas para su edad y ayudar a mantener informados a los padres si sus hijos están atravesando por un momento difícil. Hoy anunciamos protecciones adicionales para ayudar a garantizar que, cuando se trata de conversaciones relacionadas con el suicidio y la autolesión, responderemos correctamente. Esto significa reconocer los sentimientos de los adolescentes al mismo tiempo que los ayudamos a obtener el apoyo que necesitan, ya sea de un padre, una línea de ayuda profesional o a través de servicios de emergencia.

Notificamos a los padres si su hijo habla sobre suicidio o autolesión con Meta AI

Cuando un adolescente sugiere que puede estar pensando en el suicidio o la autolesión, Meta AI ya lo dirige a líneas de ayuda y lo alienta a comunicarse con un padre u otro adulto de confianza como un consejero. Ahora, también avisaremos proactivamente a los padres si la conversación de su hijo con Meta AI sugiere que puede estar en riesgo, con base en señales que desarrollamos conjuntamente con expertos. Asimismo, compartiremos recursos desarrollados por especialistas para ayudar a los padres a abordar estas conversaciones con los jóvenes.

Trabajamos con los padres y expertos para comprender qué tipo de conversaciones con la IA ameritan una alerta. Por ejemplo, aquellas en las que un adolescente hace una referencia clara a hacerse daño, incluso si esa referencia es sutil. También construimos un sistema de IA específico para identificar estas pláticas.

Entendemos lo angustiante que pueden ser estas alertas para un padre. Por eso, conforme mejoramos nuestra detección, las conversaciones identificadas como sensibles por nuestra IA serán revisadas manualmente antes de enviar una aviso. Si la intención de un adolescente es ambigua, alertaremos al padre. Si bien esto significa que a veces podemos notificar a los padres cuando puede no haber una causa real de preocupación, consideramos que este es el punto de partida correcto. Seguiremos abiertos a la retroalimentación para encontrar el balance adecuado. 

Estas alertas ya están activas para los padres que utilizan la supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá, y estarán disponibles para padres a nivel global para fin de año. Esta función está basada en las alertas que ya enviamos a los padres si su hijo o hija busca repetidamente términos de suicidio o autolesión en Instagram en un corto período de tiempo.

Avisaremos a los servicios de emergencia sobre posibles riesgos de suicidio

Estamos desarrollando la capacidad de contactar a los servicios de emergencia si la conversación de alguien, ya sea un adulto o un adolescente, con Meta AI sugiere que puede estar en riesgo inminente de quitarse la vida. Esto se basa en el trabajo que ya realizamos en Facebook e Instagram: cuando detectamos una publicación que sugiere un riesgo creíble de suicidio, alertamos a los servicios de emergencia. El año pasado realizamos más de 19,000 avisos en todo el mundo, ayudando a los servicios de emergencia a apoyar a personas que pueden estar en riesgo de suicidio. La función aún no está disponible para México. 

Trabajamos con expertos para mejorar las respuestas de Meta AI sobre suicidio y autolesión

Además de las consultas continuas que hacemos a nuestro Consejo de Expertos en Bienestar de IA, Grupo Asesor sobre Suicidio y Autolesión, y Asesores Juveniles, pedimos la retroalimentación de más de 75 profesionales clínicos de salud mental sobre cómo Meta AI responde a las consultas de los adolescentes sobre suicidio y autolesión. Estos profesionales clínicos, todos especializados en salud mental de adolescentes, revisaron las respuestas de IA a cientos de consultas y proporcionaron comentarios sobre si eran apropiadas para adolescentes, qué funcionaba bien y cómo podrían mejorarse.

Estamos utilizando esos comentarios para mejorar aún más la forma en que Meta AI interactúa con los adolescentes en estos temas sensibles, por ejemplo, asegurándonos de que Meta AI reconozca los sentimientos de los adolescentes al dirigirlos a recursos de apoyo, y no termine la conversación de manera demasiado abrupta.

«Me impresionó el rigor del proceso de revisión clínica de Meta. Examinó no solo las respuestas inmediatas a las preocupaciones sobre suicidio y autolesión, sino también el contexto conversacional más amplio, el seguimiento apropiado y los distintos niveles de riesgo que pueden existir incluso dentro de situaciones de alto riesgo. Este tipo de refinamiento basado en escenarios e informado por expertos es esencial para hacer que las experiencias de IA sean más seguras para los adolescentes”, – Dr. Ji-yeon Lee, Psicólogo licenciado (EE.UU.) y profesor de Psicología de la Orientación en la Universidad Hankuk de Estudios Extranjeros (Corea del Sur)

Lanzamiento de la configuración más estricta de Contenido limitado para conversaciones con Meta AI

Las Cuentas de adolescente tienen una configuración de contenido para mayores de 13 años de forma automática, que también se aplica a las conversaciones con Meta AI. En esta configuración predeterminada de 13+, Meta AI está diseñado para dar respuestas apropiadas para la edad y no cumplir con solicitudes sensibles. Por ejemplo, Meta AI está entrenado para no participar en conversaciones sexuales o románticas con adolescentes ni proporcionar recetas de bebidas alcohólicas, en su lugar, los dirige a temas más seguros.

En octubre, anunciamos Contenido limitado como una configuración de contenido más estricta para los padres que prefieren una experiencia más restrictiva para sus hijos en Instagram, y ahora esa configuración más estricta también se aplicará a las experiencias de IA. Esto significa que cuando los padres decidan incluir a sus adolescentes en la configuración de Contenido limitado en Instagram, también se limitarán aún más los tipos de conversaciones que ellos pueden tener con Meta AI. En esta configuración, Meta AI declinará responder a una gama más amplia de solicitudes, reduciendo aún más la posibilidad de conversaciones potencialmente inapropiadas.