Por Guy Rosen, Vicepresidente de Product Management
Cuando una persona expresa pensamientos suicidas, es importante brindarle ayuda tan pronto sea posible.
Facebook es el lugar en donde amigos y familiares ya están en contacto, y tenemos la posibilidad de conectar a las personas que están pasando por un mal momento con aquellos que pueden contenerlos. Esto es parte de nuestro trabajo constante para construir una comunidad segura dentro y fuera de Facebook.
Hoy, compartimos actualizaciones sobre el trabajo que estamos llevando a cabo para ayudar a las personas que expresan pensamientos suicidas, incluyendo:
- Usar tecnología para detectar señales en publicaciones o videos Live en donde una persona podría estar expresando pensamientos suicidas, y para poder responder a los reportes recibidos con mayor celeridad
- Una mejor identificación de los equipos de primera respuesta
- La asignación de más revisores de nuestro equipo de Community Operations para la revisión de reportes de suicidio o auto lesión
Durante el mes pasado trabajamos con equipos de primera respuesta en más de 100 chequeos de bienestar basados en reportes que recibimos a través de nuestros esfuerzos de detección proactiva. Esto se suma a los reportes que recibimos de la comunidad de Facebook. También usamos el reconocimiento de patrones para ayudar a acelerar la respuesta a los reportes más preocupantes. Y hemos visto que esos reportes que requieren una atención inmediata son escalados a las autoridades locales dos veces más rápido que otros reportes. Estamos comprometidos a seguir invirtiendo en tecnología de detección de patrones para servir mejor a nuestra comunidad.
Expandiendo el uso del reconocimiento de patrones
- Estamos habilitando el uso de inteligencia artificial también fuera de Estados Unidos para ayudar a identificar cuando una persona podría estar expresando pensamientos suicidas, incluyendo en Facebook Live.
- Este abordaje utiliza tecnología de reconocimiento de patrones para ayudar a identificar publicaciones y transmisiones Live que podrían estar expresando pensamientos de suicidio. Continuamos trabajando en esta tecnología para mejorar su precisión y evitar falsos positivos antes de que los reportes lleguen a nuestro equipo de auditores.
- Utilizamos señales como el texto en las publicaciones y comentarios (por ejemplo, comentarios como “¿Estás bien? y “¿Puedo ayudarte?” son fuertes indicadores). En ciertas instancias, hemos descubierto que la tecnología identificó videos que podrían no haber sido reportados.
Mejorando la forma de identificar a los equipos de primera respuesta y asignando más auditores
- Nuestro equipo de Community Operations incluye a miles de personas en todo el mundo que analizan reportes de contenido en Facebook. Este equipo incluye una división de especialistas entrenados específicamente en suicidio y auto lesión.
- También utilizamos inteligencia artificial para priorizar el orden en el cual nuestro equipo analiza las publicaciones, videos y transmisiones Live reportadas. Esto permite asignar los recursos adecuados a las personas que están pasando por un momento difícil y, cuando la situación lo requiera, alertar a los equipos de primera respuesta con mayor rapidez.
- El contexto es fundamental para nuestros equipos de revisores y hemos desarrollado formas de mejorar nuestras herramientas para que las personas reciban ayuda tan pronto sea posible. Por ejemplo, nuestros revisores pueden identificar rápidamente los momentos de un video en el que las personas reciben más comentarios, reacciones y reportes. Estas herramientas ayudan a los revisores a entender si alguien necesita ayuda.
- Además, utilizamos automatización para que nuestro equipo pueda acceder más rápidamente a los datos de contacto de los equipos de primera respuesta más apropiados.
Nuestro compromiso con la prevención del suicidio
Si alguien publica algo en Facebook que te genera preocupación por su bienestar, puedes contactarlos o reportar su publicación. Contamos con equipos que trabajan 24 horas por día, siete días por semana para analizar los reportes y priorizar aquellos de mayor seriedad. Podemos ofrecer a las personas con diferentes opciones para recibir apoyo, como contactar a un amigo e incluso ofrecer modelos de texto para hacerlo. También sugerimos contactar a una línea de ayuda y prevemos otros consejos y recursos que las personas pueden implementar de inmediato.
Facebook ha estado trabajando en herramientas de prevención del suicidio por más de 10 años. Nuestro enfoque fue desarrollado en colaboración con organizaciones de salud mental como Save.org, National Prevention Lifeline y Forefront Suicide Prevention, y con el aporte de personas que han sobrevivido a intentos de suicidio o han tenido pensamientos suicidas. Estas herramientas están disponibles a nivel global -con la ayuda de 80 socios locales- en todos los idiomas que las personas usan en Facebook.
Con la ayuda de nuestros socios y de los amigos y familiares de las personas en Facebook, esperamos seguir brindando apoyo a aquellos que lo necesitan.