Facebook이 인공지능 기술을 이용해 자살 예방 및 대응 역량을 강화하는 업데이트를 도입했습니다. 이는 Facebook 내의 자살 징후를 더욱 효율적으로 감지하고, 빠르게 대응하기 위함입니다.
이번 업데이트는 인공지능 ‘패턴인식’ 기술에 기반하고 있습니다. Facebook 게시글과 라이브 방송의 텍스트를 분석해 자살 신호를 자동으로 감지하는 것이 가능 합니다. 예를 들어, 게시글이나 댓글에 “괜찮아?”, “내가 도움 줄 수 있는 부분이 있을까?” 같은 표현이 있다면 자살 징후가 높은 글로 분류하고 담당자에게 알리는 것입니다. 기존에 사람이 직접 했던 자살 암시 콘텐츠 신고 접수에 인공지능 기술을 더해 더욱 빠르고 효과적으로 자살을 막을 수 있습니다.
콘텐츠를 검토하는 직원들의 신속한 대응에도 인공지능이 사용된다. 신고가 접수된 콘텐츠에 우선순위를 매기고 자살 신호로 판단되는 부분을 선별해 담당자에게 알리게 됩니다. 접수 내용을 파악하고, 유관기관에 신고해 조치를 취할 수 있도록 하는데 드는 시간을 단축할 수 있습니다.
Facebook은 10년이 넘는 기간 동안 자살 예방에 공을 들여왔습니다. 다양한 전문가들의 의견을 수렴해 만든 ‘자살 예방 도구’가 그 대표적인 예 입니다. ‘자살 예방 도구’는 지인의 게시물이 자살을 암시하는 내용을 담고 있을 때, 친구들이 해당 내용을 직접 신고해 당사자가 적절한 도움을 받을 수 있도록 돕습니다. 신고가 접수되면 24시간 전담팀이 검토해 자살 징후를 판단하고 당사자의 화면에 자살을 피할 수 있는 다양한 방법을 전달하며, 경우에 따라서는 유관기관에 직접 연락을 취하기도 합니다.
국내에서는 중앙자살예방센터, 보건복지부 보건복지콜센터, 정신건강증진센터 정신건강위기 상담전화 등의 여러 단체와의 협력을 통해 더욱 효과적으로 자살을 막을 수 있는 다양한 방법을 지속적으로 논의하고 있습니다.
Facebook의 ‘자살 예방 도구’ 대한 더욱 자세한 내용은 Facebook안전 센터 온라인 행복 지원 사이트(https://www.facebook.com/safety/wellbeing)에서 살펴볼 수 있습니다.