Facebook 게시물을 검색하여 자살 암시를 발견하는 AI 서비스 시작

미국 Facebook은 11월 27일(현지 시간) 자살을 암시하는 게시물이나 라이브 동영상(이하 게시물)를 AI (인공 지능)를 사용하여 검출하고 전문 대응팀에 보고하는 기능을 유럽 연합 (EU)을 제외한 세계 출시했다고 발표했다. 

 

Facebook은 2011년부터 자살 방지 대책의 일환으로 문제가 있는 게시물을 모니터링하여 필요한 경우 사용자에서 조언의 메시지를 전달하는 전문 대응팀(Community Operations)을 운영하고 있다.

 

자살 위험 사용자의 계시물의 사용자에게 표시되는 메시지

 

이전에는 페친과 같은 제삼자의 신고를 기반으로 활동했으나 앞으로는 AI의 패턴 인식 기술을 활요해서 자살을 암시하는 게시물을 검색하고 Community Operations팀에 자동으로 보고한다고 한다. 그러면 어느 때보 다 신속하게 자살의 위험이있는 사용자에게 연락을 취할 수 있게 된다고 한다. 미국에서는 지난 1개월동안 AI를 테스트하고 그 사이에 100건 이상의 게시물이 전문팀에 보고되는 실적을 보였다. 

 

AI가 확인하는 게시물 자체뿐만 아니라 댓글도 그 대상된다. 예를 들어 라이브 동영상 댓글에 "괜찮아?" "도움이 필요하십니까?"등의 댓글이 붙으면 AI가 그것을 감지하고 보고한다. 

 

또 Facebook은 AI를 지원 대상의 우선 순위 결정에도 사용한다. 문제 신고 된 게시물을 패턴 인식으로 더 자세히 분석하여 정말 시급한 게시물의 리뷰를 우선하도록 Community Operations팀에 통보한다고 한다. 

 

또한 팀 구성원이 개별 게시물의 어느 부분이 문제인지 신속하게 확인할 수 있도록 예를 들어 동영상의 경우 댓글이 집중하고있는 부분을 표시한다. 

 

Community Operations팀은 연내에 7500 명 이상이 될 전망이고 이 인원으로 전세계에서 올라오는 보고에 대처할 계획이다. Facebook은 AI 기술의 정확성 향상과 오탐 방지를 위해  더 많은 투자를 할 계획이라고 한다.