logo

English

Facebook 게시물을 검색하여 자살 암시를 발견하는 AI 서비스 시작

by 엉뚱도마뱀 posted Nov 29, 2017
?

Shortcut

PrevPrev Article

NextNext Article

Larger Font Smaller Font Up Down Go comment Print Attachment
?

Shortcut

PrevPrev Article

NextNext Article

Larger Font Smaller Font Up Down Go comment Print Attachment

미국 Facebook은 11월 27일(현지 시간) 자살을 암시하는 게시물이나 라이브 동영상(이하 게시물)를 AI (인공 지능)를 사용하여 검출하고 전문 대응팀에 보고하는 기능을 유럽 연합 (EU)을 제외한 세계 출시했다고 발표했다. 

 

Facebook은 2011년부터 자살 방지 대책의 일환으로 문제가 있는 게시물을 모니터링하여 필요한 경우 사용자에서 조언의 메시지를 전달하는 전문 대응팀(Community Operations)을 운영하고 있다.

 

facebook1.PNG

자살 위험 사용자의 계시물의 사용자에게 표시되는 메시지

 

이전에는 페친과 같은 제삼자의 신고를 기반으로 활동했으나 앞으로는 AI의 패턴 인식 기술을 활요해서 자살을 암시하는 게시물을 검색하고 Community Operations팀에 자동으로 보고한다고 한다. 그러면 어느 때보 다 신속하게 자살의 위험이있는 사용자에게 연락을 취할 수 있게 된다고 한다. 미국에서는 지난 1개월동안 AI를 테스트하고 그 사이에 100건 이상의 게시물이 전문팀에 보고되는 실적을 보였다. 

 

AI가 확인하는 게시물 자체뿐만 아니라 댓글도 그 대상된다. 예를 들어 라이브 동영상 댓글에 "괜찮아?" "도움이 필요하십니까?"등의 댓글이 붙으면 AI가 그것을 감지하고 보고한다. 

 

또 Facebook은 AI를 지원 대상의 우선 순위 결정에도 사용한다. 문제 신고 된 게시물을 패턴 인식으로 더 자세히 분석하여 정말 시급한 게시물의 리뷰를 우선하도록 Community Operations팀에 통보한다고 한다. 

 

또한 팀 구성원이 개별 게시물의 어느 부분이 문제인지 신속하게 확인할 수 있도록 예를 들어 동영상의 경우 댓글이 집중하고있는 부분을 표시한다. 

 

Community Operations팀은 연내에 7500 명 이상이 될 전망이고 이 인원으로 전세계에서 올라오는 보고에 대처할 계획이다. Facebook은 AI 기술의 정확성 향상과 오탐 방지를 위해  더 많은 투자를 할 계획이라고 한다.

TAG •
  • ?
    엉뚱도마뱀 2017.11.29 09:42
    미국 Facebook은 2 월 26 일 (현지 시간) 자살이나 자해를 암시하는 사용자를 돕기위한 노력의 강화에 대해 발표했다.

    이 회사는 2011 년 12 월 부터 자살 의심 있다는 보고 있던 사용자에게 자살 방지 핫라인을 연중 무휴로 24 시간 운영하고있다 National Suicide Prevention Lifeline 전문 상담원과의 채팅 등을 조언 메일을 보내는 등 자살 방지 대책에 임해왔다.

    새로운 기능으로 자살 암시 보고가 있는 사용자가 Facebook에 로그인하면 다음과 같은 메시지가 표시된다.

    suiside
    "안녕 제럴드. 네 친구가 네가 곤란 해하고있는 것 같기 때문에 최근 게시물을 봐달라고 우리에게 부탁했어"(왼쪽) "우리에게 당신은 소중 하니까 필요하면 너를 도와주고 싶어. 너 는 혼자가 아니라는 ── 매월 다수의 사람에게 이런 메시지를 보내고있는거야. 넌 어떻게하고 싶어? "(오른쪽)
     이 메시지에서는 전문 상담원에게 상담뿐만 아니라 친구와 상담 할 수있는 링크와 어려운 상황에 대처하기위한 Tips 등을 소개하고있다.

    또한 자살 의심되는 사용자를 신고 한 사용자의 친구에 대해서도 그 친구에게 메시지를 보내거나 전문 상담원을 조언위한 지원을 제공한다.

    이러한 대책 자원은 의료 전문가 및 연구자와 협력 해 구축했다고한다.

    새로운 자살 방지책은 우선 미국에서 향후 2 개월 동안 "롤링 아웃"하고 미국 외에서도 확대 해 나갈 계획이다.

List of Articles
No. Subject Author Date Views
47 파나소닉, 풀 스펙 8K 동영상 신호 전송용 단일 케이블 및 커넥터 솔루션 개발 file lizard2019 2019.06.07 1187
46 GDPR 유럽 일반 개인 정보보호법 시행 엉뚱도마뱀 2018.05.24 879
45 블럭체인 기술자료 링크 digipine 2018.02.08 3103
44 이더리움 (Ethereum) digipine 2018.02.08 826
43 암호화폐 (Crypto Currency) 비트코인 file digipine 2018.02.08 3514
42 Nintendo Switch 세계 누적 판매 대수 1,000만대 돌파 file 엉뚱도마뱀 2017.12.13 600
41 iPhone SE 2 2018년 상반기에 출시? file digipine 2017.12.11 539
40 [경고] Windows 10 Ctrl+Z 누르면 편집한 파일이 삭제되는 현상 file digipine 2017.12.11 4622
39 애플, 맥미니 2011 지원 종료 공식화, 신제품 출시는 미정 file 엉뚱도마뱀 2017.12.08 748
38 7 Best Music Players for Mac You Should Try file 엉뚱도마뱀 2017.12.07 601
37 구글의 임베디드용 OS Fuchsia 애플Swift를 지원 file 엉뚱도마뱀 2017.11.30 380
» Facebook 게시물을 검색하여 자살 암시를 발견하는 AI 서비스 시작 1 file 엉뚱도마뱀 2017.11.29 512
35 구글의 천재 AI 연구자 신경망을 능가하는 "캡슐 네트워크" 발표 file 엉뚱도마뱀 2017.11.28 456
34 IoT 악성 코드 "Mirai"변종이 급증 주의 file 엉뚱도마뱀 2017.11.28 344
33 윈도우XP 배경화면, '스마트폰용' 속편 출시 file 엉뚱도마뱀 2017.11.27 761
32 iPhone X의 Face ID RAW 데이터 영상 분석 및 은행권 앱 동향 file 엉뚱도마뱀 2017.11.27 669
31 무료 파티션 도구 AOMEI Partition Assistant v6.6 exFAT를 완벽하게 지원 file 엉뚱도마뱀 2017.11.27 1339
30 동물의 숲 포켓 캠프 스마트폰 버전 서비스 개시 file 엉뚱도마뱀 2017.11.27 429
29 모바일 전용 CPU ARM이 노트북과 AI로 진화 한다 file digipine 2017.11.03 318
28 임베디드 Linux 시스템 부팅 시 프로그램 자동 실행 digipine 2017.11.03 4153
Board Pagination Prev 1 2 3 ... 4 Next
/ 4