페이스북 "올해 들어 `가짜 계정` 50억개 삭제…사전감지율 높일 것"

↑ 유동연 페이스북 콘텐츠 정책 매니저 [사진 제공 = 페이스북]

페이스북이 올해 들어 지난 9월까지 삭제한 '가짜 계정'이 전세계 계정 수보다 많은 50억개 이상이라고 밝혔다.
유동연 페이스북 콘텐츠 정책 매니저는 29일 서울 역삼동 페이스북 본사에서 열린 미디어설명회에서 "사전감지율을 높이면서 이용자 행동에 대한 이상 신호(시그널)를 빠르게 감지해 '가짜 계정'을 신속하게 삭제할 수 있게 됐다"며 이 같이 말했다.
페이스북은 지속적으로 유해 콘텐츠 규정 집행을 강화하고, 약 5년 전부터 이와 관련한 인공지능(AI) 개발에 투자하면서 유해 콘텐츠 사전감지 및 삭제율을 높이고 있다. 페이스북의 유해 콘텐츠 규정은 인스타그램에 동일하게 적용된다. 유 매니저에 따르면 가짜 계정의 경우 계정 삭제는 물론 해당 계정으로 활동한 모든 콘텐츠가 지워지며, 사안이나 정도에 따라 특정 PC 또는 IP가 페이스북 접속을 아예 하지 못하도록 막기도 한다.
특히, 페이스북과 인스타그램은 올해 2분기부터 ▲아동의 나체 이미지 및 아동에 대한 성 착취 ▲불법 무기 및 의약품 거래 등 규제 품목 ▲자살 및 자해 ▲테러 선동 등의 유해 콘텐츠를 규정 집행 현황 데이터에 포함시키고 있다.
유 매니저는 "유해 콘텐츠로 규정된 자살 및 자해 콘텐츠의 경우 지난 3분기에만 약 250만개 콘텐츠가 삭제됐다"며 "그 중 97.3%는 사전에 삭제조치돼 사전감지율이 지속적으로 높아지고 있다"고 설명했다.
유 매니저에 따르면 인스타그램의 경우 같은 기간 자살 및 자해 유해 콘텐츠 84만5000개를 지웠으며 그 중 79.1%가 이용자 신고 전 삭제조치됐다.
그는 "아동 나체 또는 성착취 콘텐츠와 관련해서는 유해 콘텐츠 및 계정 삭제는 물론 미국 국립실종학대아동센터에 자동 신고해 관계 당국과 법적 절차를 밟을 수 있도록 조치하고 있다"고 전했다.
페이스북 콘텐츠 관리 정책팀은 전세계 오피스에서 365일 24시간 관리 시스템을 가동하고 있으며 전세계 약 1만5000여명의 유해 콘텐츠 검토 인력이 근무하고 있다. 한국어를 포함해 50개 이상 언어로 사용자 커뮤니티에 들어오는 신고물을 검토한다. 전직 검사, 인권변호사, 안전전문가 등이 이곳에서 근무한다.
유 매니저는 "콘텐츠 관리 정책팀은 유해 콘텐츠에 대한 논의를 사안에 맞춰 계속하고 있다. 출산 장면은 그동안 허용되지 않았지만, 산파 등 관련업체 종사자들의 건의로 허용된 대표적인 사례"라면서 "다만 출근길 지하철 등 특정 시간이나 장소에서는 해당 콘텐츠에 대한 거부감이 있을 수 있기 때문에 콘텐츠에 공지창을 만드는 식으로 새로운 규정을 만들고 있다"고 설명했다.
새 규정이 정해지면 프로필, 페이지, 그룹 포스트, 사진. 이미지, 동영상, 댓글 등 모든 콘텐츠에 일괄 적용된다. 유해 콘텐츠는 규정에 하나라도 위반될 시 삭제되며, 수십개의 신고가 접수돼도 규정을 어기지 않았다면 콘텐츠와 계정은 유지된다.
유 매니저는 "신고자와 게시자 모두에게 유해 콘텐츠 삭제 건을 공지하고 신고 건은 최대한 24시간 내 답변할 수 있도록 하고 있다"며 "올해 처음 이에 대한 이의제기 절차가 생겼고, 이용자 의견을 반영해 AI 딥러닝(분류를 통한 예측 기술)이 고도화되기 때문에 더 많은 이용자 의견을 받으려 하고 있다"고 덧붙였다.
[디지털뉴스국 배윤경 기자]