"엠마 왓슨이 왜 여기에?"…AI 딥페이크로 '음란 광고' 단골 주인공

↑ 엠마 왓슨 얼굴이 들어간 딥페이크 광고/사진=연합뉴스

최근 영화 '해리포터'의 여주인공 엠마 왓슨 등 여배우들이 SNS의 음란 광고에 빈번하게 등장하고 있습니다.

지난 8일(현지시간) 미국 NBC 뉴스에 따르면 최근 페이스북에 떠도는 딥페이크 관련 애플리케이션 광고물에서 왓슨의 얼굴이 자주 등장하는데 해당 광고물에서 그녀는 처음에 수줍게 웃다가 카메라 앞에 몸을 굽히며 야릇한 행동을 취합니다.

이는 실제 왓슨이 출연한 것이 아니라 딥페이크로 영상의 얼굴만 바꿔치기한 것인데, 딥페이크는 동영상에서 다른 사람의 얼굴을 합성하는 기술로, 인공지능(AI) 기술이 접목되면서 더욱 정교해지고 있습니다.

페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨을 닮은 것이었고 다른 74개는 할리우드 액션 여배우 스칼릿 조핸슨의 얼굴을 쓴 것으로 파악됐다고 NBC는 전했습니다.

이런 딥페이크 영상의 문제점은 왓슨 같은 유명 인사나 인플루언서 뿐만 아니라 미성년자를 포함한 그 어떤 누구도 대상이 될 수 있어 문제의 심각성이 있습니다.

메타 등 대부분의 플랫폼은 악의적으로 조작된 딥페이크 콘텐츠를 금지하고 있으나 NBC가 검토한 앱들은 규제의 틈을 비집고 버젓이 활성화돼 있었습니다.

NBC는 실제로 최근 이 같은 앱을 이용해 딥페이크 기술을 적용해보니 수 초 만에 뚝딱 얼굴을 바꿀 수 있었다고 전했는데, 문제의 앱은 5~6일 이틀간 메타 산하 페이스북, 인스타그램 등 SNS에 230개 이상의 동영상 광고를 하고 있었습니다.

이와 관련 메타는 “우리 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것”이라며 “우리는 이 페이지를 우리 플랫폼에서 광고하지 못하게 했다”고 밝혔습니다.

[양서정 디지털뉴스부 인턴기자 1023ashley@naver.com]