AI 딥페이크, 엠마 왓슨을 '음란 광고'에 등장시킨 주범

↑ 배우 엠마 왓슨의 얼굴인 것처럼 나타나는 AI 기반 딥페이크 광고 / [사진=NBC뉴스]

영화 '해리포터'의 주인공 엠마 왓슨 등 유명 배우들이 딥페이크 기술로 인해 SNS의 음란 광고에 등장하고 있다고 미국 NBC 뉴스가 8일(현지시간) 보도했습니다.

딥페이크는 동영상에서 다른 사람의 얼굴을 합성하는 기술로, 최근 인공지능(AI) 기술이 접목되면서 더욱 정교해지고 있어서 사회적 문제로 떠오르고 있습니다.

보도에 의하면, 최근 페이스북에 떠도는 딥페이크 관련 애플리케이션 광고물에서 왓슨의 얼굴이 자주 등장합니다.

이는 실제 왓슨이 출연한 것이 아니라 딥페이크를 이용해 영상의 얼굴을 바꾼 것입니다.

NBC는 페이스북 등 메타의 SNS에 나온 앱 광고물 중 127개가 왓슨을 닮은 것이었고 다른 74개는 할리우드 액션 여배우 스칼릿 조핸슨의 얼굴을 쓴 것으로 파악됐다고 전했습니다.

이처럼 동의 되지 않은 딥페이크 영상은 왓슨 같은 유명 인사나 인플루언서뿐 아니라 미성년자까지 포함한 어떤 사람의 얼굴도 바꿔치기가 가능하다는 점에서 심각합니다.

NBC는 실제로 최근 이 같은 앱을 이용해 딥페이크 기술을 적용해보니 수 초 만에 뚝딱 얼굴을 바꿀 수 있었다고 전했습니다.

문제의 앱 광고물은 NBC가 지난 7일 취재에 들어가자 모두 메타 서비스에서 사라졌다고 합니다.

애플 앱스토어에도 똑같은 광고물이 9세 이상 무료로 다운로드가 가능하게 돼 있었으나 NBC의 취재 후 삭제됐습니다.

메타 대변인은 성명에서 "우리의 정책은 AI에 의한 것이든 그렇지 않은 것이든 간에 성인물을 금지하는 것"이라며 "우리는 이 페이지를 우리 플랫폼에서 광고하지 못하게 했다"고 설명했습니다.

애플 대변인도 아직 딥페이크에 대한 구체적 규칙을 갖고 있지 않지만 음란물을 포함한 앱은 금지한다고 말했습니다.

한편 라이브 스트리밍 분석가 제네비브 오는 "2018년 이후 딥페이크 포르노 동영상은 매년 배 가까이 증가했다"고 말했습니다.

[이주혜 디지털뉴스부 인턴기자 juhye6879@naver.com]