【 앵커멘트 】
이렇게 딥페이크가 악용되고 있는 것은 빠르게 발전하고 있는 AI 기술이 이용되었기 때문입니다. AI 기술 때문에 누구나 쉽게 만들 수 있고 심지어는 단 10초 만에 제작도 가능하다고 합니다.
관련 제재법이 시급할 때입니다.
김수형 기자입니다.
【 기자 】
최근 SNS에 돌고 있는 축구선수 손흥민을 이용한 AI 딥페이크 광고입니다.
AI 딥페이크 영상
"(인스타그램) 1,400만 명 팔로어를 기념하여 4월에 급등한 우량주 3개를 공유해드립니다."
'딥페이크(Deepfake)'는 이처럼 AI를 활용해 기존 인물의 얼굴과 특정 신체 부위를 합성한 이미지나 영상물입니다.
미국의 팝스타 테일러 스위프트는 물론, 도널드 트럼프 전 대통령과 조 바이든 대통령도 딥페이크의 표적에 피할 수 없었습니다.
최근 대두되는 가장 큰 문제는 누구나 쉽게 만들 수 있다는 점입니다.
딥페이크 앱을 직접 내려 받은 뒤
춤을 추는 여성에 취재기자 얼굴을 넣었더니, 몇 초 만에 전혀 다른 인물로 바뀝니다.
다른 이미지로도 얼마든지 합성이 가능합니다.
이용료가 소액이거나 무료여서, 누구나 이런 앱들을 사용할 수 있는 상황입니다.
이를 통해 각종 범죄로 이어질 가능성이 커지면서 각국은 일찌감치 대책 마련에 나선 상황입니다.
▶ 인터뷰 : 장 피에르 / 백악관 대변인 (지난 1월)
- "SNS 기업들은 실존 인물에 대한 잘못된 정보와 이미지가 확산하는 걸 방지할 중요한 역할이 있습니다."
상황이 이런데도 AI 생성물에 가상 정보의 표시를 의무화하는 법안은 21대 국회가 끝나면서 폐기됐고, 22대 국회에서 새롭게 발의된 법안은 국회 과방위에 계류 돼 있습니다.
▶ 인터뷰(☎) : 김명주 / 서울여대 정보보호학과 교수
- "재미로 만들거나 가지고 있거나 다운로드 받거나 하는 경우도 법적으로 제재를 가해야 하는 게 아닐까 하는 생각이 들 정도로 지금 사태가 조금 심각한 거죠."
방송통신심의위원회는 홈페이지에 딥페이크 피해 신고 배너를 만들고 모니터링을 강화하는 등 대책 마련에 나섰습니다.
또, 텔레그램과 핫라인도 개설해 딥페이크 피해 확산을 신속하게 막는다는 계획입니다.
MBN뉴스 김수형입니다.
영상취재 : 김현우 기자
영상편집 : 이재형
그래픽 : 양문혁
