무엇이든 뚝딱 만드는 생성형 AI…범죄 예방 대책은 사실상 '전무'

【 앵커멘트 】
누구든 인공지능 기술을 활용해 진위 여부를 구분하기 힘든 딥페이크 영상이나 사진 등을 쉽게 만들 수 있는 시대가 됐죠.
AI 기술이 오남용되는 일이 늘고 있지만, 예방 대책은 사실상 없어 범죄 사각지대가 되고 있습니다.
이혁재 기자가 취재했습니다.


【 기자 】
지시사항만 넣으면 영상이나 사진을 뚝딱 만들어내는 생성형 AI입니다.

워낙 정교하기 때문에 웬만해선 진짜와 구별이 쉽지 않습니다.

세계적인 유명 정치인의 딥페이크 영상은 물론이고,

▶ 인터뷰 : 힐러리 클린턴 / 전 미국 국무장관 (가짜영상)
- "저는 론 디샌티스 주지사를 좋아합니다. 많이요. 디샌티스는 이 나라에 필요한 사람이라고 말하고 싶어요."

최근에 국내에서는 법원에 제출하는 탄원서를 AI로 만들어 제출하다 검사에 덜미가 잡히는 일까지 벌어지기도 했습니다.

일단 제작해서 퍼지고 나면 파장이 상당히 큰 만큼, 사전에 예방하는 대책이 사후 처벌 못지 않게 중요하다는 지적이 나옵니다.

AI를 이용해 제작하면 반드시 AI 제작물이라는 워터마크가 자동으로 생성되는 시스템이 대안으로 꼽히는 이유입니다.

국내에서도 이미 일부 기업은 이런 시스템을 도입했습니다.

▶ 스탠딩 : 이혁재 / 기자
- "생성형 AI 기술을 활용해 이렇게 음료 뚜껑을 없애고 새로운 사진을 만들어봤는데요. 사진 아래쪽을 보시면 생성형 AI 기술이 사용됐음을 알리는 표시가 남습니다."

검찰 내부에서도 AI 제작물에 대한 표시를 의무화해야 한다는 의견이 나오고 있습니다.

▶ 인터뷰 : 김정화 / 서울서부지검 검사
- "생성형 인공지능 시스템을 이용한 범죄가 전 세계적으로 많이 발생하고 있습니다. 최소한 인공지능 생성물이라는 점을 표시하도록 하는 방안에 대해서 고민할 필요가…."

제작자의 양심에만 맡기기에는 AI의 영향력이 너무나 큰 상황, 미국과 유럽연합에서는 발빠르게 관련 조치를 의무화한 만큼, 우리도 빠른 입법이 필요하다는 지적입니다.

MBN뉴스 이혁재입니다. [yzpotato@mbn.co.kr]

영상취재: 김현우 기자
영상편집: 김상진
그래픽: 송지수