 |
| ↑ 사진=NBC |
인공지능(AI) 기술의 발전과 함께 AI로 만든 선정적인 콘텐츠 광고가 범람해 인스타그램과 틱톡 등 소셜미디어(SNS)가 골머리를 앓고 있습니다. 실제 사람이 아니기에 SNS의 자체 검열 시스템에서 걸러지지 않고 있는 상황을 노린 겁니다.
현지시간 2일 관련 업계에 따르면 이같은 광고가 페이스북, 인스타그램, 틱톡 등 사회관계망서비스(SNS)에 쏟아지고 있습니다.
지난 1일 미국 NBC 방송은 페이스북과 인스타그램 모회사 메타가 소유한 앱에서 AI를 활용한 성(性)적인 콘텐츠 광고를 올린 앱 개발자 35명을 확인됐다고 보도했습니다. 이들 개발자가 올린 광고는 모두 1000여 개에 달합니다. 틱톡에서 자극적인 AI 광고를 싣는 앱 개발자 14명도 확인됐습니다.
NBC는 선정적인 AI 광고가 챗GPT 등장 후 본격화한 생성형 AI에 대한 관심을 활용하려는 움직임의 일환으로서 최근 몇 달간 급증한 것으로 보인다고 분석했습니다.
SNS를 통한 직접적인 성매매 광고는 엄격한 단속 대상이지만 AI를 활용해 만든 ‘성적으로 부적절한(not-safe-for-work·NSFW)’ 콘텐츠는 제대로 걸러지지 않고 있습니다.
문제의 광고에는 큰 가슴이 부각되는 타이트한 옷을 입은 AI '여자 친구'가 등장해 'NSFW 사진'이나 '맞춤형 핀업 걸', '검열이 안 되는' 채팅을 약속하며 이용자들을 노골적으로 자극하고 있습니다. 이와 같은 앱 개발자들은 대부분 미국이 아닌 해외에 기반을 두고 맞춤형
메타는 이에 대해 “사람이 만든 콘텐츠와 AI가 생성한 콘텐츠 모두 똑같이 성인용 콘텐츠 금지가 적용된다”고 밝혔다. 틱톡도 “성적으로 자극적인 광고는 금지하고 문제가 된 사례는 삭제하고 있다”고 설명했습니다.
[박지윤 디지털뉴스부 인턴기자 bakjy7858@gmail.com]
