'AI 프로필' 전라 사진이 나왔다

최근 인기 끌고 있는 스노우 이미지 생성 어플
다양한 기술적 오류 최근 보고돼…"여러 조치 필요"

↑ MBN 뉴스 방송화면 캡처

최근 인공지능 기술로 프로필 사진을 만들어주는 앱이 인기를 끌고 있습니다. 그런데 SBS 보도에 따르면 이런 앱에 프로필 사진을 만들어 달라고 신청했더니, 반라의 사진으로 결과물이 나와 곤란을 겪었다는 사연이 등장했습니다.

최근 SNS에는 AI가 만든 진짜 같은 프로필 사진들이 넘쳐납니다. 얼마 전까지는 1990년대 미국 졸업앨범 풍의 AI 사진이 유행하며 유재석, 백종원 등 연예인들의 AI 사진도 화제가 됐습니다.

이 앱에 접속해 자신의 사진 8장을 입력하고 성별을 선택한 뒤, 유료 결제를 하게 되면 30분 만에 미국 복고풍의 졸업앨범 사진이 완성됩니다.

네이버 계열사 스노우가 만든 이미지 생성 앱은 56개국 애플 앱스토어에서 1위를 기록했을 만큼 인기를 끌었습니다.

그런데 이 앱을 사용했다 곤란한 일을 겪은 사람도 있습니다.

↑ 스노우 캡처. / 사진 = 연합뉴스

외국인 친구의 프로필 사진을 신청하기 위해 스노우를 이용한 윤 씨는 나온 결과물을 묶음 사진 그대로 친구에게 전송했습니다. 친구는 그 사진을 직장 동료들과 공유했는데, 수십 장의 사진들 가운데 반라의 몸으로 생성된 친구 사진이 포함돼 있었던 것입니다.

그는 "친구가 좀 많이 창피했다고도 하더라고요. 그래서, 저도 약간 좀 민망하고 좀 미안했어요. 아이(학생)들도 이제 쉽게 접근할 수 있는 앱인데…."라며 당혹스러운 심경을 드러냈습니다.

이에 스노우 측은 "개방형 이미지 생성 모델을 활용하면서 명령어를 통해 문제가 될 이미지를 제외하고 있는데 현재의 AI 기술 수준이 완벽하지 않다"고 전했습니다.

이 밖에도 실제 AI 기술의 한계로 선정적이거나 인종적 편견이 담긴 다양한 오류들이 보고되고 있지만, 앱 업체의 서비스 관리에 허점이 있다는 지적은 피하기 어렵습니다.

임종인 고려대 정보보호대학원 석좌교수는 "AI가 우리의 미래를 크게 변화시킬 건 틀림없는데 그만큼 영향력이 크니까, AI의 책임 있는 사용과 관련된 여러 가지 조치들이 필요하다."고 설명했습니다.

한편 스노우 측은 "선정적이거나 혐오스러운 이미지를 걸러주는 기능을 고도화하고, 오류 발생 시 고객센터로 쉽게 연결될 수 있도록 하겠다"고 밝힌 바 있습니다.

[하승연 디지털뉴스부 인턴기자 iuoooy33@gmail.com]