전남도, 앱에 사진 올렸더니 알몸 합성물 나와

20대 여성 A씨는 지난달 29일 친구의 소개로 한 애플리케이션을 내려받아 사용했다.

이 앱은 네이버의 자회사 '스노우'가 만든 것으로 어울리는 머리스타일 찾는데 도움을 주는 기능이 있다.

해당 앱에 자신의 얼굴 사진을 올린 뒤 합성 결과물을 본 A씨는 경악을 금치 못했다. 자신의 얼굴이 나체 사진과 합성된 결과물이 나왔기 때문이다.

A씨는 "기대되는 마음으로 결과물을 기다렸는데 너무 선정적이고 되게 혐오스럽게 느껴지는 사진을 받았다"고 말했다. 

지난 5일에도 스노우의 또 다른 앱인 '소다'에서도 성적 수치심을 유발하는 사진 합성물이 나왔다.

스노우와 소다는 스테이블 디퓨전이라는 인공지능 모델을 사용하고 있는데, 이 모델은 개발 당시 성인물과 같은 선정적인 이미지도 학습한 것으로 알려졌다.

문제는 이 인공지능 모델이 오픈 소스로 개발됐기 때문에 이를 이용하는 회사가 결과물을 제어할 수 없다는 것이다.

김명주 서울여대 정보보호학부 교수는 "(인공지능) 출력단, 입력단에서 잘 제어를 못하게 되면 이용자가 볼 때는 기대하지 않았던 충격적인 장면들이 생성이 되기도 한다"고 설명했다. 

논란이 확산하자 스노우는 자사 앱에 사과문을 올리고 사태 진화에 나섰다.

(CG) 스노우 측은 "인공지능 기술 한계로 불완전한 이미지 결과물이 생성될 가능성이 일부 존재한다"면서 "시스템을 강화해 재발하지 않도록 하겠다"고 밝혔다.

딥페이크 기술을 활용한 불법 합성물이 사회적 논란을 빚은 가운데, 대형 플랫폼 회사의 앱으로 인한 피해가 확인되면서 이용자들의 우려가 커지고 있다.