온라인서 '19금 사진' 팔던 수상한 그녀… 알고보니 대반전

온라인에서 돈을 받고 자신의 노출 사진을 판매하던 여성이 생성형 인공지능(AI)으로 창조한 '가상 인물'로 알려지며 다양한 피해가 우려된다고 워싱턴포스트(WP) 등이 11일(이하 현지 시각) 보도했다. 

WP에 따르면 '클라우디아(Claudia)'라는 네티즌은 지난 1월부터 영미권 최대 온라인 커뮤니티 레딧(Reddit) 게시판에 자신의 나체 사진을 올리고 "돈을 내면 더 많은 사진을 보내주겠다"며 유료 구매자를 모집했다. 

일부 레딧 이용자들은 사진 밑에 댓글을 남기며 호응했다. 하지만 클라우디아는 현실 세상에 존재하지 않는 사람이었다. 스태빌리티(Stability) AI가 개발한 이미지 생성 AI '스테이블 디퓨전(Stable diffusion)'으로 창조한 가상 인간이었던 것이다.

신원을 밝히길 거부한 컴퓨터과학 전공 대학생들은 지난 10일 롤링스톤스에 클라우디아가 AI로 만든 가상 여성임을 인정하며 "재미로 만들었다"고 밝혔다. 

이들은 "앞서 한 레딧 이용자가 여자인 척하는 이용자에게 속아 500달러를 보낸 것을 보고 재미 삼아 만들었다"며 "몇몇 레딧 이용자에게 클라우디아의 사진을 판매해 100달러를 벌었다"고 주장했다. 

WP는 스테이블 디퓨전 등을 통한 AI 이미지 생성이 2017년 논란이 됐던 '딥페이크' 기술보다 사용법이 쉬운 점을 지적하며 "실제 여성을 사칭하는 데 사용될 우려가 있다"고 짚었다. 

스태빌리티 AI는 스테이블 디퓨전의 이용 약관에서 "사회 통념상 음란하고, 외설적이라 인식되는 이미지를 만드는 데 사용하는 것을 금지한다"고 밝히고 있다. 

하지만 오픈소스를 기반으로 하는 스테이블 디퓨전은 누구나 자유롭게 다운로드할 수 있어 음란 사진 생성, 합성 등을 막는 게 사실상 불가능하다는 지적이다. 

한편 스태빌리티 AI는 지난해 11월 성인용 콘텐츠 제작 금지 필터를 적용한 '스테이블 디퓨전 2.0'을 깃허브에 공개했다.