딥페이크로 만든 음란물 피해자가 4000명 이상이라는 조사 결과가 나왔다.
영국 일간지 가디언은 21일(현지시간) 채널4뉴스가 가장 많이 방문한 딥페이크 웹사이트 5곳을 분석한 결과 거의 4000명의 유명인이 등록되어 있었고, 이 중 영국인은 255명이었다고 보도했다.
인공지능을 이용해 음란물에 얼굴이 합성된 인물에는 배우와 가수, 모델 등 연예인은 물론 유튜버 등 인플루언서들도 포함됐다. 5개 사이트의 조회수는 3개월 동안 1억회를 기록했다.
피해자 중 1명인 채널4뉴스 진행자 캐시 뉴먼은 "누군가가 조합한 내가 보지 못한 모습을 다른 사람들이 본다는 게 위협적으로 느껴진다"며 "가짜로 만들어진 내 모습이 있고, 이걸 누군가가 본다는 행위를 생각하는 것만으로도 불길한 느낌"이라고 불쾌함을 드러냈다.
온라인안전법에 따라 영국에서는 지난 1월 31일부터 동의 없이 딥페이크 콘텐츠를 만드는 것은 물론 이를 공유하는 것 또한 불법이다. 해당 법안은 AI와 앱을 통해 생성되는 딥페이크 포르노가 확산하는 것에 대응해 만들어졌다.
가디언은 2023년 3분기 동안 가장 많은 이용자 수를 기록한 상위 40개 딥페이크 포르노 사이트에서 13만3733개의 새로운 딥페이크 포르노 영상이 업로드됐다는 조사 결과를 전했다. 이는 전년도 전체를 합친 것보다 많은 수치라는 설명이다.
딥페이크 포르노 피해를 본 소피 패리쉬는 채널4뉴스에 "매우 폭력적이고 굴욕스러운 일이었다"며 "여성이라는 존재가 아무 의미도, 쓸모도 없는 고깃덩어리가 된 거 같았다"고 토로했다.
영국 내 온라인안전법 감시기관인 오프컴 측은 "불법 딥페이크 자료는 매우 큰 혼란과 피해를 준다"며 "해당 기업들은 이와 같은 콘텐츠가 자사 서비스에 유포될 위험을 평가하고, 인지하면 즉각 삭제 조처를 해야 한다"고 밝혔다.
구글은 "우리는 딥페이크 음란물이 얼마나 고통을 주는지 알고 있으며, 피해자들을 돕기 위해 보호 장치를 구축하기 위해 최선을 다하고 있다"며 "또한 추가적인 보호장치를 적극적으로 개발하고 있다"고 전했다.
페이스북과 인스타그램을 운영하는 메타 측도 "우리는 아동 음란물 등 미성년자에 대한 성적 대상화 콘텐츠, AI가 생성한 비동의 음란물 등에 대해 엄격히 금지하고 있다"며 "딥페이크 생성 앱은 다양한 앱스토어에서 쉽게 이용할 수 있지만, 우리는 이런 앱의 광고와 그 뒤에 있는 계정까지 모두 제거했다"고 밝혔다.
김소연 한경닷컴 기자 sue123@hankyung.com
관련뉴스
