"기술 있다지만 맘먹고 만든 딥페이크·다크웹 잡기 역부족"
뛰는 탐색 기술 위에 나는 생성 기술…"수사 공조 중요"
(서울=연합뉴스) 조성미 조현영 기자 = 손쉽게 딥페이크 음란물을 만들 수 있는 생성형 인공지능(AI)의 발달은 빠르게 이뤄지고 있지만, 이를 통제하거나 피해자 지원을 도울 기술 발달의 속도는 이에 미치지 못하고 있다.
범죄자가 다크웹 등을 통해 유통한 딥페이크 음란물을 찾아내 삭제하는 기술 개발이 더디게 이뤄지며 당국이 신기술을 악용한 범죄의 범람에 대응하기에 역부족이라는 지적이다.
◇ "어둠의 유통 속수무책…기술보다 수사 공조가 빠를 것"
여성의 얼굴에 음란물을 합성한 딥페이크 영상물이 대거 유포된 경로에는 텔레그램 단체 대화방과 다크웹 등이 있다.
폐쇄적인 플랫폼으로 유명한 텔레그램에 정부는 그간 이메일로만 시정을 요청했지만, 최근 딥페이크 음란물이 사회 문제로 불거지자 협의체를 구성해 신속히 영상 삭제 조처를 하겠다고 나섰다.
다만, 텔레그램이 우리 당국 요청에 어느 정도로 협조할지는 미지수다.
텔레그램과 더불어 불법 음란물의 유통 경로로 꼽히는 것이 특정 방식으로만 접속할 수 있어 '인터넷의 암시장'이라고 불리는 다크웹이다.
글로벌 보안엡체 노드VPN이 올 초 다크웹 게시판을 분석한 결과 소셜미디어(SNS), 텔레그램 등을 통해 유출된 노출 사진이나 영상에 댓글이 평균 1천850개 달리는 등 딥페이크 영상물의 주요 확산 통로로 지목되고 있다.
한 보안업계 관계자는 "딥페이크 음란물이 떠돌아다녀도 폐쇄적인 다크웹 특성상 이를 파악하고 대처하기 기술적으로 쉽지 않다"며 "스토리지가 정해져 있지 않은 특성상 특정인의 사진·영상 등 이미지가 들어간 생성물을 검색(크롤링)해도 찾아내기 어렵기 때문"이라고 말했다.
보안당국 관계자도 "아직은 기술보다 국제 공조 등을 통한 수사력이 더 절실히 필요한 부분"이라고 언급했다.
영상 AI 설루션 스타트업 관계자는 "구글이나 메타 같은 빅테크도 미국 대통령 얼굴을 바꾼 딥페이크 영상을 제대로 찾아내지 못하는 것을 보면 판독 기술이 있더라도 실질적으로 적용하는 것은 쉽지 않다"고 말했다.
◇ "불법 영상물 탐지 기술 연구개발 중…확산 패턴도 본다"
생성형 AI를 쓴 딥페이크에는 가상 정보라는 표식(워터마크)을 넣게 하고 따르지 않았을 경우 콘텐츠를 유통하는 플랫폼 기업이 바로 삭제하도록 하는 법안이 국회에서 논의 중이지만, 범죄자가 작정하고 만들어 유포하는 생성물엔 워터마크가 애초부터 들어갈 수 없다는 한계가 존재한다.
악의적으로 변조된 콘텐츠 대응을 위해 딥페이크 탐지 고도화 및 생성 억제 기술을 과학기술정보통신부와 연구개발 중인 정수환 숭실대 AI융합연구원장은 "범죄자들은 워터마크 강제 법이 있어도 이를 따를 리 없다"고 지적한 뒤 "워터마크가 없는 불법 딥페이크 물을 탐지하는 기술도 연구되고 있다"고 말했다.
딥페이크 등 기술로 생성한 불법·음란 콘텐츠가 텔레그램 단체방 등을 통해 퍼질 때 나타나는 특정한 패턴을 포착해 확산을 차단하는 기술 등이 이 중 하나다.
정 원장은 텔레그램방, 다크웹 등 음성적으로 유통되는 영상 등에 대한 근본적인 대책이 중요하지만 SNS 등 양성적 플랫폼에서 딥페이크를 쓴 가짜·음란 콘텐츠가 돌아다니는 경로에 대한 대책도 필요하다고 주문했다.
그는 "플랫폼이 AI 생성물 여부를 탐지해 워터마크 등의 표식을 붙일 수 있는 기술은 개발됐지만 100% 정확하진 않기 때문에 플랫폼에 즉각적인 콘텐츠 삭제를 요구하기는 어려울 수 있다"면서 "삭제보다는 'AI 생성물일 가능성 90%' 등의 방식으로 표기해 보는 이가 가짜라는 것을 자각할 수 있도록 하는 것도 현실적 대안"이라고 말했다.
csm@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
뛰는 탐색 기술 위에 나는 생성 기술…"수사 공조 중요"
(서울=연합뉴스) 조성미 조현영 기자 = 손쉽게 딥페이크 음란물을 만들 수 있는 생성형 인공지능(AI)의 발달은 빠르게 이뤄지고 있지만, 이를 통제하거나 피해자 지원을 도울 기술 발달의 속도는 이에 미치지 못하고 있다.
범죄자가 다크웹 등을 통해 유통한 딥페이크 음란물을 찾아내 삭제하는 기술 개발이 더디게 이뤄지며 당국이 신기술을 악용한 범죄의 범람에 대응하기에 역부족이라는 지적이다.
◇ "어둠의 유통 속수무책…기술보다 수사 공조가 빠를 것"
여성의 얼굴에 음란물을 합성한 딥페이크 영상물이 대거 유포된 경로에는 텔레그램 단체 대화방과 다크웹 등이 있다.
폐쇄적인 플랫폼으로 유명한 텔레그램에 정부는 그간 이메일로만 시정을 요청했지만, 최근 딥페이크 음란물이 사회 문제로 불거지자 협의체를 구성해 신속히 영상 삭제 조처를 하겠다고 나섰다.
다만, 텔레그램이 우리 당국 요청에 어느 정도로 협조할지는 미지수다.
텔레그램과 더불어 불법 음란물의 유통 경로로 꼽히는 것이 특정 방식으로만 접속할 수 있어 '인터넷의 암시장'이라고 불리는 다크웹이다.
글로벌 보안엡체 노드VPN이 올 초 다크웹 게시판을 분석한 결과 소셜미디어(SNS), 텔레그램 등을 통해 유출된 노출 사진이나 영상에 댓글이 평균 1천850개 달리는 등 딥페이크 영상물의 주요 확산 통로로 지목되고 있다.
한 보안업계 관계자는 "딥페이크 음란물이 떠돌아다녀도 폐쇄적인 다크웹 특성상 이를 파악하고 대처하기 기술적으로 쉽지 않다"며 "스토리지가 정해져 있지 않은 특성상 특정인의 사진·영상 등 이미지가 들어간 생성물을 검색(크롤링)해도 찾아내기 어렵기 때문"이라고 말했다.
보안당국 관계자도 "아직은 기술보다 국제 공조 등을 통한 수사력이 더 절실히 필요한 부분"이라고 언급했다.
영상 AI 설루션 스타트업 관계자는 "구글이나 메타 같은 빅테크도 미국 대통령 얼굴을 바꾼 딥페이크 영상을 제대로 찾아내지 못하는 것을 보면 판독 기술이 있더라도 실질적으로 적용하는 것은 쉽지 않다"고 말했다.
◇ "불법 영상물 탐지 기술 연구개발 중…확산 패턴도 본다"
생성형 AI를 쓴 딥페이크에는 가상 정보라는 표식(워터마크)을 넣게 하고 따르지 않았을 경우 콘텐츠를 유통하는 플랫폼 기업이 바로 삭제하도록 하는 법안이 국회에서 논의 중이지만, 범죄자가 작정하고 만들어 유포하는 생성물엔 워터마크가 애초부터 들어갈 수 없다는 한계가 존재한다.
악의적으로 변조된 콘텐츠 대응을 위해 딥페이크 탐지 고도화 및 생성 억제 기술을 과학기술정보통신부와 연구개발 중인 정수환 숭실대 AI융합연구원장은 "범죄자들은 워터마크 강제 법이 있어도 이를 따를 리 없다"고 지적한 뒤 "워터마크가 없는 불법 딥페이크 물을 탐지하는 기술도 연구되고 있다"고 말했다.
딥페이크 등 기술로 생성한 불법·음란 콘텐츠가 텔레그램 단체방 등을 통해 퍼질 때 나타나는 특정한 패턴을 포착해 확산을 차단하는 기술 등이 이 중 하나다.
정 원장은 텔레그램방, 다크웹 등 음성적으로 유통되는 영상 등에 대한 근본적인 대책이 중요하지만 SNS 등 양성적 플랫폼에서 딥페이크를 쓴 가짜·음란 콘텐츠가 돌아다니는 경로에 대한 대책도 필요하다고 주문했다.
그는 "플랫폼이 AI 생성물 여부를 탐지해 워터마크 등의 표식을 붙일 수 있는 기술은 개발됐지만 100% 정확하진 않기 때문에 플랫폼에 즉각적인 콘텐츠 삭제를 요구하기는 어려울 수 있다"면서 "삭제보다는 'AI 생성물일 가능성 90%' 등의 방식으로 표기해 보는 이가 가짜라는 것을 자각할 수 있도록 하는 것도 현실적 대안"이라고 말했다.
csm@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스
