해외 음란 사이트 등에서 K팝 아이돌 등 유명인의 얼굴을 합성 유포한 성적 허위 영상물 4691건에 대해 방송통신심의위원회가 시정 요구를 의결했다.
2일 방심위에 따르면 올해 1~4월 인공지능으로 만든 영상·이미지 합성 조작물인 딥페이크 기술을 이용한 성적 허위 영상물 모니터링 결과 작년 동기 대비 시정 요구가 약 400% 급증했다.
조사에 따르면 유명 연예인뿐만 아니라 청소년, 일반인을 대상으로 한 성적 허위 영상물도 확인됐다.
사회관계망서비스(SNS) 등에 올리는 사진, 동영상 등을 불법적으로 사용하는 경우도 있어 개인정보 유출에 각별히 주의해 달라고 방심위는 전했다.
방심위는 디지털 성범죄 피해자의 요청사항을 원스톱으로 서비스 지원기관과 연계하는 '디지털 성범죄 원스톱 신고 자동전화연결(ARS) 시스템'을 운영하고 있다. 일상에서 허위영상물을 발견한 경우 즉시 방심위로 신고하라고 당부했다.
여성가족부는 갈수록 심각해지는 디지털 성범죄를 근절하기 위해 AI를 활용해 딥페이크 영상물을 찾고 온라인 사업자에게 삭제를 자동 요청하는 시스템을 2025년까지 구축하기로 했다. 피해영상물 외에 피해자 신상정보도 삭제 지원 대상에 포함되도록 '성폭력방지법' 개정을 검토할 계획이다.
김예랑 한경닷컴 기자 yesrang@hankyung.com
관련뉴스
