최근 '딥페이크' 기술을 활용한 디지털 범죄로 각종 사회적 논란이 잇따르는 가운데, 국회에서 토트넘 주장 손흥민(32)이 딥페이크 기술에 악용된 사례가 등장해 눈길을 끈다.
김장겸 국민의힘 의원은 28일 국회 과학기술정보방송통신위원회 전체회의에서 김태규 방송통신위원회 위원장 직무대행(부위원장)에게 질의하기에 앞서 "딥페이크가 큰 이슈가 됐다"며 영상 하나를 공개했다.
딥페이크 범죄의 심각성을 환기하기 위해 김 의원이 공개한 이 영상에는 손흥민이 투자를 권유하는 모습이 담겼다. 물론 이는 진짜 손흥민이 아닌, 딥페이크로 만든 가짜 영상이다. 손흥민이 소속팀 경기를 마치고 영국 매체와 인터뷰하는 화면에 인공지능(AI)으로 생성한 손흥민의 목소리를 합성한 것이다.
해당 영상에서 가짜 손흥민은 자신을 '축구선수이자 경험 많은 투자자'라고 소개한 뒤 "인스타그램 팔로워 1400만명 돌파를 기념해 4월에 급등한 우량주 3개를 무료로 공유해 드린다"고 말했다. 말투가 다소 어색하지만, 분명 손흥민 목소리로 들린다. 그러면서 "'OOOOO' 카톡을 추가하고 아라비아 숫자를 보내는 선착순 200명에게 무료로 저의 독점 사인 사진과 스톡 나우 팬미팅 티켓을 받을 수 있다"고 특정 업체를 홍보했다.
김 의원은 "AI를 활용하면 이런 영상을 쉽게 만들 수 있다"며 "텔레그램을 통해 지역과 학교, 나이를 불문하고 무차별적으로 불법 합성물이 퍼지고 있다"고 지적했다.
이에 김 부위원장은 "방송통신심의위원회는 삭제 및 차단 요구를 할 수 있고, 시정명령이 이행되지 않을 경우 방송통신위원회가 형사고발 조치할 수 있다"며 "지금 딥페이크 영상물 피해자의 신상정보도 긴급 심의에 포함하는 내용, AI 생성물 표시제를 도입하는 부분, AI 서비스 이용자에 대한 보호 법규를 마련하는 부분, AI 피해 신고 창구를 활용하는 방법을 고민하고 있다"고 말했다.
신현보 한경닷컴 기자 greaterfool@hankyung.com
관련뉴스
