한국에서 딥페이크 성착취물이 큰 사회문제로 떠오른 가운데, 미국에서도 딥페이크 악용 사례가 잇따르고 있다.
할리우드 유명 배우 톰 행크스는 최근 인공지능(AI)으로 자신의 가짜 이미지와 목소리 등을 생성해 만든 딥페이크 광고에 속지 말라고 사람들에게 당부했다.
행크스는 지난 29일(현지시간) 밤 인스타그램에 성명을 올려 "내 이름과 닮은꼴, 목소리를 이용해 기적의 치료법과 특효약을 홍보하는 광고가 인터넷에 여러 개 있다"며 "내 허락 없이 AI를 통해 사기성으로 만들어진 것"이라고 밝혔다.
또한 "나는 이런 게시물이나 상품, 치료 또는 이런 치료법을 광고하는 사람들과는 아무런 관련이 없다"고 강조했다. 행크스는 이어 "나는 2형 당뇨병이 있는데, 내 치료에 관해서는 오직 내 인증된 의사와만 함께할 뿐"이라고 덧붙였다.
그는 또 "속지 마세요. 사기당하지 마세요. 당신이 힘들게 번 돈을 잃지 마세요"라고 당부했다.
행크스는 지난해 10월 초에도 자신의 이미지를 활용한 AI 가짜 광고가 있다며 주의를 요구한 바 있다. 그는 당시 인스타그램에 "조심하라! 나의 AI 버전으로 치과 보험을 홍보하는 영상이 있다"며 "그 광고와 나는 아무런 관련이 없다"고 썼다.
유명인들의 이미지를 이용한 딥페이크 사기 행각이 잇따르고 있다.
배우 스칼릿 조핸슨의 변호사는 지난해 11월 조핸슨의 사진과 목소리를 AI로 합성해 제품 홍보에 쓴 회사에 법적 조치를 취하겠다고 밝혔다.
해당 광고는 곧 삭제됐다. 이 광고에는 조핸슨이 출연한 영화 '블랙 위도우'의 한 장면과 함께 AI가 생성한 조핸슨과 비슷한 이미지가 등장했으며 조핸슨의 목소리를 흉내 낸 AI 음성도 담긴 것으로 알려졌다.
올해 1월에는 팝스타 테일러 스위프트의 얼굴 사진이 합성된 성착취물 이미지가 퍼져 논란이 됐다.
비슷한 시기 뉴햄프셔주 프라이머리(예비선거)를 앞두고 조 바이든 대통령의 목소리와 비슷한 가짜 음성을 이용한 전화가 민주당 당원들에게 걸려와 투표 거부를 독려해 미국 사회에 충격을 줬다.
이 '오디오 딥페이크'를 만들어낸 정치 컨설턴트 스티브 크레이머는 민주당 대선 경선에 뛰어든 딘 필립스 하원의원(미네소타) 캠프와 거액의 계약을 맺고 이런 일을 벌인 것으로 조사됐다.
미국에서도 딥페이크 이미지·음성 생성을 규제하거나 처벌하는 법은 제대로 갖춰지지 않았다. 이에 미국의 여러 주(州)와 연방 의원들은 개인의 이미지나 음성이 딥페이크에 악용되는 것을 막기 위한 입법을 추진 중이다.
테네시주는 개인의 이미지나 음성을 모방한 콘텐츠의 무단 사용을 규제하는 '음성·이미지 안전보장법'을 제정, 지난달부터 시행에 들어갔다.
지난해 10월 연방 상원의원들은 개인의 음성과 시각적으로 유사한 이미지를 AI나 다른 기술로 무단 생성하는 것을 막기 위한 초당적인 법안 '노 페이크스'(NO FAKES) 법안을 발의했다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 박근아 기자
twilight1093@wowtv.co.kr관련뉴스
