[뉴팬데믹! 가짜뉴스] ③ 바이든도 순간 착각…美대선캠프는 '딥페이크와 전쟁중'
'진짜같은 가짜뉴스' 기승에 대선판 교란 우려…"선거와 민주주의 훼손"
AI규제 전면 나선 바이든, 딥페이크 영상에 "내가 저런 말 했나" 착각 실토
'트럼프 체포' AI 생성 가짜사진 확산되기도…선거 영향 우려 확산
(뉴욕=연합뉴스) 이지헌 특파원 = 여론조사기관 입소스는 유네스코(UNESCO) 의뢰로 지난 8월 22일∼9월 25일 미국, 멕시코, 인도를 비롯해 내년 선거를 앞둔 16개국 출신 8천 명을 대상으로 조사한 결과, 85%가 온라인 가짜 뉴스가 선거에 미칠 영향력을 걱정한다고 답했다.
가짜뉴스가 선거판을 교란하며 민주주의에 위협이 될 수 있는 상황을 두고 전세계적 우려가 고조되고 있음을 보여주는 단면이다.
당장 내년 11월 대선을 앞둔 미국에서는 가짜뉴스의 확산과 딥페이크(인공지능을 이용한 특정 인물의 이미지 합성) 기술이 선거와 유권자에 미칠 수 있는 잠재적 영향에 대한 우려가 점점 커지고 있다.
유력 대선 주자의 발언이나 사진을 딥페이크로 조작해 정치적 목적으로 악용한 사례는 이미 적지 않게 찾아볼 수 있으며, 때로는 선거 캠프에서 상대 후보를 비방하기 위해 딥페이크 콘텐츠를 직접 유포하는 일도 벌어지고 있다.
딥페이크가 민주주의에 심각한 위협이 되고 있다는 지적이 나오는 가운데 소셜미디어 플랫폼은 물론 선거 캠프들도 가짜 콘텐츠 대응을 강화하고 있다.
◇ 공화당 지지하는 힐러리?…대선 앞두고 딥페이크 봇물
"저는 사실 론 디샌티스를 좋아합니다."
지난 4월 소셜미디어에 등장한 힐러리 클린턴 전 미 국무장관의 공화당 대선 주자 론 디샌티스 플로리다 주지사에 대한 깜짝 지지 발언은 민주당은 물론 공화당 지지자 모두를 잠깐이나마 어리둥절하게 만들었다.
미 매체들은 클린턴 전 장관의 해당 발언이 '가짜'라는 사실을 신속히 보도했는데, 이는 해당 영상에 나온 그의 말이 진짜 같이 보였기 때문이었다. 이른바 딥페이크 영상이었다.
딥페이크란 딥러닝과 페이크(fake·가짜)의 합성어로, 인공지능(AI)을 기반으로 얼굴 생김새나 음성 등을 실제처럼 조작한 이미지나 영상 등을 말한다.
물론 이전에도 정치인의 발언을 두고 앞뒤 맥락을 자른 채 일부만 편집해 발언 취지를 왜곡하는 경우는 드문 일이 아니었다.
조 바이든 미국 대통령은 대선 후보 시절이던 2020년 1월 "우리 문화, 그것은 아프리카 일부 나라에서 수입해온 것도, 아시아 일부 나라에서 수입해온 것도 아니다"라고 발언한 영상이 소셜미디어에서 확산해 인종차별 발언 논란에 휩싸인 적이 있었다.
해당 발언은 대학 내 성폭력 피해자들의 신고를 어렵게 만드는 미국 내 문화를 지적하면서 이 같은 문화가 외국에서 들어온 게 아님을 강조한 것이었는데, 앞부분을 제거하고 교묘하게 발언 취지를 짜깁기·왜곡한 영상으로 판명됐고 결국 해프닝으로 끝났다.
반면 딥페이크는 AI 도구로 아예 한 적이 없는 발언을 진짜처럼 조작해 만들어 낸다는 점에서 폐해가 더 크다.
◇ 美 대통령도 가짜영상에 순간 '착각'…소셜미디어에 봇물
"내가 도대체 언제 저런 말을 했지?"
바이든 대통령이 자신을 본뜬 딥페이크 영상을 보고서 내뱉었다는 말이다. 가짜 영상에 자신도 순간 착각했다는 현직 대통령의 경험담에 좌중은 웃음바다가 됐다.
지난달 30일(현지시간) 바이든 대통령이 AI에 대한 규제를 강화하는 내용의 행정명령에 서명하면서 한 발언이다.
유력 정치인들이 딥페이크의 대상이 된 지는 이미 오래이며, 이는 현직 미국 대통령도 예외가 아니다.
지난 2월 소셜미디어엔 바이든 대통령이 연설 도중 저속한 언어로 트랜스젠더 여성을 비하하는 발언이 담긴 영상이 확산했다.
전문가들은 해당 영상이 1월 25일 있었던 바이든 대통령의 우크라이나 지원 연설에서 오디오만 가짜 음성으로 바꿔치기한 것이란 결론을 내렸다.
그러나 이는 주요 매체에 보도된 일부 사례일 뿐 소셜미디어에는 검색어만 입력하면 유력 정치인 관련 딥페이크 영상을 쉽게 찾아볼 수 있다.
소셜미디어 측도 영상이 딥페이크나 가짜라고 알 수 있게 표시된 경우 해당 콘텐츠를 삭제하지 않고 있다.
유튜브의 경우 이전에는 선거와 관련한 허위 정보가 담긴 것으로 확인될 경우 이를 즉각 삭제 조치하는 '선거 무결성 정책'(election integrity policy)을 고수했지만, 최근 이 같은 방침을 철회한 바 있다.
가짜뉴스로 확인되는 동영상이라도 바로 삭제하는 대신 '사기, 오류, 결함 등이 발생했다'는 설명이 따라붙은 채 지속해 조회가 허용되는 식이다.
◇ 트럼프도 딥페이크 단골 소재…상대 후보 캠프서 사용하기도
공화당의 유력 대선주자인 도널드 트럼프 전 미국 대통령 역시 딥페이크 콘텐츠의 단골 소재다.
가장 유명한 사건은 지난 3월 트럼프 전 대통령의 형사 기소 전망이 나온 뒤 소셜미디어에 "트럼프가 맨해튼에서 체포됐다"는 설명과 함께 관련 사진이 확산한 일이다.
트럼프 전 대통령이 도주하는 듯한 장면, 경찰관들에게 둘러싸여 수갑이 채워지고 끌려가는 모습, 교도소에서 주황색 재소자 복장을 착용한 포즈 등 유포된 사진도 다양했다. 전부 AI로 생성된 딥페이크 이미지들이었다.
한 디지털 자료 분석단체 창립자가 이미지 생성 프로그램만으로 쉽게 가짜 사진을 생성할 수 있음을 보여주기 위한 예시 사진이었는데, 일부 소셜미디어 사용자들이 사진을 맥락 없이 날랐던 것이었다.
이 사진들을 보고 실제 트럼프 전 대통령이 체포된 줄로 받아들인 사람들도 다수 있었던 것으로 전해졌다.
선거 캠프에서 상대방 후보를 깎아내리는 과정에 딥페이크 이미지가 사용된 사례도 있다.
공화당 경선에서 트럼프 전 대통령의 대항마로 꼽히는 디샌티스 주지사는 지난 6월 소셜미디어 계정에 올린 선거 캠페인 영상에 트럼프 전 대통령이 앤서니 파우치 국립 알레르기·전염병연구소(NIAID) 소장을 껴안고 입맞춤하는 이미지를 노출했다.
디샌티스 주지사는 평소 파우치 소장의 코로나19 대응 정책을 비판해왔는데, 자신은 트럼프 전 대통령과 다르다는 점을 부각하기 위해 해당 영상을 노출했던 것이었다.
그러나 해당 이미지는 딥페이크였던 것으로 밝혀졌고, 디샌티스 주지사는 이 때문에 오히려 역풍에 휩싸였다.
◇ "민주주의에 위협"…선거캠프도 '딥페이크와의 전쟁'
전문가들은 이 같은 딥페이크의 부상이 민주주의에 심각한 위협이 되고 있다고 보고 있다.
미국은 앞서 2020년 미국 대통령 선거 결과에 불복한 이들이 저지른 2021년의 '1·6 의회 난입 사태'로 큰 홍역을 치렀고, 그 상흔은 여전히 미국 정치권에 남아 있는 상태다.
당시 의사당 난입을 초래한 요인 중 하나로 대선 결과가 조작됐다는 일부 언론의 근거 없는 보도와 가짜뉴스를 유포한 소셜미디어 등이 지목된 바 있다.
빌 게이츠 마이크로소프트(MS) 창업자는 지난 7월 자신의 블로그 게시글에서 "AI가 생성한 딥페이크와 허위 정보는 선거와 민주주의를 훼손할 수 있다"다고 지적했다.
그는 "AI가 생성한 딥페이크가 선거를 틀어버리는 데 사용될 수 있다"며 "물론 선거의 합법적인 승자에 대한 의심을 심는 데 정교한 기술이 필요한 건 아니지만 AI는 이를 쉽게 만들어줄 것"이라고 말했다.
구글, 메타, MS 등 대형 정보기술(IT) 업체들도 많은 인력과 연구비를 투입해 딥페이크를 가려내는 기술을 고도화하고 있다.
그러나 딥페이크 기술이 점점 발달함에 따라 가짜 콘텐츠를 쉽고 빠르고 값싸게 생산할 수 있게 됐다는 점은 기술적 대응을 어렵게 하는 지점이다.
정치인들은 선거를 앞두고 인력을 동원해 직접 대응에 나서기도 한다. 내년 11월 대선을 앞두고 캠프마다 비상이 걸린 모습이다.
앞서 미 정치전문매체 폴리티코 등은 바이든 대선 캠프만 하더라도 소셜미디어에서 제기되는 거짓 주장에 대응하기 위한 전략을 새롭게 점검하기 위해 SNS 플랫폼들을 모니터링할 수백명 규모의 스태프와 자원봉사자를 채용하고 있다고 보도했다. 아울러 가짜뉴스 대응과 관련한 광고를 내고, 유포된 '허위 정보' 대해서는 지지자들에게 '팩트체크' 메시지를 발송한다는 것이다.
소셜미디어 플랫폼의 '느슨한' 자정 능력에만 기대지 않고 직접 대응에 나서겠다는 취지로 풀이된다.
pan@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
'진짜같은 가짜뉴스' 기승에 대선판 교란 우려…"선거와 민주주의 훼손"
AI규제 전면 나선 바이든, 딥페이크 영상에 "내가 저런 말 했나" 착각 실토
'트럼프 체포' AI 생성 가짜사진 확산되기도…선거 영향 우려 확산
(뉴욕=연합뉴스) 이지헌 특파원 = 여론조사기관 입소스는 유네스코(UNESCO) 의뢰로 지난 8월 22일∼9월 25일 미국, 멕시코, 인도를 비롯해 내년 선거를 앞둔 16개국 출신 8천 명을 대상으로 조사한 결과, 85%가 온라인 가짜 뉴스가 선거에 미칠 영향력을 걱정한다고 답했다.
가짜뉴스가 선거판을 교란하며 민주주의에 위협이 될 수 있는 상황을 두고 전세계적 우려가 고조되고 있음을 보여주는 단면이다.
당장 내년 11월 대선을 앞둔 미국에서는 가짜뉴스의 확산과 딥페이크(인공지능을 이용한 특정 인물의 이미지 합성) 기술이 선거와 유권자에 미칠 수 있는 잠재적 영향에 대한 우려가 점점 커지고 있다.
유력 대선 주자의 발언이나 사진을 딥페이크로 조작해 정치적 목적으로 악용한 사례는 이미 적지 않게 찾아볼 수 있으며, 때로는 선거 캠프에서 상대 후보를 비방하기 위해 딥페이크 콘텐츠를 직접 유포하는 일도 벌어지고 있다.
딥페이크가 민주주의에 심각한 위협이 되고 있다는 지적이 나오는 가운데 소셜미디어 플랫폼은 물론 선거 캠프들도 가짜 콘텐츠 대응을 강화하고 있다.
◇ 공화당 지지하는 힐러리?…대선 앞두고 딥페이크 봇물
"저는 사실 론 디샌티스를 좋아합니다."
지난 4월 소셜미디어에 등장한 힐러리 클린턴 전 미 국무장관의 공화당 대선 주자 론 디샌티스 플로리다 주지사에 대한 깜짝 지지 발언은 민주당은 물론 공화당 지지자 모두를 잠깐이나마 어리둥절하게 만들었다.
미 매체들은 클린턴 전 장관의 해당 발언이 '가짜'라는 사실을 신속히 보도했는데, 이는 해당 영상에 나온 그의 말이 진짜 같이 보였기 때문이었다. 이른바 딥페이크 영상이었다.
딥페이크란 딥러닝과 페이크(fake·가짜)의 합성어로, 인공지능(AI)을 기반으로 얼굴 생김새나 음성 등을 실제처럼 조작한 이미지나 영상 등을 말한다.
물론 이전에도 정치인의 발언을 두고 앞뒤 맥락을 자른 채 일부만 편집해 발언 취지를 왜곡하는 경우는 드문 일이 아니었다.
조 바이든 미국 대통령은 대선 후보 시절이던 2020년 1월 "우리 문화, 그것은 아프리카 일부 나라에서 수입해온 것도, 아시아 일부 나라에서 수입해온 것도 아니다"라고 발언한 영상이 소셜미디어에서 확산해 인종차별 발언 논란에 휩싸인 적이 있었다.
해당 발언은 대학 내 성폭력 피해자들의 신고를 어렵게 만드는 미국 내 문화를 지적하면서 이 같은 문화가 외국에서 들어온 게 아님을 강조한 것이었는데, 앞부분을 제거하고 교묘하게 발언 취지를 짜깁기·왜곡한 영상으로 판명됐고 결국 해프닝으로 끝났다.
반면 딥페이크는 AI 도구로 아예 한 적이 없는 발언을 진짜처럼 조작해 만들어 낸다는 점에서 폐해가 더 크다.
◇ 美 대통령도 가짜영상에 순간 '착각'…소셜미디어에 봇물
"내가 도대체 언제 저런 말을 했지?"
바이든 대통령이 자신을 본뜬 딥페이크 영상을 보고서 내뱉었다는 말이다. 가짜 영상에 자신도 순간 착각했다는 현직 대통령의 경험담에 좌중은 웃음바다가 됐다.
지난달 30일(현지시간) 바이든 대통령이 AI에 대한 규제를 강화하는 내용의 행정명령에 서명하면서 한 발언이다.
유력 정치인들이 딥페이크의 대상이 된 지는 이미 오래이며, 이는 현직 미국 대통령도 예외가 아니다.
지난 2월 소셜미디어엔 바이든 대통령이 연설 도중 저속한 언어로 트랜스젠더 여성을 비하하는 발언이 담긴 영상이 확산했다.
전문가들은 해당 영상이 1월 25일 있었던 바이든 대통령의 우크라이나 지원 연설에서 오디오만 가짜 음성으로 바꿔치기한 것이란 결론을 내렸다.
그러나 이는 주요 매체에 보도된 일부 사례일 뿐 소셜미디어에는 검색어만 입력하면 유력 정치인 관련 딥페이크 영상을 쉽게 찾아볼 수 있다.
소셜미디어 측도 영상이 딥페이크나 가짜라고 알 수 있게 표시된 경우 해당 콘텐츠를 삭제하지 않고 있다.
유튜브의 경우 이전에는 선거와 관련한 허위 정보가 담긴 것으로 확인될 경우 이를 즉각 삭제 조치하는 '선거 무결성 정책'(election integrity policy)을 고수했지만, 최근 이 같은 방침을 철회한 바 있다.
가짜뉴스로 확인되는 동영상이라도 바로 삭제하는 대신 '사기, 오류, 결함 등이 발생했다'는 설명이 따라붙은 채 지속해 조회가 허용되는 식이다.
◇ 트럼프도 딥페이크 단골 소재…상대 후보 캠프서 사용하기도
공화당의 유력 대선주자인 도널드 트럼프 전 미국 대통령 역시 딥페이크 콘텐츠의 단골 소재다.
가장 유명한 사건은 지난 3월 트럼프 전 대통령의 형사 기소 전망이 나온 뒤 소셜미디어에 "트럼프가 맨해튼에서 체포됐다"는 설명과 함께 관련 사진이 확산한 일이다.
트럼프 전 대통령이 도주하는 듯한 장면, 경찰관들에게 둘러싸여 수갑이 채워지고 끌려가는 모습, 교도소에서 주황색 재소자 복장을 착용한 포즈 등 유포된 사진도 다양했다. 전부 AI로 생성된 딥페이크 이미지들이었다.
한 디지털 자료 분석단체 창립자가 이미지 생성 프로그램만으로 쉽게 가짜 사진을 생성할 수 있음을 보여주기 위한 예시 사진이었는데, 일부 소셜미디어 사용자들이 사진을 맥락 없이 날랐던 것이었다.
이 사진들을 보고 실제 트럼프 전 대통령이 체포된 줄로 받아들인 사람들도 다수 있었던 것으로 전해졌다.
선거 캠프에서 상대방 후보를 깎아내리는 과정에 딥페이크 이미지가 사용된 사례도 있다.
공화당 경선에서 트럼프 전 대통령의 대항마로 꼽히는 디샌티스 주지사는 지난 6월 소셜미디어 계정에 올린 선거 캠페인 영상에 트럼프 전 대통령이 앤서니 파우치 국립 알레르기·전염병연구소(NIAID) 소장을 껴안고 입맞춤하는 이미지를 노출했다.
디샌티스 주지사는 평소 파우치 소장의 코로나19 대응 정책을 비판해왔는데, 자신은 트럼프 전 대통령과 다르다는 점을 부각하기 위해 해당 영상을 노출했던 것이었다.
그러나 해당 이미지는 딥페이크였던 것으로 밝혀졌고, 디샌티스 주지사는 이 때문에 오히려 역풍에 휩싸였다.
◇ "민주주의에 위협"…선거캠프도 '딥페이크와의 전쟁'
전문가들은 이 같은 딥페이크의 부상이 민주주의에 심각한 위협이 되고 있다고 보고 있다.
미국은 앞서 2020년 미국 대통령 선거 결과에 불복한 이들이 저지른 2021년의 '1·6 의회 난입 사태'로 큰 홍역을 치렀고, 그 상흔은 여전히 미국 정치권에 남아 있는 상태다.
당시 의사당 난입을 초래한 요인 중 하나로 대선 결과가 조작됐다는 일부 언론의 근거 없는 보도와 가짜뉴스를 유포한 소셜미디어 등이 지목된 바 있다.
빌 게이츠 마이크로소프트(MS) 창업자는 지난 7월 자신의 블로그 게시글에서 "AI가 생성한 딥페이크와 허위 정보는 선거와 민주주의를 훼손할 수 있다"다고 지적했다.
그는 "AI가 생성한 딥페이크가 선거를 틀어버리는 데 사용될 수 있다"며 "물론 선거의 합법적인 승자에 대한 의심을 심는 데 정교한 기술이 필요한 건 아니지만 AI는 이를 쉽게 만들어줄 것"이라고 말했다.
구글, 메타, MS 등 대형 정보기술(IT) 업체들도 많은 인력과 연구비를 투입해 딥페이크를 가려내는 기술을 고도화하고 있다.
그러나 딥페이크 기술이 점점 발달함에 따라 가짜 콘텐츠를 쉽고 빠르고 값싸게 생산할 수 있게 됐다는 점은 기술적 대응을 어렵게 하는 지점이다.
정치인들은 선거를 앞두고 인력을 동원해 직접 대응에 나서기도 한다. 내년 11월 대선을 앞두고 캠프마다 비상이 걸린 모습이다.
앞서 미 정치전문매체 폴리티코 등은 바이든 대선 캠프만 하더라도 소셜미디어에서 제기되는 거짓 주장에 대응하기 위한 전략을 새롭게 점검하기 위해 SNS 플랫폼들을 모니터링할 수백명 규모의 스태프와 자원봉사자를 채용하고 있다고 보도했다. 아울러 가짜뉴스 대응과 관련한 광고를 내고, 유포된 '허위 정보' 대해서는 지지자들에게 '팩트체크' 메시지를 발송한다는 것이다.
소셜미디어 플랫폼의 '느슨한' 자정 능력에만 기대지 않고 직접 대응에 나서겠다는 취지로 풀이된다.
pan@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
