"딥페이크, 인공인 걸 알고 봐도 어느새 진위 경계 사라져"
20·30세대 경험 사례 연구…"혼란 경험 후 대항할 힘 길러야"
(서울=연합뉴스) 이정현 기자 = "혼성그룹 '거북이'를 좋아했는데, 터틀맨이 죽어서 충격이었죠. 그런데 TV에 인공지능(AI)으로 되살아난 터틀맨이 나와 노래하니 신기하더라고요." (연구참여자 A)
"한 정치인이 '막말'하는 딥페이크 영상을 본 적 있어요. 저도 모르게 진짜라고 생각했던 것 같아요. 정교하게 만들어져 진짜인지 가짜인지 헷갈리더라고요." (연구참여자 B)
중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨가 31일 한국방송학보에 기고한 논문 '2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구'에서 딥페이크를 경험해본 20~30대들은 딥페이크의 명암을 분명히 인식하고 있었다.
연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다.
사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다.
참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다고 밝혔다.
한 참여자는 "브루노 마스가 뉴진스의 '하입보이'를 부르는 AI 커버 영상을 보고 음성 제작 프로그램을 통해 제작하고 있다"고 언급했다.
그러나 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 공통으로 지적했다.
이들은 "딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제"라고 우려했다.
특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다.
다른 참여자는 "군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다"고, 또 다른 참여자는 "인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다"고 했다.
이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다.
또다른 참여자는 "워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다. 또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다"고 강조했다.
연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 봤다.
연구진은 "허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다"고 밝혔다.
lisa@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
20·30세대 경험 사례 연구…"혼란 경험 후 대항할 힘 길러야"
(서울=연합뉴스) 이정현 기자 = "혼성그룹 '거북이'를 좋아했는데, 터틀맨이 죽어서 충격이었죠. 그런데 TV에 인공지능(AI)으로 되살아난 터틀맨이 나와 노래하니 신기하더라고요." (연구참여자 A)
"한 정치인이 '막말'하는 딥페이크 영상을 본 적 있어요. 저도 모르게 진짜라고 생각했던 것 같아요. 정교하게 만들어져 진짜인지 가짜인지 헷갈리더라고요." (연구참여자 B)
중앙대 미디어커뮤니케이션학과 강진숙 교수와 김지현(박사 수료)씨가 31일 한국방송학보에 기고한 논문 '2030세대 이용자들의 딥페이크 기술 경험에 대한 사례연구'에서 딥페이크를 경험해본 20~30대들은 딥페이크의 명암을 분명히 인식하고 있었다.
연구진은 딥페이크로 제작된 영상을 접하거나 제작 프로세스를 경험한 20~30대 기자, 직장인, 보안전문가, 교직원, 군인, 대학(원)생 등 총 12명에 대해 심층 인터뷰와 초점 집단인터뷰를 진행했다.
사례 분석 결과 연구참여자들은 주로 엔터테인먼트 및 소셜미디어 콘텐츠 소비를 통해 딥페이크 기술에 입문한 경우가 많았다.
참여자들은 포르노 배우의 몸에 배우 갤 가돗의 얼굴을 합성한 가짜 포르노 영상, 버락 오바마 전 미국 대통령의 딥페이크 영상, 조 바이든 미국 대통령이 트랜스젠더를 모욕하는 딥페이크 영상, AI로 만든 젊은 남성 모델을 활용한 칠성사이다 광고 등을 통해 딥페이크 기술을 접했다고 밝혔다.
한 참여자는 "브루노 마스가 뉴진스의 '하입보이'를 부르는 AI 커버 영상을 보고 음성 제작 프로그램을 통해 제작하고 있다"고 언급했다.
그러나 연구 참여자들은 딥페이크 이미지와 영상이 실제와 구별하기 어려운 콘텐츠로 제작되면서 진위성이 혼란을 가져왔다고 공통으로 지적했다.
이들은 "딥페이크 영상임을 인지하면서도 진짜와 가짜의 경계를 구분하지 않게 되는 태도가 문제"라고 우려했다.
특히 최근 딥페이크 기술은 과장되거나 정치적·선정적 효과를 만들기 위한 하나의 전략으로 이용되기도 하며, 알고리즘을 통해 공유되는 영상은 다양한 계층에 공유돼 대중의 판단을 흐린다는 것이다.
다른 참여자는 "군대 단체 채팅방에 동기가 내 사진을 도용해 여자 아이돌 몸과 합성한 사진을 보냈는데, 누가 내 얼굴을 훔친다고 생각하니 기분이 좋지 않았다"고, 또 다른 참여자는 "인스타그램에서 어떤 남자가 벗은 몸에 내 얼굴을 합성해 사진을 보냈다. 내 팔로워들에게 보낸다면서 돈을 요구했다"고 했다.
이들은 딥페이크 기술 경험을 통해 오락적 체험을 하는 것은 긍정적인 경험일 수 있으나, 출처 및 영상의 목적이나 용도를 명확히 하는 게 중요하다고 강조했다.
또다른 참여자는 "워터마크나 레이블링을 통해 해당 영상이 딥페이크인지 구분할 수 있지만, 사실상 이 역시 기술로 없앨 수 있다. 또 워터마크를 지우려면 유료 구독을 하는 조건도 있다. 새로운 대책이 필요하다"고 강조했다.
연구진은 딥페이크 기술 경험은 대부분 오락과 유희적 체험에서 시작되지만, 이를 이용하면서 정치적 각성이나 의식화로 나아갈 수 있다고 봤다.
연구진은 "허위 정보와 범죄, 상업적 유린 등으로 딥페이크로 인한 혼란을 경험한 대중들이 진보적 의식과 태도를 갖고 적극적으로 기술을 수용하면서 대항할 힘을 기르는 게 중요하다"고 밝혔다.
lisa@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스
