[연합시론] 총선 앞 딥페이크 기승, 플랫폼 기업도 선제대응 동참해야
(서울=연합뉴스) 4·10 총선이 다가오면서 딥페이크(AI를 활용한 영상·이미지·음성 조작물) 콘텐츠가 벌써 활개를 치고 있다. 중앙선거관리위원회에 따르면 지난달 29일부터 지난 16일까지 19일 간 공직선거법을 위반한 딥페이크 선거운동 게시물이 129건 적발됐다. 한정된 인원으로 꾸려진 전담팀이 자체 모니터링으로 인지한 사례가 이 정도이니 실제 훨씬 많은 딥페이크 콘텐츠가 포털사이트나 소셜미디어를 통해 유통되고 있다고 봐야 한다. 유권자 판단을 흐리게 하는 딥페이크나 허위 정보 유통 행위는 선거 막판으로 갈수록 더욱 기승을 부릴 공산이 크다. 일부 콘텐츠 소비자들 사이에 입맛에 맞는 콘텐츠를 진위 가리지 않고 마구 퍼나르고 뉴스조차 선호하는 플랫폼을 통해 보고 싶은 것만 보고 듣고 싶은 것만 듣는 풍조가 만연한 상황에서 확증편향과 진영 논리를 부추길 수 있다는 점에서 심각한 일이 아닐 수 없다.
딥페이크 콘텐츠나 가짜뉴스는 해외에서도 악용 사례가 잇따르고 있고, 글로벌 선거의 해를 맞아 민의를 왜곡할 수 있는 최대 위협 요소라는 측면에서 세계 각국과 빅테크 기업들은 대책 마련에 골몰하고 있다. 팝스타 테일러 스위프트가 딥페이크 음란물로 곤욕을 치르는가 하면 미국 대선후보 경선에서 투표 거부를 독려하는 조 바이든 대통령의 가짜 전화 목소리가 유권자들에게 전해져 선거정보 조작 우려가 커졌다. 이에 따라 오픈AI, 구글, 메타, 틱톡, 스냅, 엑스(X) 등 20개 빅테크 기업은 최근 독일 뮌헨안보회의(MSC)에서 AI기반 허위 정보와 딥페이크 차단 방안에 합의했다. AI 서비스 개발 기업과 플랫폼 업체들이 대거 동참해 딥페이크 콘텐츠를 감지해 꼬리표(label)를 붙이고 효과적 차단 기술 사례를 공유하기로 한 것이다. 구속력이 없는 게 한계로 지적되지만, 기업들이 스스로 나섰다는 점에서 의미가 크다.
우리나라도 선거운동에 활용될 수 있는 딥페이크 콘텐츠의 제작·편집·유포·상영 등을 원천 금지하는 내용의 공직선거법 개정안이 지난해 12월 국회 본회의에서 의결돼 지난달 29일부터 시행되고 있다. 위반하면 7년 이하 징역이나 1천만∼5천만원의 벌금에 처한다. 그러나 중앙선관위 전담팀 인력으로는 엄청난 양의 콘텐츠를 모니터링하는데 한계가 있고 딥페이크 또는 허위 정보 생성·확산 속도를 따라잡지 못해 탐지·검증 작업 실효성이 떨어진다는 지적이 많다. 당국의 정교한 단속, 강력한 처벌과 함께 국내 플랫폼·테크 기업들의 자체 검증과 기술 지원 등 자발적 동참이 절실한 이유다. 국내 유권자에게 영향력이 큰 네이버, 카카오 등은 법적 권한 미비 등을 내세워 수동적으로 대응할 것이 아니라 감시·검증·차단에 선제적으로 나서는 게 책임 있는 자세다. 이들 플랫폼을 통해 딥페이크나 가짜뉴스가 무분별하게 확산해 피해가 양산되고 민주주의가 훼손된다면 그 책임에서 절대 자유로울 수 없다. 글로벌 기업들과의 정보 공유 등 전략적 협력도 필요하다.
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
(서울=연합뉴스) 4·10 총선이 다가오면서 딥페이크(AI를 활용한 영상·이미지·음성 조작물) 콘텐츠가 벌써 활개를 치고 있다. 중앙선거관리위원회에 따르면 지난달 29일부터 지난 16일까지 19일 간 공직선거법을 위반한 딥페이크 선거운동 게시물이 129건 적발됐다. 한정된 인원으로 꾸려진 전담팀이 자체 모니터링으로 인지한 사례가 이 정도이니 실제 훨씬 많은 딥페이크 콘텐츠가 포털사이트나 소셜미디어를 통해 유통되고 있다고 봐야 한다. 유권자 판단을 흐리게 하는 딥페이크나 허위 정보 유통 행위는 선거 막판으로 갈수록 더욱 기승을 부릴 공산이 크다. 일부 콘텐츠 소비자들 사이에 입맛에 맞는 콘텐츠를 진위 가리지 않고 마구 퍼나르고 뉴스조차 선호하는 플랫폼을 통해 보고 싶은 것만 보고 듣고 싶은 것만 듣는 풍조가 만연한 상황에서 확증편향과 진영 논리를 부추길 수 있다는 점에서 심각한 일이 아닐 수 없다.
딥페이크 콘텐츠나 가짜뉴스는 해외에서도 악용 사례가 잇따르고 있고, 글로벌 선거의 해를 맞아 민의를 왜곡할 수 있는 최대 위협 요소라는 측면에서 세계 각국과 빅테크 기업들은 대책 마련에 골몰하고 있다. 팝스타 테일러 스위프트가 딥페이크 음란물로 곤욕을 치르는가 하면 미국 대선후보 경선에서 투표 거부를 독려하는 조 바이든 대통령의 가짜 전화 목소리가 유권자들에게 전해져 선거정보 조작 우려가 커졌다. 이에 따라 오픈AI, 구글, 메타, 틱톡, 스냅, 엑스(X) 등 20개 빅테크 기업은 최근 독일 뮌헨안보회의(MSC)에서 AI기반 허위 정보와 딥페이크 차단 방안에 합의했다. AI 서비스 개발 기업과 플랫폼 업체들이 대거 동참해 딥페이크 콘텐츠를 감지해 꼬리표(label)를 붙이고 효과적 차단 기술 사례를 공유하기로 한 것이다. 구속력이 없는 게 한계로 지적되지만, 기업들이 스스로 나섰다는 점에서 의미가 크다.
우리나라도 선거운동에 활용될 수 있는 딥페이크 콘텐츠의 제작·편집·유포·상영 등을 원천 금지하는 내용의 공직선거법 개정안이 지난해 12월 국회 본회의에서 의결돼 지난달 29일부터 시행되고 있다. 위반하면 7년 이하 징역이나 1천만∼5천만원의 벌금에 처한다. 그러나 중앙선관위 전담팀 인력으로는 엄청난 양의 콘텐츠를 모니터링하는데 한계가 있고 딥페이크 또는 허위 정보 생성·확산 속도를 따라잡지 못해 탐지·검증 작업 실효성이 떨어진다는 지적이 많다. 당국의 정교한 단속, 강력한 처벌과 함께 국내 플랫폼·테크 기업들의 자체 검증과 기술 지원 등 자발적 동참이 절실한 이유다. 국내 유권자에게 영향력이 큰 네이버, 카카오 등은 법적 권한 미비 등을 내세워 수동적으로 대응할 것이 아니라 감시·검증·차단에 선제적으로 나서는 게 책임 있는 자세다. 이들 플랫폼을 통해 딥페이크나 가짜뉴스가 무분별하게 확산해 피해가 양산되고 민주주의가 훼손된다면 그 책임에서 절대 자유로울 수 없다. 글로벌 기업들과의 정보 공유 등 전략적 협력도 필요하다.
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스
