[뉴팬데믹! 가짜뉴스] ⑨ AI가 만들고 SNS가 실어 날라…국내 플랫폼도 '비상'
'2천년 역사' 가짜뉴스, 인터넷·소셜미디어·AI 등 기술 진화로 날개 달아
언론과 언론 사칭 계정도 전파에 일조…"가짜뉴스가 진짜보다 6배 빨리 퍼져"
네이버, 기사 형식 가짜뉴스에 적극 대응…카카오[035720]는 AI 활용해 필터링
(서울=연합뉴스) 강건택 홍국기 기자 = 가짜뉴스란 용어가 널리 사용된 건 불과 몇 년 전부터지만, 인류의 역사와 늘 함께했다고 해도 과언이 아니다.
학계에서는 기원전 44년 로마 공화정에서 카이사르 사후 옥타비아누스가 라이벌인 안토니우스를 음해하기 위해 흑색선전을 퍼뜨린 것을 그 시초로 본다.
안토니우스가 클레오파트라에 빠져 로마의 전통적 가치를 무시하고 늘 술에 취해 있다는 내용의 짧은 선전 문구를 동전에 새겨 퍼뜨림으로써 여론을 자기편으로 끌어들인 옥타비아누스의 전술은 오늘날의 가짜뉴스 전파 사례와 흡사하다.
2천년 넘는 역사를 이어온 가짜뉴스가 최근 들어 심각한 사회적 위협으로 비화한 것은 이를 전달하는 매체의 비약적인 진화 때문이다.
15세기 중반 구텐베르크의 금속활자 발명으로 대중 속으로 빠르고 광범위하게 스며들 수 있게 된 가짜뉴스는 21세기 인터넷과 소셜미디어의 보급으로 그야말로 날개를 달았다.
◇ '펜타곤 폭발' AI 생성 사진, 트위터에 언론사 가세하자 증시↓
가짜뉴스가 신기술의 힘을 빌려 초고속 확산하는 사례는 매일 같이 볼 수 있다.
온라인은 물론 오프라인 세상까지 발칵 뒤집은 '펜타곤(미국 국방부) 폭발' 사진 사건이 대표적이다.
지난 5월22일(현지 시각) 오전 미국 뉴욕증시 개장을 전후해 트위터를 비롯한 소셜미디어에는 공공기관처럼 생긴 건물 앞에 엄청난 양의 검은 연기가 피어오르는 사진과 함께 '속보 : 펜타곤 근처에서 폭발'이라는 게시물이 유포되기 시작했다.
초기에 '펜타곤 폭발' 사진을 퍼뜨린 트위터 계정 다수는 음모론, 러시아의 우크라이나 침공, 가상화폐 등에 관한 내용을 주로 올려온 것으로 나타났다.
이 사진이 짧은 시간에 광범위하게 퍼진 것은 신뢰할 만한 것으로 보였던 트위터 계정들까지 가세하면서였다.
300만 명 이상의 팔로워를 거느린 러시아 방송 'RT'는 문제의 사진을 근거로 "워싱턴DC의 미국 국방부 근처에서 폭발이 발생했다는 소식이 있다"는 트윗을 올려 가짜뉴스 확산 과정에서 결정적인 역할을 했다.
미국 블룸버그 뉴스를 사칭한 '블룸버그피드'(@BloombergFeed)를 포함해 언론사를 연상시키는 이름의 여러 트위터 계정도 폭발설을 퍼뜨렸다.
심지어 블룸버그피드에는 일론 머스크 테슬라 최고경영자(CEO)가 트위터를 인수한 뒤 도입한 공식 계정 인증 서비스 '블루 체크'가 표시돼 있어 가짜뉴스에 신빙성을 더했다.
파장이 커지자 미 버지니아주 알링턴카운티 소방국은 "펜타곤 경내 또는 그 근처에서 폭발이나 사고는 없다"는 해명 트윗을 올렸고, 곧이어 문제의 사진이 인공지능(AI)이 생성한 가짜라는 전문가들이 판정이 잇따랐다.
그 사이 뉴욕증시의 스탠더드앤드푸어스(S&P) 500 지수가 개장 직후 0.3% 하락하고 안전 자산인 미 국채와 금 가격이 잠시 치솟는 등 금융시장마저 AI가 만든 가짜 사진에 출렁였다고 미 언론들은 전했다.
'진짜' 블룸버그는 이 사건을 가리켜 "아마도 AI가 생성한 이미지가 시장을 움직인 첫 사례일 것"이라고 보도했다.
펜타곤 폭발 사진 사건은 AI가 만든 가짜뉴스를 소셜미디어가 실어 나르고 진짜 언론사와 언론사를 사칭한 계정까지 힘을 보탬으로써 짧은 시간이지만 실제 세상을 요동치게 만든 현대 가짜뉴스의 확산 메커니즘을 잘 보여준다.
◇ 자극적 정보 공유 부추기는 SNS…가짜뉴스 전파, 6배 빨라
무엇보다 소셜미디어의 태생적인 속성이 가짜뉴스의 확산을 부추긴다고 전문가들은 지적한다.
미 서던캘리포니아대학(USC) 연구진이 지난 1월 과학 저널 '미 국립과학원회보'(PNAS)에 실은 논문에 따르면 자극적이고 눈에 띄는 정보를 자주 올리고 공유하는 계정에 더 많은 방문자가 찾아오는 소셜미디어의 '보상 시스템' 때문에 이용자들이 "남들로부터 인정받을 수 있는 정보"를 습관적으로 공유하는 것으로 분석된다.
연구진이 페이스북 활성 사용자 2천476명을 조사한 결과 습관적으로 뉴스를 공유하는 이용자의 단 15%가 전체 가짜뉴스 중 30∼40%를 전파한 것으로 나타났다.
자극적인 정보가 더 많이 주목받는 소셜미디어 특성 탓에 가짜뉴스는 진짜 정보보다 훨씬 더 빠르게 전파된다.
미 매사추세츠공대(MIT) 과학자들이 트윗 12만6천285건을 분석해 2018년 사이언스에 게재한 연구 결과에 따르면 가짜뉴스가 트위터 사용자 1천500명에게 도달하는 데 걸린 시간은 평균 10시간으로 진짜 뉴스(60시간)의 6분의 1에 불과했다.
◇ 가짜뉴스 슈퍼 전파자는 '봇'…딥페이크로 진화 우려
사람뿐 아니라 자동으로 가짜 콘텐츠를 생산하고 전달하는 봇(bot) 계정도 가짜뉴스 전파 과정에서 큰 역할을 한다.
미 인디애나대 연구진은 2016년 미 대선 당시 1천361만7천425건의 트윗을 봇 탐지 도구인 '보토미터' 등으로 분석한 결과 가짜뉴스의 '슈퍼 전파자' 계정들은 봇 계정일 가능성이 높다는 결론을 내렸다.
이탈리아 트렌토대 마시모 스텔라 교수 등의 연구 결과 2017년 10월 스페인 카탈루냐 독립 주민투표에 관한 360만 건의 트윗 중 23.5%가 봇 계정에서 생성된 것으로 파악됐다.
미국 랜드연구소 크리스토퍼 폴 선임사회과학자는 2016년 미 대선 직전 일주일간 도널드 트럼프 공화당 후보 또는 힐러리 클린턴 민주당 후보를 지지하는 봇 생성 트윗 1천900만 건이 유포된 것으로 추정했다.
기술과 결합한 가짜뉴스의 창궐은 앞으로 AI를 이용해 기존의 동영상에 다른 사람의 얼굴과 말을 합성하는 딥페이크 기술로 새 국면을 맞고 있다.
조작이 어려워 상대적으로 신뢰할 수 있는 보루로 여겨졌던 동영상마저 그럴듯하게 꾸며낼 경우 가짜뉴스의 효과가 더 커질 수밖에 없어서다. 실제로 미 정치권 인사들을 대상으로 한 딥페이크 가짜 동영상이 소셜미디어 이용자를 속이는 일이 벌어지고 있다.
◇ 국내 양대 플랫폼도 가짜뉴스 방지에 잰걸음
세계적으로 생성형 AI, 딥페이크 등 기술의 발전과 함께 가짜뉴스에 의한 사회적 문제가 심각해지는 가운데 국내 양대 플랫폼인 네이버와 카카오도 기술과 서비스 측면에서 가짜뉴스 방지에 총력을 기울이고 있다.
네이버는 한국인터넷자율정책기구(KISO)의 회원사로서 언론의 기사 형식을 도용·사칭한 허위 게시물 등 뉴스 형태를 한 가짜 콘텐츠에 대해 적극적으로 대응하고 있다고 밝혔다.
지난 9월부터 정정보도 모음 페이지의 접근성을 강화하고 정정·반론·추후 보도 등을 모아 서비스하는 등 사실과 다른 내용을 담은 가짜뉴스의 확산 방지에도 나섰다.
카카오의 포털 사내 독립기업(CIC)인 다음도 자체 운영 정책을 통해 언론사의 명의나 언론사의 직책 등을 사칭·도용해 기사 형태를 갖춘 게시물 가운데 그 내용이 허위로 판단되는 게시물과 게시자를 규제하고 있다.
또 가짜뉴스라고 명시한 것은 아니지만, 가짜뉴스를 포함한 유해 콘텐츠를 인공지능(AI) 기술을 통해 2014년 7월부터 필터링하고 있다고 카카오는 소개했다.
개방형 플랫폼인 카카오톡의 경우 사생활 침해 소지 탓에 가짜뉴스나 사칭 사기 등에 대한 사전 검열이 사실상 불가능하지만, 권리 침해나 피해 신고가 접수되면 최대한 빠르게 소명 자료 등을 검토한 뒤 내부 운영 정책에 맞춰 제재하고 있다.
포털업계의 한 관계자는 "세계적으로 유튜브나 인스타그램 등 빅테크 플랫폼을 통해 가짜뉴스가 전방위로 퍼져 심각한 사회 문제로 대두된 것과 달리, 국내는 주요 포털의 자율규제로 상황이 다소나마 양호한 편"이라고 말했다.
firstcircle@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
'2천년 역사' 가짜뉴스, 인터넷·소셜미디어·AI 등 기술 진화로 날개 달아
언론과 언론 사칭 계정도 전파에 일조…"가짜뉴스가 진짜보다 6배 빨리 퍼져"
네이버, 기사 형식 가짜뉴스에 적극 대응…카카오[035720]는 AI 활용해 필터링
(서울=연합뉴스) 강건택 홍국기 기자 = 가짜뉴스란 용어가 널리 사용된 건 불과 몇 년 전부터지만, 인류의 역사와 늘 함께했다고 해도 과언이 아니다.
학계에서는 기원전 44년 로마 공화정에서 카이사르 사후 옥타비아누스가 라이벌인 안토니우스를 음해하기 위해 흑색선전을 퍼뜨린 것을 그 시초로 본다.
안토니우스가 클레오파트라에 빠져 로마의 전통적 가치를 무시하고 늘 술에 취해 있다는 내용의 짧은 선전 문구를 동전에 새겨 퍼뜨림으로써 여론을 자기편으로 끌어들인 옥타비아누스의 전술은 오늘날의 가짜뉴스 전파 사례와 흡사하다.
2천년 넘는 역사를 이어온 가짜뉴스가 최근 들어 심각한 사회적 위협으로 비화한 것은 이를 전달하는 매체의 비약적인 진화 때문이다.
15세기 중반 구텐베르크의 금속활자 발명으로 대중 속으로 빠르고 광범위하게 스며들 수 있게 된 가짜뉴스는 21세기 인터넷과 소셜미디어의 보급으로 그야말로 날개를 달았다.
◇ '펜타곤 폭발' AI 생성 사진, 트위터에 언론사 가세하자 증시↓
가짜뉴스가 신기술의 힘을 빌려 초고속 확산하는 사례는 매일 같이 볼 수 있다.
온라인은 물론 오프라인 세상까지 발칵 뒤집은 '펜타곤(미국 국방부) 폭발' 사진 사건이 대표적이다.
지난 5월22일(현지 시각) 오전 미국 뉴욕증시 개장을 전후해 트위터를 비롯한 소셜미디어에는 공공기관처럼 생긴 건물 앞에 엄청난 양의 검은 연기가 피어오르는 사진과 함께 '속보 : 펜타곤 근처에서 폭발'이라는 게시물이 유포되기 시작했다.
초기에 '펜타곤 폭발' 사진을 퍼뜨린 트위터 계정 다수는 음모론, 러시아의 우크라이나 침공, 가상화폐 등에 관한 내용을 주로 올려온 것으로 나타났다.
이 사진이 짧은 시간에 광범위하게 퍼진 것은 신뢰할 만한 것으로 보였던 트위터 계정들까지 가세하면서였다.
300만 명 이상의 팔로워를 거느린 러시아 방송 'RT'는 문제의 사진을 근거로 "워싱턴DC의 미국 국방부 근처에서 폭발이 발생했다는 소식이 있다"는 트윗을 올려 가짜뉴스 확산 과정에서 결정적인 역할을 했다.
미국 블룸버그 뉴스를 사칭한 '블룸버그피드'(@BloombergFeed)를 포함해 언론사를 연상시키는 이름의 여러 트위터 계정도 폭발설을 퍼뜨렸다.
심지어 블룸버그피드에는 일론 머스크 테슬라 최고경영자(CEO)가 트위터를 인수한 뒤 도입한 공식 계정 인증 서비스 '블루 체크'가 표시돼 있어 가짜뉴스에 신빙성을 더했다.
파장이 커지자 미 버지니아주 알링턴카운티 소방국은 "펜타곤 경내 또는 그 근처에서 폭발이나 사고는 없다"는 해명 트윗을 올렸고, 곧이어 문제의 사진이 인공지능(AI)이 생성한 가짜라는 전문가들이 판정이 잇따랐다.
그 사이 뉴욕증시의 스탠더드앤드푸어스(S&P) 500 지수가 개장 직후 0.3% 하락하고 안전 자산인 미 국채와 금 가격이 잠시 치솟는 등 금융시장마저 AI가 만든 가짜 사진에 출렁였다고 미 언론들은 전했다.
'진짜' 블룸버그는 이 사건을 가리켜 "아마도 AI가 생성한 이미지가 시장을 움직인 첫 사례일 것"이라고 보도했다.
펜타곤 폭발 사진 사건은 AI가 만든 가짜뉴스를 소셜미디어가 실어 나르고 진짜 언론사와 언론사를 사칭한 계정까지 힘을 보탬으로써 짧은 시간이지만 실제 세상을 요동치게 만든 현대 가짜뉴스의 확산 메커니즘을 잘 보여준다.
◇ 자극적 정보 공유 부추기는 SNS…가짜뉴스 전파, 6배 빨라
무엇보다 소셜미디어의 태생적인 속성이 가짜뉴스의 확산을 부추긴다고 전문가들은 지적한다.
미 서던캘리포니아대학(USC) 연구진이 지난 1월 과학 저널 '미 국립과학원회보'(PNAS)에 실은 논문에 따르면 자극적이고 눈에 띄는 정보를 자주 올리고 공유하는 계정에 더 많은 방문자가 찾아오는 소셜미디어의 '보상 시스템' 때문에 이용자들이 "남들로부터 인정받을 수 있는 정보"를 습관적으로 공유하는 것으로 분석된다.
연구진이 페이스북 활성 사용자 2천476명을 조사한 결과 습관적으로 뉴스를 공유하는 이용자의 단 15%가 전체 가짜뉴스 중 30∼40%를 전파한 것으로 나타났다.
자극적인 정보가 더 많이 주목받는 소셜미디어 특성 탓에 가짜뉴스는 진짜 정보보다 훨씬 더 빠르게 전파된다.
미 매사추세츠공대(MIT) 과학자들이 트윗 12만6천285건을 분석해 2018년 사이언스에 게재한 연구 결과에 따르면 가짜뉴스가 트위터 사용자 1천500명에게 도달하는 데 걸린 시간은 평균 10시간으로 진짜 뉴스(60시간)의 6분의 1에 불과했다.
◇ 가짜뉴스 슈퍼 전파자는 '봇'…딥페이크로 진화 우려
사람뿐 아니라 자동으로 가짜 콘텐츠를 생산하고 전달하는 봇(bot) 계정도 가짜뉴스 전파 과정에서 큰 역할을 한다.
미 인디애나대 연구진은 2016년 미 대선 당시 1천361만7천425건의 트윗을 봇 탐지 도구인 '보토미터' 등으로 분석한 결과 가짜뉴스의 '슈퍼 전파자' 계정들은 봇 계정일 가능성이 높다는 결론을 내렸다.
이탈리아 트렌토대 마시모 스텔라 교수 등의 연구 결과 2017년 10월 스페인 카탈루냐 독립 주민투표에 관한 360만 건의 트윗 중 23.5%가 봇 계정에서 생성된 것으로 파악됐다.
미국 랜드연구소 크리스토퍼 폴 선임사회과학자는 2016년 미 대선 직전 일주일간 도널드 트럼프 공화당 후보 또는 힐러리 클린턴 민주당 후보를 지지하는 봇 생성 트윗 1천900만 건이 유포된 것으로 추정했다.
기술과 결합한 가짜뉴스의 창궐은 앞으로 AI를 이용해 기존의 동영상에 다른 사람의 얼굴과 말을 합성하는 딥페이크 기술로 새 국면을 맞고 있다.
조작이 어려워 상대적으로 신뢰할 수 있는 보루로 여겨졌던 동영상마저 그럴듯하게 꾸며낼 경우 가짜뉴스의 효과가 더 커질 수밖에 없어서다. 실제로 미 정치권 인사들을 대상으로 한 딥페이크 가짜 동영상이 소셜미디어 이용자를 속이는 일이 벌어지고 있다.
◇ 국내 양대 플랫폼도 가짜뉴스 방지에 잰걸음
세계적으로 생성형 AI, 딥페이크 등 기술의 발전과 함께 가짜뉴스에 의한 사회적 문제가 심각해지는 가운데 국내 양대 플랫폼인 네이버와 카카오도 기술과 서비스 측면에서 가짜뉴스 방지에 총력을 기울이고 있다.
네이버는 한국인터넷자율정책기구(KISO)의 회원사로서 언론의 기사 형식을 도용·사칭한 허위 게시물 등 뉴스 형태를 한 가짜 콘텐츠에 대해 적극적으로 대응하고 있다고 밝혔다.
지난 9월부터 정정보도 모음 페이지의 접근성을 강화하고 정정·반론·추후 보도 등을 모아 서비스하는 등 사실과 다른 내용을 담은 가짜뉴스의 확산 방지에도 나섰다.
카카오의 포털 사내 독립기업(CIC)인 다음도 자체 운영 정책을 통해 언론사의 명의나 언론사의 직책 등을 사칭·도용해 기사 형태를 갖춘 게시물 가운데 그 내용이 허위로 판단되는 게시물과 게시자를 규제하고 있다.
또 가짜뉴스라고 명시한 것은 아니지만, 가짜뉴스를 포함한 유해 콘텐츠를 인공지능(AI) 기술을 통해 2014년 7월부터 필터링하고 있다고 카카오는 소개했다.
개방형 플랫폼인 카카오톡의 경우 사생활 침해 소지 탓에 가짜뉴스나 사칭 사기 등에 대한 사전 검열이 사실상 불가능하지만, 권리 침해나 피해 신고가 접수되면 최대한 빠르게 소명 자료 등을 검토한 뒤 내부 운영 정책에 맞춰 제재하고 있다.
포털업계의 한 관계자는 "세계적으로 유튜브나 인스타그램 등 빅테크 플랫폼을 통해 가짜뉴스가 전방위로 퍼져 심각한 사회 문제로 대두된 것과 달리, 국내는 주요 포털의 자율규제로 상황이 다소나마 양호한 편"이라고 말했다.
firstcircle@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
