러시아가 퍼뜨린 허위정보에 오염된 AI챗봇들…친러 의제 확산

러시아가 퍼뜨린 허위정보에 오염된 AI챗봇들…친러 의제 확산
러, 가짜정보 쏟아내 서방 주요 AI챗봇 학습시켜…자국 우호 정보 대거표출

(서울=연합뉴스) 이신영 기자 = 러시아가 온라인상에 광범위한 허위 정보를 퍼뜨려 서방의 인공지능(AI) 챗봇 데이터를 오염시키고 있다는 조사 결과가 나왔다.
친(親) 러시아 의제를 확대재생산하기 위한 것으로 이미 오픈AI의 챗 GPT4와 구글 제미니 등 10개 주요 챗봇이 이런 선전전에 영향을 받은 것으로 나타났다.
AFP통신은 9일(현지시간) 미국 허위 정보 추적 사이트 뉴스가드의 조사 결과 10개 AI 챗봇이 러시아 선전 네트워크인 '프라브다'가 퍼트린 허위 사실을 33% 이상 되풀이하며 친러시아 의제를 확산하고 있는 것으로 나타났다고 보도했다.
프라브다는 러시아에 우호적인 정보를 전파하는 선전 네트워크다. 이 네트워크는 자체적으로 콘텐츠를 생산하지는 않고 러시아 국영 언론 기사나 친러시아 정보를 올리는 인플루언서의 소셜미디어(SNS) 내용을 재인용해 전파하고 있다.
뉴스가드 조사에 따르면 프라브다는 대형언어모델(LLM)에 허위 정보를 쏟아내 AI 챗봇의 데이터를 왜곡시키고 있었다.
이른바 'LLM 그루밍'이라고 불리는 방식으로 방대한 양의 정보를 학습시켜 러시아에 우호적인 결과가 표출되도록 하는 식이다.
뉴스가드에 따르면 지난해에만 360만개에 달하는 러시아 선전 글과 기사 등이 서방의 AI 시스템으로 흘러 들어갔다.
이에 따라 챗GPT4와 그록, 코파일럿, 메타AI, 제미니 등 대표적인 AI챗봇들이 모두 왜곡 정보에 영향을 받았다.
특히 7개 챗봇은 표출한 결과에 프라브다에 실린 기사를 출처로 직접 인용하기까지 했다.
뉴스가드가 볼로디미르 젤렌스키 우크라이나 대통령이 도널드 트럼프 미국 대통령과의 백악관 회담이 파국으로 끝난 뒤 우크라이나에서 트루스소셜을 금지했다는 허위 정보에 관해 묻자 6개 챗봇이 프라브다에 실린 기사를 인용하면서 이를 마치 사실인 것처럼 답했다.
전문가들은 미국이 급속히 러시아 쪽으로 밀착하는 상황에서 이런 허위 선전정보가 더 확산할 수 있다고 우려했다.

미국은 최근 트럼프 대통령이 친러시아 행보를 보이는 가운데 러시아를 겨냥한 사이버 작전도 중지한 상태다.
비영리단체 '아메리칸 선라이트 프로젝트'의 니나 잔코위츠는 프라브다의 영향력이 커져 친러시아 콘텐츠가 LLM 학습데이터에 넘쳐날 수 있다고 경고했다.
그는 "허위 정보를 대규모로 확산시키는 프라브다의 능력이 전례 없는 수준"이라며 "러시아의 영향력이 확대되고 고도화됨에 따라 전 세계의 민주주의 담론에도 직접적인 위협이 되고 있다"고 짚었다.
미국 보안관 출신으로 러시아로 건너가 친크렘린 선전가로 활동하고 있는 존 마크 두건은 지난 1월 모스크바에서 열린 콘퍼런스에서 "러시아의 관점에서 러시아의 이야기를 밀어붙인다면 전 세계의 AI를 실제로 바꿀 수 있다"며 "AI는 두려워할 도구가 아니라 활용해야 할 도구"라고 말한 바 있다.
eshiny@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>

​