[뉴팬데믹! 가짜뉴스] ⑥ 온상 된 소셜미디어…IT업계 '페이크 감별' 발등의불
전쟁 계정 5개 중 1개 가짜, '유령계정'發…의심계정 차단·콘텐츠 수십만건 삭제
'아랍어·히브리어 능통' 대규모 인력 투입…전담부서 구축·24시간 모니터링
美대선 앞두고 정치 광고 등에 'AI 활용' 공개 요구…AI 콘텐츠에 워터마크도
(샌프란시스코=연합뉴스) 김태종 특파원 = 소셜미디어(SNS)가 가짜뉴스의 온상으로 지목되면서 페이스북과 옛 트위터 엑스(X) 등 SNS 플랫폼들도 촉각을 세우고 있다.
내년 미 대선을 앞두고 SNS에 유통되는 가짜뉴스에 대한 경계령이 이미 발동된 데 더해 이스라엘과 팔레스타인 무장정파 하마스간 전쟁 국면에서도 가짜뉴스가 극에 달하면서다.
자극적인 가짜뉴스는 순식간에 수십만회가 조회되고, 퍼다 나르기를 통해 다른 SNS로 확산하고 있다. 이스라엘의 한 모니터링 기관에 따르면 이번 전쟁 관련 SNS 계정 5개 중 1개는 가짜다.
이에 이들 플랫폼은 '가짜뉴스'에 대응하기 위한 전담 부서를 신설하고, 대규모 인력을 투입해 실시간 모니터링을 강화하고 있다.
가짜 정보로 의심되는 콘텐츠와 의심 계정은 즉시 삭제하고, 정치 광고 등에는 인공지능(AI) 활용 여부를 공개해 '진짜' 같은 가짜를 걸러낸다는 방침이다.
미 대선을 비롯, 내년 각국이 주요 선거를 앞두고 있는 점도 가짜뉴스를 예방·차단하기 위한 빅테크 기업들의 발걸음을 더욱 분주하게 하고 있다.
◇ 전쟁 계정 5개 중 1개는 '가짜'…"온라인 병사 같다"
가짜뉴스의 확산은 '가짜 계정'을 통해 주로 확산하고 있다. 가짜 계정을 이용해 의도적으로 가짜뉴스를 확산시킴으로써 유리한 여론을 형성하려는 의도다.
인공지능(AI)을 기반으로 한 딥페이크 기술이 콘텐츠 조작에 손쉽게 이용되면서 가짜뉴스 구분을 더욱 어렵게 하고 있다.
하마스의 이스라엘 공습 이후 '이스라엘·하마스 전시 상황'이라는 제목의 영상이 한 SNS에 게시됐다. 이 SNS 계정 소유자는 'BBC 기자'라고 돼 있었다.
그러나 이 영상은 인공지능(AI)으로 합성해 만든 가짜였고, 영상이 게시된 계정 역시 가짜였다. BBC도 계정 주인을 부인했다.
이스라엘의 허위 정보 모니터링 플랫폼 사이아브라(Cyabra)에 따르면 전쟁 발생 일주일 후 전쟁 관련 정보를 올린 SNS 계정 5개 중 1개에 달했다.
사이아브라는 X와 틱톡 등 주요 SNS 플랫폼에서 활동하는 가짜 계정을 약 4만 개로 추정했다. 여기에는 가짜 신분으로 만든 계정과 자동으로 콘텐츠를 생산하고 전달하는 봇(bot) 계정 등도 포함됐다.
이들 플랫폼 대다수는 하마스에 우호적인 계정이라고 사이아브라는 설명했다.
특히 4만개의 계정 중 상당수는 1년 전에 만들어진 뒤 오랫동안 휴면 상태에 있다가 이번 전쟁을 계기로 본격적인 활동에 나섰다. 하마스의 이스라엘 공습 이후 일부 계정에서는 갑자기 하루에 600개 이상의 콘텐츠가 게시됐다.
사이아브라는 "계정들이 오랫동안 휴면 상태로 있었던 시기와 규모를 보면 하마스가 이번 공격을 위해 얼마나 많은 준비를 해왔는지 알 수 있다"며 "마치 온라인 전장에 투입되기를 기다리는 온라인 병사와 같다"고 설명했다.
하마스에 우호적인 수만 명의 가짜 온라인 테러리스트들이 전 세계에 가짜 뉴스를 퍼뜨리고 있다는 것이다.
◇ 계정은 차단·콘텐츠 수십만건 삭제…SNS, 가짜뉴스와 전쟁
소통의 창인 SNS가 가짜뉴스로 불안을 확산하고 있다는 비판이 커지면서 페이스북과 X, 틱톡, 유튜브 등 주요 플랫폼은 가짜뉴스와 전쟁을 벌이고 있다.
이들 플랫폼은 가짜뉴스 확산을 막기 위해 수십만건에 달하는 콘텐츠를 삭제하고 이와 연계한 계정도 차단하고 있다.
하마스 공습 후 가짜뉴스가 가장 많이 확산한 일론 머스크 테슬라 최고경영자(CEO)가 소유한 X는 하마스와 연계한 계정을 차단하고 콘텐츠 수만개를 삭제했다.
린다 야카리노 X CEO는 하마스 공격 이후 며칠간 "수만개의 콘텐츠를 삭제하거나 오해 소지가 있는 콘텐츠임을 알리는 라벨을 붙였다"고 밝혔다.
또 가짜뉴스 등을 게시하는 것으로 추정되는 수백개의 하마스 연계 계정을 확인하고 차단했다고 전했다.
페이스북과 인스타그램, 왓츠앱 등을 운영하는 메타는 가짜뉴스와 폭력적 콘텐츠 등에 대한 모니터링 기준을 일시적으로 낮추는 방식으로 '감시활동'을 강화했다.
이를 통해 전쟁 시작 일주일 만에 80만건의 콘텐츠를 삭제했고, 가짜뉴스를 유통하는 것으로 의심되는 계정을 막았다.
중국 바이트댄스가 소유한 틱톡은 "50만 개 이상의 동영상을 제거하고 이 지역에서 8천개의 라이브 스트리밍을 폐쇄했다"고 밝혔다.
구글 유튜브도 가짜 뉴스로 의심되는 수천 개의 영상을 삭제하고, 텔레그램도 하마스와 연계된 계정을 차단했다.
아울러 AI 기술 등을 이용해 가짜뉴스와 폭력적 콘텐츠에 대한 자동 감지 시스템을 업데이트했다.
또 미성년자에 대해서는 특정 주제에 대한 반복적인 콘텐츠 추천을 제한하기로 했다.
◇ '전담부서 구축' 24시간 모니터링…정책 기준도 강화
이들 플랫폼은 가짜뉴스와 전쟁을 위해 대규모 자원을 투입하며 전담 부서를 구축하는 등 콘텐츠 등에 대한 24시간 모니터링을 강화하고 있다.
메타는 이스라엘과 하마스 간 충돌 이후 가짜뉴스에 대응하기 위한 '특별운영센터'를 구성했다.
'특별운영센터'는 히브리어와 아랍어에 능통한 전문가 수십명들로 꾸려졌으며, 실시간 게시물 모니터링을 통해 가짜뉴스를 걸러내고 있다.
틱톡도 가짜뉴스 게시물에 대한 감시 강화를 위해 지휘센터(command centre)를 설치했다. 아랍어와 히브리어를 구사하는 전문가를 두고 콘텐츠 내용을 일일이 체크하고 있다. 인원도 대거 배치했다.
틱톡은 "우리 공동체의 안전과 플랫폼의 무결성을 유지하기 위해 즉시 상당한 자원과 인력을 동원했다"고 설명했다.
구글 유튜브는 24시간 모니터링 체제를 강화하면서 의심되는 영상에 대한 감시를 강화하고 있다.
자체 SNS 이용 정책 기준도 일시적으로 강화했다.
메타는 정책을 위반한 특정 인스타그램 해시태그는 검색할 수 없게 하고, 과거 정책 위반자는 페이스북과 인스타그램 라이브 사용도 제한했다.
이스라엘과 하마스 간 전쟁과 관련한 게시물의 댓글도 일시 제한했다.
가짜뉴스의 무분별한 확산을 최소화하기 위해 특정 지역 이용자의 페이스북 공개 게시물에 댓글을 달 수 있는 범위 설정을 친구와 팔로워로만 한정했다.
◇ 정치 광고에 딥페이크 차단…"AI 활용 여부 공개 의무화"
급속도로 고도화한 AI 기술이 선거를 앞두고 정치 광고 등에서 악용돼 딥페이크를 활용한 가짜뉴스가 확산할 우려가 커지면서 이에 대한 대책도 속속 나오고 있다.
페이스북과 인스타그램, 왓츠앱을 운영하는 메타는 내년부터 정치 등의 광고에 다른 기업의 AI 기술을 사용한 경우 이를 공개하도록 전 세계 광고주에게 요구하기로 했다.
이들 광고에 이미지 생성기인 '달리'와 같은 제3자 AI 도구를 사용할 수 있지만, 이를 이용했다는 것을 공개해야 한다는 것이다.
특히 자사의 AI 기술은 정치나 사회적 이슈 광고는 물론 주택·고용·제약·금융 서비스 관련 광고를 제작할 때는 지원하지 않기로 했다.
이에 따라 내년부터 메타의 SNS 플랫폼에 정치 광고를 하기 위해서는 AI 도구 사용 여부를 공개해야 하며, 그렇지 않을 경우 광고는 거부될 수 있다.
메타는 이용자가 각각 20억명에 달하는 페이스북과 인스타그램, 왓츠앱 등을 운영하고 있으며, 이들 SNS에 싣는 광고는 메타의 주 수입원이다.
앞서 구글은 AI를 이용한 유튜브나 다른 구글 플랫폼의 정치 광고에 이용자들의 눈에 잘 띄는 경고 딱지 부착을 의무화했다.
이에 더해 유튜브는 내년부터 크리에이터가 동영상에 AI를 사용했는지 여부를 공개하도록 하는 새로운 규칙을 시행할 계획이다.
크리에이터는 AI 도구를 이용해 '변경 또는 합성' 동영상을 제작했는지 여부를 공개해야 하고 공개하지 않은 콘텐츠는 삭제할 방침이다. 또 이런 크리에이터는 유튜브의 수익 공유 프로그램에서도 제외될 수 있다고 설명했다.
틱톡은 정치 광고를 아예 차단했다. 마이크로소프트(MS)와 아마존, 메타, 구글 등은 또 AI로 만든 콘텐츠에 워터마크를 넣어 AI를 활용한 사기 등을 차단하는 방안을 강구 중이다.
taejong75@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
전쟁 계정 5개 중 1개 가짜, '유령계정'發…의심계정 차단·콘텐츠 수십만건 삭제
'아랍어·히브리어 능통' 대규모 인력 투입…전담부서 구축·24시간 모니터링
美대선 앞두고 정치 광고 등에 'AI 활용' 공개 요구…AI 콘텐츠에 워터마크도
(샌프란시스코=연합뉴스) 김태종 특파원 = 소셜미디어(SNS)가 가짜뉴스의 온상으로 지목되면서 페이스북과 옛 트위터 엑스(X) 등 SNS 플랫폼들도 촉각을 세우고 있다.
내년 미 대선을 앞두고 SNS에 유통되는 가짜뉴스에 대한 경계령이 이미 발동된 데 더해 이스라엘과 팔레스타인 무장정파 하마스간 전쟁 국면에서도 가짜뉴스가 극에 달하면서다.
자극적인 가짜뉴스는 순식간에 수십만회가 조회되고, 퍼다 나르기를 통해 다른 SNS로 확산하고 있다. 이스라엘의 한 모니터링 기관에 따르면 이번 전쟁 관련 SNS 계정 5개 중 1개는 가짜다.
이에 이들 플랫폼은 '가짜뉴스'에 대응하기 위한 전담 부서를 신설하고, 대규모 인력을 투입해 실시간 모니터링을 강화하고 있다.
가짜 정보로 의심되는 콘텐츠와 의심 계정은 즉시 삭제하고, 정치 광고 등에는 인공지능(AI) 활용 여부를 공개해 '진짜' 같은 가짜를 걸러낸다는 방침이다.
미 대선을 비롯, 내년 각국이 주요 선거를 앞두고 있는 점도 가짜뉴스를 예방·차단하기 위한 빅테크 기업들의 발걸음을 더욱 분주하게 하고 있다.
◇ 전쟁 계정 5개 중 1개는 '가짜'…"온라인 병사 같다"
가짜뉴스의 확산은 '가짜 계정'을 통해 주로 확산하고 있다. 가짜 계정을 이용해 의도적으로 가짜뉴스를 확산시킴으로써 유리한 여론을 형성하려는 의도다.
인공지능(AI)을 기반으로 한 딥페이크 기술이 콘텐츠 조작에 손쉽게 이용되면서 가짜뉴스 구분을 더욱 어렵게 하고 있다.
하마스의 이스라엘 공습 이후 '이스라엘·하마스 전시 상황'이라는 제목의 영상이 한 SNS에 게시됐다. 이 SNS 계정 소유자는 'BBC 기자'라고 돼 있었다.
그러나 이 영상은 인공지능(AI)으로 합성해 만든 가짜였고, 영상이 게시된 계정 역시 가짜였다. BBC도 계정 주인을 부인했다.
이스라엘의 허위 정보 모니터링 플랫폼 사이아브라(Cyabra)에 따르면 전쟁 발생 일주일 후 전쟁 관련 정보를 올린 SNS 계정 5개 중 1개에 달했다.
사이아브라는 X와 틱톡 등 주요 SNS 플랫폼에서 활동하는 가짜 계정을 약 4만 개로 추정했다. 여기에는 가짜 신분으로 만든 계정과 자동으로 콘텐츠를 생산하고 전달하는 봇(bot) 계정 등도 포함됐다.
이들 플랫폼 대다수는 하마스에 우호적인 계정이라고 사이아브라는 설명했다.
특히 4만개의 계정 중 상당수는 1년 전에 만들어진 뒤 오랫동안 휴면 상태에 있다가 이번 전쟁을 계기로 본격적인 활동에 나섰다. 하마스의 이스라엘 공습 이후 일부 계정에서는 갑자기 하루에 600개 이상의 콘텐츠가 게시됐다.
사이아브라는 "계정들이 오랫동안 휴면 상태로 있었던 시기와 규모를 보면 하마스가 이번 공격을 위해 얼마나 많은 준비를 해왔는지 알 수 있다"며 "마치 온라인 전장에 투입되기를 기다리는 온라인 병사와 같다"고 설명했다.
하마스에 우호적인 수만 명의 가짜 온라인 테러리스트들이 전 세계에 가짜 뉴스를 퍼뜨리고 있다는 것이다.
◇ 계정은 차단·콘텐츠 수십만건 삭제…SNS, 가짜뉴스와 전쟁
소통의 창인 SNS가 가짜뉴스로 불안을 확산하고 있다는 비판이 커지면서 페이스북과 X, 틱톡, 유튜브 등 주요 플랫폼은 가짜뉴스와 전쟁을 벌이고 있다.
이들 플랫폼은 가짜뉴스 확산을 막기 위해 수십만건에 달하는 콘텐츠를 삭제하고 이와 연계한 계정도 차단하고 있다.
하마스 공습 후 가짜뉴스가 가장 많이 확산한 일론 머스크 테슬라 최고경영자(CEO)가 소유한 X는 하마스와 연계한 계정을 차단하고 콘텐츠 수만개를 삭제했다.
린다 야카리노 X CEO는 하마스 공격 이후 며칠간 "수만개의 콘텐츠를 삭제하거나 오해 소지가 있는 콘텐츠임을 알리는 라벨을 붙였다"고 밝혔다.
또 가짜뉴스 등을 게시하는 것으로 추정되는 수백개의 하마스 연계 계정을 확인하고 차단했다고 전했다.
페이스북과 인스타그램, 왓츠앱 등을 운영하는 메타는 가짜뉴스와 폭력적 콘텐츠 등에 대한 모니터링 기준을 일시적으로 낮추는 방식으로 '감시활동'을 강화했다.
이를 통해 전쟁 시작 일주일 만에 80만건의 콘텐츠를 삭제했고, 가짜뉴스를 유통하는 것으로 의심되는 계정을 막았다.
중국 바이트댄스가 소유한 틱톡은 "50만 개 이상의 동영상을 제거하고 이 지역에서 8천개의 라이브 스트리밍을 폐쇄했다"고 밝혔다.
구글 유튜브도 가짜 뉴스로 의심되는 수천 개의 영상을 삭제하고, 텔레그램도 하마스와 연계된 계정을 차단했다.
아울러 AI 기술 등을 이용해 가짜뉴스와 폭력적 콘텐츠에 대한 자동 감지 시스템을 업데이트했다.
또 미성년자에 대해서는 특정 주제에 대한 반복적인 콘텐츠 추천을 제한하기로 했다.
◇ '전담부서 구축' 24시간 모니터링…정책 기준도 강화
이들 플랫폼은 가짜뉴스와 전쟁을 위해 대규모 자원을 투입하며 전담 부서를 구축하는 등 콘텐츠 등에 대한 24시간 모니터링을 강화하고 있다.
메타는 이스라엘과 하마스 간 충돌 이후 가짜뉴스에 대응하기 위한 '특별운영센터'를 구성했다.
'특별운영센터'는 히브리어와 아랍어에 능통한 전문가 수십명들로 꾸려졌으며, 실시간 게시물 모니터링을 통해 가짜뉴스를 걸러내고 있다.
틱톡도 가짜뉴스 게시물에 대한 감시 강화를 위해 지휘센터(command centre)를 설치했다. 아랍어와 히브리어를 구사하는 전문가를 두고 콘텐츠 내용을 일일이 체크하고 있다. 인원도 대거 배치했다.
틱톡은 "우리 공동체의 안전과 플랫폼의 무결성을 유지하기 위해 즉시 상당한 자원과 인력을 동원했다"고 설명했다.
구글 유튜브는 24시간 모니터링 체제를 강화하면서 의심되는 영상에 대한 감시를 강화하고 있다.
자체 SNS 이용 정책 기준도 일시적으로 강화했다.
메타는 정책을 위반한 특정 인스타그램 해시태그는 검색할 수 없게 하고, 과거 정책 위반자는 페이스북과 인스타그램 라이브 사용도 제한했다.
이스라엘과 하마스 간 전쟁과 관련한 게시물의 댓글도 일시 제한했다.
가짜뉴스의 무분별한 확산을 최소화하기 위해 특정 지역 이용자의 페이스북 공개 게시물에 댓글을 달 수 있는 범위 설정을 친구와 팔로워로만 한정했다.
◇ 정치 광고에 딥페이크 차단…"AI 활용 여부 공개 의무화"
급속도로 고도화한 AI 기술이 선거를 앞두고 정치 광고 등에서 악용돼 딥페이크를 활용한 가짜뉴스가 확산할 우려가 커지면서 이에 대한 대책도 속속 나오고 있다.
페이스북과 인스타그램, 왓츠앱을 운영하는 메타는 내년부터 정치 등의 광고에 다른 기업의 AI 기술을 사용한 경우 이를 공개하도록 전 세계 광고주에게 요구하기로 했다.
이들 광고에 이미지 생성기인 '달리'와 같은 제3자 AI 도구를 사용할 수 있지만, 이를 이용했다는 것을 공개해야 한다는 것이다.
특히 자사의 AI 기술은 정치나 사회적 이슈 광고는 물론 주택·고용·제약·금융 서비스 관련 광고를 제작할 때는 지원하지 않기로 했다.
이에 따라 내년부터 메타의 SNS 플랫폼에 정치 광고를 하기 위해서는 AI 도구 사용 여부를 공개해야 하며, 그렇지 않을 경우 광고는 거부될 수 있다.
메타는 이용자가 각각 20억명에 달하는 페이스북과 인스타그램, 왓츠앱 등을 운영하고 있으며, 이들 SNS에 싣는 광고는 메타의 주 수입원이다.
앞서 구글은 AI를 이용한 유튜브나 다른 구글 플랫폼의 정치 광고에 이용자들의 눈에 잘 띄는 경고 딱지 부착을 의무화했다.
이에 더해 유튜브는 내년부터 크리에이터가 동영상에 AI를 사용했는지 여부를 공개하도록 하는 새로운 규칙을 시행할 계획이다.
크리에이터는 AI 도구를 이용해 '변경 또는 합성' 동영상을 제작했는지 여부를 공개해야 하고 공개하지 않은 콘텐츠는 삭제할 방침이다. 또 이런 크리에이터는 유튜브의 수익 공유 프로그램에서도 제외될 수 있다고 설명했다.
틱톡은 정치 광고를 아예 차단했다. 마이크로소프트(MS)와 아마존, 메타, 구글 등은 또 AI로 만든 콘텐츠에 워터마크를 넣어 AI를 활용한 사기 등을 차단하는 방안을 강구 중이다.
taejong75@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
