"페이스북, 테러 관련 콘텐츠 자동 생성…AI가 못 걸러내"

"페이스북, 테러 관련 콘텐츠 자동 생성…AI가 못 걸러내"
테러단체 페북 페이지 기념일에도 '축하', '추억보기' 영상 만들어줘

(서울=연합뉴스) 임성호 기자 = 페이스북의 인공지능(AI) 시스템이 테러 관련 콘텐츠를 걸러내지 못하고 의도치 않게 관련 콘텐츠까지 자동 생성하고 있다는 내부고발이 나왔다.

미국 워싱턴 소재 내부고발자센터(NWC)는 익명의 제보자로부터 이런 첩보를 입수해 미국 증권거래위원회(SEC)에 이를 전달했다고 10일(현지시간) AFP통신이 보도했다.
센터는 미 정부가 '테러 집단'으로 규정해 금지한 단체들에 '좋아요'를 눌렀거나 연관이 있는 페이스북 사용자 3천명의 페이지를 5개월간 조사해 이런 제보를 검증했다.
조사 결과 이슬람 극단주의 무장세력인 '이슬람국가'(IS)와 알카에다 등이 페이스북에서 '공공연히' 활동하고 있는 것으로 나타났다.
특히 센터는 페이스북의 AI 프로그램이 많은 조회수와 '좋아요'를 받은 테러 관련 페이지에서 자동으로 '축하'와 '추억 보기' 영상을 생성하고 있다는 점을 우려했다.

페이스북은 이용자들이 단체 페이지에 올린 사진과 영상을 모아 두었다가 페이지 창설 기념일이나 연말 등에 이를 자동으로 '축하' 또는 '추억 보기'라는 제목의 슬라이드쇼 영상으로 만들어 주는 서비스를 제공하고 있다.
테러 집단의 페이지에 올라온 테러 관련 콘텐츠가 삭제되지 않았다면, 페이스북이 '축하' 또는 '추억 보기' 영상을 통해 자동으로 관련 콘텐츠를 재생산한 셈이 되는 것이다.
센터는 48쪽짜리 고발장 요약본에서 "테러 관련 콘텐츠를 근절하려는 페이스북의 노력은 미약했으며 효과적이지 못했다"면서 "더욱 우려되는 점은 페이스북이 콘텐츠 자동생산 기술을 통해 테러 관련 콘텐츠를 만들어내고 널리 퍼트린 것"이라고 지적했다.

이와 관련해 페이스북은 AFP에 "2년 전보다 훨씬 높은 성공률로" 테러 관련 콘텐츠를 제거하고 있으며, 관련 기술에도 막대한 투자를 해 왔다고 해명했다.
페이스북은 2017년 6월 영국 런던 브리지 테러 직후 자사 플랫폼에서 테러에 '적대적인 환경'을 만들겠다고 선언한 바 있다.
그런데도 페이스북을 비롯한 소셜미디어들은 증오와 폭력을 담은 메시지를 충분히 차단하고 있지 못한다는 비판을 받아 왔다.
지난 3월에도 페이스북 AI가 뉴질랜드 이슬람사원(모스크) 테러 실시간 중계 영상을 식별해 차단하지 못하는 바람에 며칠 동안이나 해당 영상의 복사본 등이 페이스북에 돌아다니기도 했다.
sh@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>