유해 콘텐츠로 몸살 앓는 페이스북…"AI 도입해 관리 강화"

유해 콘텐츠로 몸살 앓는 페이스북…"AI 도입해 관리 강화"
"AI 대응도 능동적으로 발전…1만5천명 리뷰 인력으로 보완"


(서울=연합뉴스) 이효석 기자 = 페이스북이 유해 콘텐츠 및 가짜뉴스 차단 등 콘텐츠 관리 절차 강화를 위해 인공지능(AI) 활용을 확대하고 있다.
페이스북은 17일 오후 아시아태평양 지역 국가 취재진을 대상으로 온라인 기자간담회를 열고 'AI를 통한 커뮤니티 규정 집행 업데이트 사항'을 공유했다.
페이스북에서 콘텐츠 관리를 위해 기술을 개발하는 '커뮤니티 무결성(integrity) 팀'의 크리스 팔로우 엔지니어와 라이언 반스 프로덕트 매니저가 간담회에 참석했다.
이들에 따르면 페이스북은 과거 서비스 초창기에는 유해 콘텐츠 관리를 이용자 신고에 의존하면서 수동적으로 대응했다.
이용자가 불쾌한 콘텐츠를 신고하면, 리뷰 인력이 페이스북 자체 커뮤니티 규정을 위반하는지 확인해 삭제 여부 등 대응 수위를 검토하는 방식이었다.

이후 페이스북이 도입한 AI 머신러닝 기술은 이용자 신고가 없어도 자체적으로 유해 콘텐츠를 가려내 리뷰 요원에게 넘기는 역할을 하기 시작했다.
그 결과 올해 2분기 기준으로 스팸 콘텐츠나 가짜 계정, 아동 나체 사진 및 아동 성 착취 이미지, 테러리즘 위험 게시물 등은 99%가 넘는 비율로 사전 감지에 성공했다.
다만 AI 기술은 처음에는 알아서 게시물을 필터링하거나 게시물에 유해 수준 우선순위를 부여하는 역할까지는 하지 못했다. 이 때문에 얼마 전까지는 능동적이라기보다는 수동적인 대응이 이뤄졌다고 페이스북은 자평했다.
최근에는 AI 기술이 발전해 필터링, 유해 수준 우선순위 부여, 중복 게시물 제거 등의 역할도 빠르게 해내고 있다. 능동적인 대응이 늘어난 것이다.

페이스북은 유해 콘텐츠로 판단되면 현재 확산 속도, 당장의 심각성, 규정 위반 정도 등을 검토해 유해 수준 우선순위를 정한다고 설명했다.
반스 매니저는 "AI가 우선순위 부여 역할도 하게 되면서 리뷰 인력이 시간을 많이 아낄 수 있게 됐고, 의사 결정에도 큰 도움을 받게 됐다"면서 "즉각적인 조치와 피드백이 가능해졌다"고 말했다.
팔로우 엔지니어와 반스 매니저는 "AI는 아직 완벽하지는 않다. 놓치고 누락하는 부분이 있기 마련"이라면서도 "50개 이상의 언어를 구사하는 1만5천명의 리뷰 인력이 주요 국가별로 배치돼있다"고 강조했다.
최근 미국에서는 대선 등에 관한 소셜미디어(SNS)상의 가짜뉴스와 유해 콘텐츠가 사회적 문제로 떠오르고 있다.
이에 페이스북은 대선 종료 후 정치광고 게재를 중단했고, 이 기간을 연장하는 등 대응하고 있다.
그러나 영국 BBC방송이 "다수 페이스북 그룹에서 카멀라 해리스 미국 부통령 당선인의 출신이나 피부색·성별을 두고 혐오 발언을 일삼고 있다"고 보도하는 등 관련 우려가 사그라지지 않고 있다.
hyo@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>