IT기업 '악플과의 전쟁' 비밀병기는 AI

정보기술(IT) 기업들이 악성 댓글·허위 정보와 끊임없는 ‘기술 전쟁’을 벌이고 있다. 댓글과 리뷰는 IT 플랫폼의 가장 큰 무기이자 골칫거리다. 이들 정보는 타인의 생각을 살펴보는 재미를 주고 제품·서비스를 선택할 때 도움을 주지만 무분별한 비방과 가짜 정보의 온상이 되기도 한다. ‘악플과의 전쟁’에서 이기기 위해 IT 기업들이 꺼낸 무기는 인공지능(AI)이다. 포털, 게임회사뿐만 아니라 온라인동영상서비스(OTT), 배달 앱 업체 등도 AI 프로그램을 잇달아 도입하고 있다.

포털·게임·OTT·배달 앱까지

네이버는 지난해 4월 ‘AI클린봇’을 선보였다. 비속어가 들어간 댓글을 탐지해 자동으로 차단하는 프로그램이다. 이를 피해가는 악성 댓글이 계속 발견되자 네이버는 프로그램을 한층 개선했다. 비속어가 없는 모욕적인 표현도 잡아낼 수 있도록 한 ‘AI클린봇 2.0’을 지난 6월 내놨다. AI의 학습 재료를 확보하기 위해 35만 개 댓글의 악성 여부를 사람이 일일이 구분했다.

‘패드립’(패륜적 욕설)이 일상적으로 오가는 게임 소통창을 바꾸기 위한 기술적 시도도 이어지고 있다. 넥슨은 AI 연구조직인 ‘인텔리전스랩스’를 통해 사용자의 욕설, 혐오 표현, 도박 광고 등을 차단하는 기술을 개발했다. 사용자가 악플 탐지 프로그램을 피해가기 위해 특수문자를 조합해서 욕설을 해도 잡아낸다.

OTT업체 왓챠는 플랫폼 사용자가 급격하게 늘면서 AI 프로그램을 도입했다. 기존에는 CS(고객만족) 인력이 감상평을 일일이 확인하는 방법을 썼다. 왓챠는 악성 리뷰를 더 정교하게 차단하기 위해 사람과 AI가 협업하는 방식을 택했다. 왓챠 관계자는 “확실한 욕설은 AI가 차단하고, 모호한 표현은 사람이 판단하는 방식으로 악성 감상평을 쳐내고 있다”고 설명했다.

배달 앱 분야에서는 경쟁 음식점의 인기를 떨어뜨리기 위해 악성 리뷰를 달거나, 운영하는 가게의 주문 수를 올리려 가짜 호평을 다는 일이 많다. 배달의민족(우아한형제들)은 AI로 비속어, 선정적 내용·이미지 등을 차단하고 있다. 요기요(딜리버리히어로코리아)는 가짜 사진 리뷰를 잡기 위해 AI 기술을 고도화하고 있다. 올해 말부터는 글로 된 리뷰도 AI로 검수할 계획이다.

“댓글창 쉽게 닫기 어려워”

IT업계 관계자는 “악성 댓글과의 싸움은 끝이 보이지 않는 전쟁”이라고 말했다. 기술이 고도화하고 있지만 악성 댓글도 끊임없이 변주하고 있어서다. 하나의 비속어에는 최대 10만 개 이상의 변칙어가 있다. 단어의 맥락도 계속해서 바뀐다. 과거에는 ‘~충’과 같은 비하적 표현이 쓰이지 않았지만 이제는 대표적인 욕설이 됐다. 유명인의 이름 등을 활용한 욕설도 AI가 선제적으로 거르기 어렵다.

어디까지를 ‘악플’로 볼 것인가도 문제다. 비평과 악의적인 댓글을 구분하기 힘든 경우가 많다. 악성 댓글을 모두 막기 어렵다는 이유로 댓글과 리뷰 창을 쉽게 닫을 수도 없다. 댓글과 리뷰가 사용자경험(UX)의 핵심으로 자리잡았기 때문이다. 업계 관계자는 “골칫거리라는 이유로 댓글 창을 모두 닫았다가는 경쟁 플랫폼에 사용자를 뺏기기 십상”이라고 말했다.

네이버는 지난 7일 ‘네이버 스포츠’의 댓글 기능을 중단한다고 발표했다. 동시에 AI 기술이 고도화하면 댓글창을 다시 열겠다고 암시했다. 네이버는 공식 블로그를 통해 “스포츠 서비스에서 자주 발견되는 댓글의 유형을 면밀히 분석해 악성 댓글의 노출을 자동 제어하는 기술을 추가 개발 중”이라며 “실효성이 담보되면 댓글 중단 해지 문제를 논의하겠다”고 밝혔다.

최한종 기자 onebell@hankyung.com