네이버 댓글 AI, 비속어 없어도 문장 맥락으로 악플 잡는다

네이버 댓글 AI, 비속어 없어도 문장 맥락으로 악플 잡는다
'AI 클린봇' 빅데이터로 고도화…AI가 상습 악플러 이용 제한도


(서울=연합뉴스) 이효석 기자 = 앞으로 네이버 댓글은 인공지능(AI)이 문장 맥락까지 고려해 모욕적인 표현을 가려낸다.
네이버는 AI가 악성 댓글 노출을 막는 'AI 클린봇'을 한층 고도화했다고 19일 밝혔다.
AI 클린봇은 그동안 욕설과 비속어가 들어간 댓글을 자동으로 탐지해 블라인드 처리해왔다. 지난해 4월부터 웹툰, 쥬니버, 스포츠, 뉴스 등에 차례로 적용됐다.
업그레이드된 AI 클린봇은 이날부터 악성 댓글 판단 기준을 '욕설 단어'에서 '문장 맥락'으로 확대한다.
비속어가 없어도 문장 맥락을 고려해 모욕적이거나 무례하다고 판단되면 블라인드 처리하는 것이다.
네이버는 악성 댓글 빅데이터를 기반으로 축약어와 오탈자가 많은 구어체 댓글의 특성을 분석했다고 설명했다.
업그레이드된 AI 클린봇은 악성 댓글 상습 작성자도 자동으로 판단한다.
AI 클린봇이 인지한 '상습 악플러'는 일정 기간 댓글 서비스를 이용할 수 없게 제한된다.
네이버는 댓글 이용 제한 조처 반복 정도에 따라 댓글 작성 가능 개수와 공감을 누를 수 있는 한도를 제한하는 정책을 준비하고 있다고 예고했다.
네이버 관계자는 "비속어 한 개에 많게는 10만개 이상의 변칙이 존재하기 때문에 AI 클린봇 만으로 악플 감지 효과를 100% 기대하기는 버겁다"면서도 "다양한 AI 모델과 빅데이터 학습으로 정밀한 AI 클린봇을 구축하겠다"라고 말했다.
hyo@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>