카카오 "댓글감시 AI 적용하니 욕설·비속어 3분의 1로 뚝"

카카오 "댓글감시 AI 적용하니 욕설·비속어 3분의 1로 뚝"



(서울=연합뉴스) 임은진 기자 = 카카오[035720]는 인공지능(AI)에 기반한 댓글 필터링 기능인 '세이프봇'을 적용했더니 욕설과 비속어 댓글이 평소의 3분의 1 수준으로 대폭 줄었다고 14일 밝혔다.
카카오에 따르면 세이프봇 기능을 적용하기 전인 2020년 하반기와 적용 후인 올해를 비교한 결과, 욕설과 비속어가 포함된 댓글이 월평균 63.8% 줄었다.
전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌다.

2020년 12월 적용된 세이프봇은 욕설과 비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 필터링하는 기능이다.
욕설과 비속어를 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글이 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 완료한다.
카카오는 "세이프봇이 욕설이나 비속어가 담긴 댓글을 신속하게 필터링하면서 이용자도 자발적으로 건전한 댓글 문화에 동참한 것으로 분석된다"며 "증오 발언을 판별하는 학습 데이터를 구축하고 내년 상반기에 이를 세이프봇에 적용하는 등 성능을 더 강화할 것"이라고 말했다.
engine@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>