日 야후 뉴스 댓글 월 35만건 삭제…헤이트 스피치도 많아

日 야후 뉴스 댓글 월 35만건 삭제…헤이트 스피치도 많아
AI가 71％ 지워…70명 순찰팀도 운영


(도쿄=연합뉴스) 이세원 특파원 = 일본 포털사이트인 야후 저팬에서 삭제된 댓글 중 특정 집단에 대한 차별이나 혐오를 조장하는 표현인 '헤이트 스피치'(hate speech)가 꽤 많았던 것으로 22일 파악됐다.
야후 저팬을 운영하는 야후 주식회사가 전날 공개한 '투명성 보고서'에 의하면 야후 뉴스 코너에는 한 달에 약 1천50만 건(올해 3월 기준)의 이용자 댓글이 있었으며 이 가운데 35만 건 정도가 삭제됐다.
삭제된 댓글 중 71％는 인공지능(AI) 시스템에 의해 처리됐다.
22％는 약 70명 규모로 24시간 활동하는 야후 측 순찰팀에 의해, 나머지 7％는 규칙 위반이라는 외부의 지적 등을 계기로 각각 삭제됐다.
AI에 의한 자동 삭제가 아니라 사람의 판단에 의해 처리된 것이 삭제된 뉴스 댓글의 29％인 셈이다.
사람이 판단한 사례를 표본 추출해 분석한 결과 65.4％가 불쾌감을 이유로 삭제됐으며 이 가운데 11.7％가 민족차별, 헤이트 스피치에 해당하는 것으로 분류됐다.
제시된 수치를 바탕으로 역산해보면 한 달에 약 8천 개에 육박하는 댓글이 차별을 조장하는 내용이라는 판단에 따라 삭제됐다는 계산이 나온다.
AI에 의해 삭제된 댓글들은 사유가 분석되지 않았으나 이를 포함하면 차별적인 콘텐츠라서 삭제 대상이 된 댓글은 훨씬 많았을 것으로 추정된다.
야후 관계자는 AI가 삭제한 댓글에도 차별적인 표현들이 있었을 것으로 보이지만 시스템이 삭제 이유를 구분하지 않는 방식으로 설계돼 세부 내역을 알 수 없었다고 22일 연합뉴스와의 통화에서 설명했다.
불쾌감을 유발해 삭제된 댓글 중 가장 비중이 큰 것은 중상 비방과 과도한 비판(84.1％)이었다. 환산해보면 한 달에 5만 건이 넘는 수준이다.
네이버 지식인(iN)과 비슷한 서비스인 야후 '지에부쿠로'(知惠袋·지혜가 뛰어난 사람)에서는 한달에 게시물 약 450만 건 중 약 30만 건이 삭제된 것으로 집계됐다.
야후가 게시물 삭제 수와 사유를 공표한 것은 이번이 처음이다.
sewonlee@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>