디스코드 정책담당 수석 "AI 기술로 청소년 성착취물 유통 방지"
청소년 헌장·보호자 가이드라인 제작 주도한 바달리치 디렉터
"아동 안전 관련 사건 당국에 보고…각국 수사기관 정보요청 협조"
(서울=연합뉴스) 김주환 기자 = 전 세계 게이머가 활발히 사용하는 메신저 앱 디스코드(Discord)의 정책 담당자가 "AI(인공지능) 기술을 활용해 청소년 성착취물과 유해 콘텐츠를 탐지해 차단하는 데 주력하고 있다"고 밝혔다.
디스코드에서 콘텐츠 및 청소년 안전 정책 전반을 총괄하는 사바나 바달리치 수석 정책 담당 디렉터는 2일 연합뉴스와 서면 인터뷰에서 이같이 밝혔다.
미국 샌프란시스코에 본사를 둔 디스코드는 전 세계 월간 활성 이용자(MAU)가 2억 명에 달하는 동명의 메신저 앱을 운영한다.
디스코드는 손쉽게 다른 사람과 음성 채팅을 시작하고, 다양한 주제의 커뮤니티를 관리할 수 있는 기능이 주목받으며 10대 청소년층과 20대∼30대 게이머를 중심으로 인기를 끌어왔다.
최근에는 넥슨, 크래프톤 같은 국내 대형 게임사들도 의견 수렴과 커뮤니티 형성을 위해 게임별로 공식 디스코드 채널을 운영하고 있다.
바달리치 디렉터는 "디스코드 이용자 90% 이상은 게이머로, 매달 수천 개의 다양한 게임 타이틀에 총 15억 시간 이상을 보내고 있다"고 말했다.
그러나 최근 디스코드는 이런 용도와 무관하게 성 착취물이나 불법 프로그램, 안보 침해 정보를 유통하는 통로로도 악용되기도 했다.
이와 관련해 바달리치 디렉터는 "2021년 AI 기반 필터링 기술 기업 센트로피(Sentropy)를 인수한 이래 유해 콘텐츠 차단 기술을 고도화해왔다"며 그 사례로 지난 5월 도입한 오토모드(Automod)를 소개했다.
오토모드는 기계 학습을 통해 유해한 콘텐츠나 악성코드 링크, 심각한 모욕성 발언 등을 걸러내고 커뮤니티 운영자의 사전 설정에 맞춰 이용자 제재를 자동으로 수행할 수 있도록 도와주는 도구다.
또 AI 모델과 이미지 식별·추적 도구 '포토DNA'를 통해 성 착취물 유통을 감시하고 각국 수사기관과 협력하고 있다고 밝혔다.
바달리치 디렉터는 "아동 안전과 관련한 모든 사건을 미국 실종학대아동방지센터(NCMEC)에 보고하고 있으며, 이용자의 개인정보와 권리를 존중하되 법 집행 기관의 정보 요청이 들어오면 협조한다"며 "긴급한 안전 위협의 경우 직접 사안을 수사기관에 보고하고 수사에도 적극 협력하고 있다"고 강조했다.
바달리치 디렉터는 디스코드가 이달 초 청소년 이용자의 안전한 이용을 위해 발표한 '청소년 헌장'과 '보호자를 위한 가이드' 제작을 주도했다.
그는 "작년 말부터 전 세계에서 운영한 청소년 대상 포커스 그룹과 미국·유럽 청소년 안전 전문 기관과 협력해 가이드라인을 만들었다"며 "특히 교사와 학부모가 디스코드의 기능에 대해 알고, 청소년의 긍정적인 온라인 행동을 위한 대화를 시작하는 데 주력하고 있다"고 말했다.
jujuk@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
청소년 헌장·보호자 가이드라인 제작 주도한 바달리치 디렉터
"아동 안전 관련 사건 당국에 보고…각국 수사기관 정보요청 협조"
(서울=연합뉴스) 김주환 기자 = 전 세계 게이머가 활발히 사용하는 메신저 앱 디스코드(Discord)의 정책 담당자가 "AI(인공지능) 기술을 활용해 청소년 성착취물과 유해 콘텐츠를 탐지해 차단하는 데 주력하고 있다"고 밝혔다.
디스코드에서 콘텐츠 및 청소년 안전 정책 전반을 총괄하는 사바나 바달리치 수석 정책 담당 디렉터는 2일 연합뉴스와 서면 인터뷰에서 이같이 밝혔다.
미국 샌프란시스코에 본사를 둔 디스코드는 전 세계 월간 활성 이용자(MAU)가 2억 명에 달하는 동명의 메신저 앱을 운영한다.
디스코드는 손쉽게 다른 사람과 음성 채팅을 시작하고, 다양한 주제의 커뮤니티를 관리할 수 있는 기능이 주목받으며 10대 청소년층과 20대∼30대 게이머를 중심으로 인기를 끌어왔다.
최근에는 넥슨, 크래프톤 같은 국내 대형 게임사들도 의견 수렴과 커뮤니티 형성을 위해 게임별로 공식 디스코드 채널을 운영하고 있다.
바달리치 디렉터는 "디스코드 이용자 90% 이상은 게이머로, 매달 수천 개의 다양한 게임 타이틀에 총 15억 시간 이상을 보내고 있다"고 말했다.
그러나 최근 디스코드는 이런 용도와 무관하게 성 착취물이나 불법 프로그램, 안보 침해 정보를 유통하는 통로로도 악용되기도 했다.
이와 관련해 바달리치 디렉터는 "2021년 AI 기반 필터링 기술 기업 센트로피(Sentropy)를 인수한 이래 유해 콘텐츠 차단 기술을 고도화해왔다"며 그 사례로 지난 5월 도입한 오토모드(Automod)를 소개했다.
오토모드는 기계 학습을 통해 유해한 콘텐츠나 악성코드 링크, 심각한 모욕성 발언 등을 걸러내고 커뮤니티 운영자의 사전 설정에 맞춰 이용자 제재를 자동으로 수행할 수 있도록 도와주는 도구다.
또 AI 모델과 이미지 식별·추적 도구 '포토DNA'를 통해 성 착취물 유통을 감시하고 각국 수사기관과 협력하고 있다고 밝혔다.
바달리치 디렉터는 "아동 안전과 관련한 모든 사건을 미국 실종학대아동방지센터(NCMEC)에 보고하고 있으며, 이용자의 개인정보와 권리를 존중하되 법 집행 기관의 정보 요청이 들어오면 협조한다"며 "긴급한 안전 위협의 경우 직접 사안을 수사기관에 보고하고 수사에도 적극 협력하고 있다"고 강조했다.
바달리치 디렉터는 디스코드가 이달 초 청소년 이용자의 안전한 이용을 위해 발표한 '청소년 헌장'과 '보호자를 위한 가이드' 제작을 주도했다.
그는 "작년 말부터 전 세계에서 운영한 청소년 대상 포커스 그룹과 미국·유럽 청소년 안전 전문 기관과 협력해 가이드라인을 만들었다"며 "특히 교사와 학부모가 디스코드의 기능에 대해 알고, 청소년의 긍정적인 온라인 행동을 위한 대화를 시작하는 데 주력하고 있다"고 말했다.
jujuk@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스
