대선 앞둔 케냐 SNS서 테러·선동 영상 확산
SNS 회사 현지 성장세에도 콘텐츠 걸러내는 방식 한계
"한 직원은 모르는 언어 담당하기도"…케냐서 취약한 법망도 문제
(서울=연합뉴스) 김지연 기자 = 아프리카 케냐에서 소셜미디어(SNS) 회사가 빠른 성장세에도 테러, 혐오표현, 거짓정보 등이 담긴 영상 확산에는 충분히 대응하지 못하고 있다고 워싱턴포스트(WP)가 지난달 31일(현지시간) 보도했다.
보도에 따르면 케냐인 5명 중 1명꼴로 이용하는 페이스북에서는 처형 장면이 그대로 담긴 영상이 게재됐다가 삭제되는 등 현지 이용자들이 테러 영상에 무방비로 노출된다는 지적이 나온다.
6월 영국 전략대화연구소(ISD)는 이슬람 테러단체 얄샤바브와 이슬람국가(IS)와 연관된 최소 30개의 페이스북 페이지에서 암살, 자폭테러, 이슬람 군사훈련 등을 담은 영상이 올라왔고, 총 4만명가량이 이들 페이지를 팔로우하는 것으로 나타났다고 밝혔다.
현지에서 가장 많이 다운로드된 애플리케이션 중 하나로 꼽히는 숏폼동영상 플랫폼 틱톡에서는 혐오 표현과 선동이 활개 치고 있다는 우려가 제기된다.
6월 소프트웨어 비영리단체 모질라재단은 케냐의 틱톡 사용자들이 대선을 앞두고 모욕적이거나 폭력을 선동하는 가짜 뉴스를 시청하고 있다는 연구 결과를 발표했다. 구체적으로 틱톡 계정 33개에 연결된 130개 이상의 동영상에서 증오를 부추기는 표현, 조작된 이미지와 사운드, 정치적인 허위정보가 포함됐다.
ISD 연구진은 소셜미디어 회사가 인공지능(AI) 알고리즘과 사람을 통해 콘텐츠를 관리하고 있는데 이들 방법 모두 한계점이 있다고 지적했다.
AI의 경우 단어 '지하드'(jihad)를 '지.하.드'(j.i.h.a.d)로 바꾸는 등 알고리즘 감지를 교묘히 회피하는 방식을 사용하고, 언어와 문화 차이 때문에 인간 감시망도 벗어날 수 있다는 것이다.
케냐의 공용어는 영어와 스와힐리어지만, 실제 케냐인은 수십개의 부족 언어와 방언, 현지 속어도 사용한다. 더불어 같은 단어라도 중의적인 의미를 지닌 뉘앙스 차이를 조정팀이 인지하지 못할 가능성도 있다.
모질라재단 연구에 따르면 틱톡에 올라온 한 영상은 세제 광고를 흉내 내며 'madoadoa'를 제거할 수 있다는 설명이 나오는데, 이 단어는 스와힐리어로 '얼룩'이라는 뜻도 있지만 특정 부족을 가리키는 은어로도 사용된다. 영상은 과거에 선거를 치른 후 발생했던 충돌 장면을 포함시키면서 폭력을 선동하는 뜻으로 해석됐다. 이 보고서가 나온 뒤 틱톡은 해당 영상을 제거했다.
틱톡에서 영상 조정팀에서 일했던 한 내부고발자는 재직 당시 자신이 알지도 못하는 언어로 된 영상을 보고 회사 정책을 위반했는지 결정해야 했다고 털어놨다.
또 케냐에서는 소셜미디어에 올라온 유해 콘텐츠와 관련해 플랫폼 회사의 책임을 직접적으로 묻지 않기 때문에 회사들이 취약한 법망을 이용하면서 콘텐츠 관리 기준이 상대적으로 허술하다는 지적도 나온다.
한 케냐 변호사는 이를 회색지대(gray area)라고 표현하며 "혐오 표현을 말해도 케냐에서는 소셜미디어 회사가 콘텐츠 조정을 실시해야 한다는 법이 없다"고 말했다.
이런 상황은 테러리즘에 대응하는 현지 정부 노력과 이달 케냐 대통령 선거가 예정돼있는 국가 상황이 맞물려 실질적인 위협을 초래한다고 WP는 지적했다.
실제 2019년 1월 수도 나이로비의 상업단지에서는 알샤바브가 테러 공격을 감행해 21명이 사망했는데, 이는 페이스북 계정을 통해 계획된 것으로 이후 정부 조사 결과 드러나기도 했다.
케냐 기술·사회 분석가 난잘라 니아볼라는 SNS 회사들이 유해 콘텐츠에 대응하지 못하고 있는 상황에 대해 "노동과 이익을 최대한으로 뽑아내려는 의도적인 선택"이라며 "그들(소셜미디어 회사)은 주로 남반구 국가를 사회가 아닌 시장으로 보기 때문"이라고 비판했다.
kite@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
SNS 회사 현지 성장세에도 콘텐츠 걸러내는 방식 한계
"한 직원은 모르는 언어 담당하기도"…케냐서 취약한 법망도 문제
(서울=연합뉴스) 김지연 기자 = 아프리카 케냐에서 소셜미디어(SNS) 회사가 빠른 성장세에도 테러, 혐오표현, 거짓정보 등이 담긴 영상 확산에는 충분히 대응하지 못하고 있다고 워싱턴포스트(WP)가 지난달 31일(현지시간) 보도했다.
보도에 따르면 케냐인 5명 중 1명꼴로 이용하는 페이스북에서는 처형 장면이 그대로 담긴 영상이 게재됐다가 삭제되는 등 현지 이용자들이 테러 영상에 무방비로 노출된다는 지적이 나온다.
6월 영국 전략대화연구소(ISD)는 이슬람 테러단체 얄샤바브와 이슬람국가(IS)와 연관된 최소 30개의 페이스북 페이지에서 암살, 자폭테러, 이슬람 군사훈련 등을 담은 영상이 올라왔고, 총 4만명가량이 이들 페이지를 팔로우하는 것으로 나타났다고 밝혔다.
현지에서 가장 많이 다운로드된 애플리케이션 중 하나로 꼽히는 숏폼동영상 플랫폼 틱톡에서는 혐오 표현과 선동이 활개 치고 있다는 우려가 제기된다.
6월 소프트웨어 비영리단체 모질라재단은 케냐의 틱톡 사용자들이 대선을 앞두고 모욕적이거나 폭력을 선동하는 가짜 뉴스를 시청하고 있다는 연구 결과를 발표했다. 구체적으로 틱톡 계정 33개에 연결된 130개 이상의 동영상에서 증오를 부추기는 표현, 조작된 이미지와 사운드, 정치적인 허위정보가 포함됐다.
ISD 연구진은 소셜미디어 회사가 인공지능(AI) 알고리즘과 사람을 통해 콘텐츠를 관리하고 있는데 이들 방법 모두 한계점이 있다고 지적했다.
AI의 경우 단어 '지하드'(jihad)를 '지.하.드'(j.i.h.a.d)로 바꾸는 등 알고리즘 감지를 교묘히 회피하는 방식을 사용하고, 언어와 문화 차이 때문에 인간 감시망도 벗어날 수 있다는 것이다.
케냐의 공용어는 영어와 스와힐리어지만, 실제 케냐인은 수십개의 부족 언어와 방언, 현지 속어도 사용한다. 더불어 같은 단어라도 중의적인 의미를 지닌 뉘앙스 차이를 조정팀이 인지하지 못할 가능성도 있다.
모질라재단 연구에 따르면 틱톡에 올라온 한 영상은 세제 광고를 흉내 내며 'madoadoa'를 제거할 수 있다는 설명이 나오는데, 이 단어는 스와힐리어로 '얼룩'이라는 뜻도 있지만 특정 부족을 가리키는 은어로도 사용된다. 영상은 과거에 선거를 치른 후 발생했던 충돌 장면을 포함시키면서 폭력을 선동하는 뜻으로 해석됐다. 이 보고서가 나온 뒤 틱톡은 해당 영상을 제거했다.
틱톡에서 영상 조정팀에서 일했던 한 내부고발자는 재직 당시 자신이 알지도 못하는 언어로 된 영상을 보고 회사 정책을 위반했는지 결정해야 했다고 털어놨다.
또 케냐에서는 소셜미디어에 올라온 유해 콘텐츠와 관련해 플랫폼 회사의 책임을 직접적으로 묻지 않기 때문에 회사들이 취약한 법망을 이용하면서 콘텐츠 관리 기준이 상대적으로 허술하다는 지적도 나온다.
한 케냐 변호사는 이를 회색지대(gray area)라고 표현하며 "혐오 표현을 말해도 케냐에서는 소셜미디어 회사가 콘텐츠 조정을 실시해야 한다는 법이 없다"고 말했다.
이런 상황은 테러리즘에 대응하는 현지 정부 노력과 이달 케냐 대통령 선거가 예정돼있는 국가 상황이 맞물려 실질적인 위협을 초래한다고 WP는 지적했다.
실제 2019년 1월 수도 나이로비의 상업단지에서는 알샤바브가 테러 공격을 감행해 21명이 사망했는데, 이는 페이스북 계정을 통해 계획된 것으로 이후 정부 조사 결과 드러나기도 했다.
케냐 기술·사회 분석가 난잘라 니아볼라는 SNS 회사들이 유해 콘텐츠에 대응하지 못하고 있는 상황에 대해 "노동과 이익을 최대한으로 뽑아내려는 의도적인 선택"이라며 "그들(소셜미디어 회사)은 주로 남반구 국가를 사회가 아닌 시장으로 보기 때문"이라고 비판했다.
kite@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
