"살 빠졌네!" 칭찬일까…페이스북 "듣기에 따라 괴롭힘일 수도"
AI와 인력이 게시물 맥락 따져서 '따돌림·괴롭힘' 여부 판별
AI 사전 조치율 증가…"가짜뉴스에는 정확한 정보 함께 노출"
(서울=연합뉴스) 이효석 기자 = "살 많이 빠졌네. 미모가 빛이 난다."
외모를 칭찬하는 말도 '괴롭힘'(harassment)이 될 수 있을까.
세계적으로 가장 영향력이 큰 소셜미디어(SNS) 페이스북과 인스타그램은 그렇다고 본다.
페이스북은 12일 오전 국내 취재진 대상으로 페이스북 커뮤니티 규정 온라인 브리핑을 열었다. 페이스북 커뮤니티 규정의 업데이트 내용을 설명하는 연례행사다.
브리핑을 진행한 유동연 페이스북 아시아태평양(APAC) 콘텐츠 정책팀 매니저는 업로드된 게시물이 누군가를 따돌리거나 괴롭히는 게시물인지 판가름하는 방법에 관해 가장 신경 쓰고 있다고 설명했다.
그는 "맥락과 의도를 파악하는 것이 중요하다"면서 "긍정적인 게시물 같아도 게시물에 거론된 사람이 직접 신고하면 '괴롭힘'으로 간주하기도 한다"고 말했다.
유 매니저는 오빠 또는 언니가 여동생의 신체 사진을 올리면서 '내 동생의 빛나는 몸매, 살 많이 빠졌네'라거나 '내 동생의 빛나는 미모'라는 게시물을 올린 경우를 예로 들었다.
그는 "이렇게 사진을 올려도, 동생이 신고하면 게시물이 내려가게 된다"고 말했다.
게시자는 칭찬이라고 생각해도 그 대상이 괴롭힘이라고 여기면 게시자의 의도와 관계없이 제재 대상이 된다는 설명이다.
페이스북은 이런 따돌림·괴롭힘 판별에 인공지능(AI) 기술도 적용하고 있다.
박상현 페이스북 커뮤니케이션팀 이사는 "따돌림·괴롭힘인지 모호한 게시물일 경우 AI가 사람(휴먼 리뷰어)에게 전송한다"며 "누군가를 칭찬하는 게시물 같아도 부정적인 코멘트가 달리면 따돌림일 수 있다고 보고 사람에게 보낸다"고 말했다.
다만, 따돌림·괴롭힘인지 판별하려면 대화의 맥락을 잘 살펴야 하므로 아직은 인력이 필요한 상황이다.
올해 4∼6월 게시물 유형별로 AI의 사전 조치율을 봤을 때 혐오 발언은 94.5%, 아동 성착취 및 성적 학대 이미지는 99.3%를 AI가 사전 조치한 반면, 따돌림·괴롭힘 게시물의 조치율은 13.3%에 그쳤다.
박 이사는 "AI가 현재 공부하는 단계라 아직 부족하지만, 맥락과 국가별 문화에 대한 이해가 늘어나면 훨씬 좋은 서비스를 제공하게 될 것"이라고 말했다.
페이스북은 혐오 발언의 경우 사전 조치율이 올해 1분기 89%에서 2분기 95%로 늘어났고, 조치를 취한 콘텐츠 양도 960만건에서 2천250만건으로 늘어났다고 밝혔다.
인스타그램에서는 혐오 발언 감지율이 1분기 45%에서 2분기 84%로 증가했다.
한편 페이스북·인스타그램은 앞으로 '바디 포지티브'(body positive·자기 몸 긍정주의)를 독려하는 게시물은 선정적인 게시물로 보지 않기로 했다.
바디 포지티브란 몸이 말라야 아름답다고 보는 과거 시각에서 벗어나서 자신의 몸매를 긍정하자는 운동이다. 신체적 능력, 크기, 성별, 인종, 외모와 관계없이 모든 신체를 동등하게 존중하자는 운동이기도 하다.
바디 포지티브 운동가 중에는 신체 상당 부분을 노출한 사진을 올리는 경우가 있는데, 페이스북·인스타그램은 그동안에는 이를 노출 게시물로 분류하기도 했으나 앞으로는 제재하지 않기로 했다.
또 페이스북은 경찰의 무력 진압이 등장하는 사진·영상을 그동안 미성년자에게 노출하지 않았으나, 앞으로는 사회적 경각심 등을 위해 미성년자에게도 이런 콘텐츠를 허용하기로 했다.
유 매니저는 "페이스북은 커뮤니티 안전을 위해 2017년보다 3배 많은 3만5천명을 투입하고 있다"며 "'규정은 돌에 새겨진 것이 아니다'라는 생각으로 사회적 변화에 맞게 규정을 계속 업데이트하고 있다"고 강조했다.
박 이사는 "'가짜 뉴스'로 보이는 게시물에는 '정확하지 않은 정보일 수 있다'고 명시하거나 정확한 언론 소스를 함께 노출하고 있다"며 "선거 때는 훨씬 엄격하고 정교한 방법을 도입하고 있다"고 덧붙였다.
hyo@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
AI와 인력이 게시물 맥락 따져서 '따돌림·괴롭힘' 여부 판별
AI 사전 조치율 증가…"가짜뉴스에는 정확한 정보 함께 노출"
(서울=연합뉴스) 이효석 기자 = "살 많이 빠졌네. 미모가 빛이 난다."
외모를 칭찬하는 말도 '괴롭힘'(harassment)이 될 수 있을까.
세계적으로 가장 영향력이 큰 소셜미디어(SNS) 페이스북과 인스타그램은 그렇다고 본다.
페이스북은 12일 오전 국내 취재진 대상으로 페이스북 커뮤니티 규정 온라인 브리핑을 열었다. 페이스북 커뮤니티 규정의 업데이트 내용을 설명하는 연례행사다.
브리핑을 진행한 유동연 페이스북 아시아태평양(APAC) 콘텐츠 정책팀 매니저는 업로드된 게시물이 누군가를 따돌리거나 괴롭히는 게시물인지 판가름하는 방법에 관해 가장 신경 쓰고 있다고 설명했다.
그는 "맥락과 의도를 파악하는 것이 중요하다"면서 "긍정적인 게시물 같아도 게시물에 거론된 사람이 직접 신고하면 '괴롭힘'으로 간주하기도 한다"고 말했다.
유 매니저는 오빠 또는 언니가 여동생의 신체 사진을 올리면서 '내 동생의 빛나는 몸매, 살 많이 빠졌네'라거나 '내 동생의 빛나는 미모'라는 게시물을 올린 경우를 예로 들었다.
그는 "이렇게 사진을 올려도, 동생이 신고하면 게시물이 내려가게 된다"고 말했다.
게시자는 칭찬이라고 생각해도 그 대상이 괴롭힘이라고 여기면 게시자의 의도와 관계없이 제재 대상이 된다는 설명이다.
페이스북은 이런 따돌림·괴롭힘 판별에 인공지능(AI) 기술도 적용하고 있다.
박상현 페이스북 커뮤니케이션팀 이사는 "따돌림·괴롭힘인지 모호한 게시물일 경우 AI가 사람(휴먼 리뷰어)에게 전송한다"며 "누군가를 칭찬하는 게시물 같아도 부정적인 코멘트가 달리면 따돌림일 수 있다고 보고 사람에게 보낸다"고 말했다.
다만, 따돌림·괴롭힘인지 판별하려면 대화의 맥락을 잘 살펴야 하므로 아직은 인력이 필요한 상황이다.
올해 4∼6월 게시물 유형별로 AI의 사전 조치율을 봤을 때 혐오 발언은 94.5%, 아동 성착취 및 성적 학대 이미지는 99.3%를 AI가 사전 조치한 반면, 따돌림·괴롭힘 게시물의 조치율은 13.3%에 그쳤다.
박 이사는 "AI가 현재 공부하는 단계라 아직 부족하지만, 맥락과 국가별 문화에 대한 이해가 늘어나면 훨씬 좋은 서비스를 제공하게 될 것"이라고 말했다.
페이스북은 혐오 발언의 경우 사전 조치율이 올해 1분기 89%에서 2분기 95%로 늘어났고, 조치를 취한 콘텐츠 양도 960만건에서 2천250만건으로 늘어났다고 밝혔다.
인스타그램에서는 혐오 발언 감지율이 1분기 45%에서 2분기 84%로 증가했다.
한편 페이스북·인스타그램은 앞으로 '바디 포지티브'(body positive·자기 몸 긍정주의)를 독려하는 게시물은 선정적인 게시물로 보지 않기로 했다.
바디 포지티브란 몸이 말라야 아름답다고 보는 과거 시각에서 벗어나서 자신의 몸매를 긍정하자는 운동이다. 신체적 능력, 크기, 성별, 인종, 외모와 관계없이 모든 신체를 동등하게 존중하자는 운동이기도 하다.
바디 포지티브 운동가 중에는 신체 상당 부분을 노출한 사진을 올리는 경우가 있는데, 페이스북·인스타그램은 그동안에는 이를 노출 게시물로 분류하기도 했으나 앞으로는 제재하지 않기로 했다.
또 페이스북은 경찰의 무력 진압이 등장하는 사진·영상을 그동안 미성년자에게 노출하지 않았으나, 앞으로는 사회적 경각심 등을 위해 미성년자에게도 이런 콘텐츠를 허용하기로 했다.
유 매니저는 "페이스북은 커뮤니티 안전을 위해 2017년보다 3배 많은 3만5천명을 투입하고 있다"며 "'규정은 돌에 새겨진 것이 아니다'라는 생각으로 사회적 변화에 맞게 규정을 계속 업데이트하고 있다"고 강조했다.
박 이사는 "'가짜 뉴스'로 보이는 게시물에는 '정확하지 않은 정보일 수 있다'고 명시하거나 정확한 언론 소스를 함께 노출하고 있다"며 "선거 때는 훨씬 엄격하고 정교한 방법을 도입하고 있다"고 덧붙였다.
hyo@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
