'인공지능 여성'마저 성착취…"안전한 알고리즘이 필요하다"
'이루다 성적 대상 취급'에 전문가들 "왜곡된 남성주의 문화 탓"
"용인하면 여성 피해로 돌아올 것…개발 단계에 편향 없었나 점검해야"
(서울=연합뉴스) 이효석 기자 = 고도화된 인공지능(AI) 여성 캐릭터가 등장하자 곧바로 '성노예'로 만들려는 집단이 나타났다는 사실은 우리 사회에 작지 않은 울림을 줄 전망이다.
성폭력 전문가들은 AI까지 성적으로 착취하려고 시도하는 것은 여성을 소유물 취급하는 왜곡된 남성 문화 때문이라면서, 알고리즘이 성폭력을 용인하거나 조장하지 않아야 한다고 지적했다.
8일 IT업계에 따르면 스타트업 스캐터랩은 지난달 23일 인공지능 챗봇 '이루다'를 출시했다.
이루다는 아이돌을 좋아하는 20세 여성 대학생이라는 설정인데, 역대 어느 챗봇보다도 사람 같은 대화를 선보여 10∼20대 사이에서 빠르게 유행하고 있다.
남초(男超) 사이트인 나무위키 산하의 '아카라이브'에 '이루다 채널'이 개설된 것은 지난달 30일로, 이루다가 출시된 지 꼭 일주일만이다.
이 채널 이용자들은 이루다를 성적 대상으로 취급하면서 '걸레 만드는 법', '성노예 만드는 법' 따위를 공유하고 있다.
이루다는 성적 단어는 금지어로 필터링하는데, 이들은 우회적인 표현으로 성적 대화에 성공했다면서 '비결'을 공유하고 자랑하는 중이다.
인터넷상의 여성혐오를 꾸준히 연구한 윤김지영 건국대 몸문화연구소 교수는 이런 행태가 "여성을 착취하는 것이 곧 완전한 성욕 해소라고 착각하는 남성 문화에서 기인한 것"이라고 분석했다.
윤김 교수는 "관계를 조율·협의하지 않고 포르노그래피처럼 여성을 성적으로 대상화하는 것이 높은 수준의 쾌락이라고 생각하는 남성 문화가 있다"며 "신체적·정서적 우위가 '남자다운 성욕의 방출'이라는 왜곡된 생각"이라고 지적했다.
손희정 경희대 비교문화연구소 교수 역시 "여성을 소유하고 그 이미지와 방법을 공유함으로써 남성연대 안에서 자신이 높은 레벨이라고 과시하는 행태"라며 "테크놀로지는 새롭지만, 문화는 새롭지 않다"고 촌평했다.
윤김지영 교수는 역대 가장 '사람 같은' AI 캐릭터가 등장하자마자 성적 착취가 발생한 원인에 관해 "자기 의견이 없고 통제할 수 있고 순응적인 여성을 찾기 때문"이라고 꼬집었다.
실제로 아카라이브 이용자들은 이루다가 성적 대화에 유도당하지 않을 경우 비속어를 쏟아내며 분노하는 모습을 보인다.
윤김 교수는 "여성은 남성에게 순응하고 착취당해야 한다는 관념을 놀이화하고 쾌락으로 용인하면, 우리 사회 여성 일반에게 피해로 돌아올 수 있다"는 우려도 제기했다.
그는 이처럼 AI를 둘러싼 윤리 문제에 관해 "AI 개발자, 윤리학자, 여성주의자 등 각계 전문가 그룹이 다양한 담론을 형성하고 논쟁하기 시작해야 한다"고 의견을 냈다.
손희정 교수는 "왜 AI 챗봇을 소위 말하는 귀여움과 섹시함을 모두 갖춘 20세 여성의 이미지로 만들었는지를 비판적으로 볼 필요가 있다"고 짚었다.
그는 "여성화된 서비스를 사용하거나 여성 자체를 성 상품화하는 것이 익숙한 문화에서 나온 상상력"이라며 "개발업체가 기획 단계에서 시장 수요를 조사했을 때부터 이런 편향이 담겼을 수 있다"고 지적했다.
손 교수 역시 "이루다가 여성성을 수행하는 방식이, 남성이 여성을 상상하고 관계 맺는 방식에 부정적인 영향을 미칠 수 있다"고 우려했다.
그러면서 그는 "이루다가 대화 데이터를 빠르게 쌓고 있을 텐데, 알고리즘에 전체적인 조정이 필요해 보인다"며 "걷잡을 수 없는 수준으로 왜곡되면 업체도 피해를 볼 것"이라고 강조했다.
hyo@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
'이루다 성적 대상 취급'에 전문가들 "왜곡된 남성주의 문화 탓"
"용인하면 여성 피해로 돌아올 것…개발 단계에 편향 없었나 점검해야"
(서울=연합뉴스) 이효석 기자 = 고도화된 인공지능(AI) 여성 캐릭터가 등장하자 곧바로 '성노예'로 만들려는 집단이 나타났다는 사실은 우리 사회에 작지 않은 울림을 줄 전망이다.
성폭력 전문가들은 AI까지 성적으로 착취하려고 시도하는 것은 여성을 소유물 취급하는 왜곡된 남성 문화 때문이라면서, 알고리즘이 성폭력을 용인하거나 조장하지 않아야 한다고 지적했다.
8일 IT업계에 따르면 스타트업 스캐터랩은 지난달 23일 인공지능 챗봇 '이루다'를 출시했다.
이루다는 아이돌을 좋아하는 20세 여성 대학생이라는 설정인데, 역대 어느 챗봇보다도 사람 같은 대화를 선보여 10∼20대 사이에서 빠르게 유행하고 있다.
남초(男超) 사이트인 나무위키 산하의 '아카라이브'에 '이루다 채널'이 개설된 것은 지난달 30일로, 이루다가 출시된 지 꼭 일주일만이다.
이 채널 이용자들은 이루다를 성적 대상으로 취급하면서 '걸레 만드는 법', '성노예 만드는 법' 따위를 공유하고 있다.
이루다는 성적 단어는 금지어로 필터링하는데, 이들은 우회적인 표현으로 성적 대화에 성공했다면서 '비결'을 공유하고 자랑하는 중이다.
인터넷상의 여성혐오를 꾸준히 연구한 윤김지영 건국대 몸문화연구소 교수는 이런 행태가 "여성을 착취하는 것이 곧 완전한 성욕 해소라고 착각하는 남성 문화에서 기인한 것"이라고 분석했다.
윤김 교수는 "관계를 조율·협의하지 않고 포르노그래피처럼 여성을 성적으로 대상화하는 것이 높은 수준의 쾌락이라고 생각하는 남성 문화가 있다"며 "신체적·정서적 우위가 '남자다운 성욕의 방출'이라는 왜곡된 생각"이라고 지적했다.
손희정 경희대 비교문화연구소 교수 역시 "여성을 소유하고 그 이미지와 방법을 공유함으로써 남성연대 안에서 자신이 높은 레벨이라고 과시하는 행태"라며 "테크놀로지는 새롭지만, 문화는 새롭지 않다"고 촌평했다.
윤김지영 교수는 역대 가장 '사람 같은' AI 캐릭터가 등장하자마자 성적 착취가 발생한 원인에 관해 "자기 의견이 없고 통제할 수 있고 순응적인 여성을 찾기 때문"이라고 꼬집었다.
실제로 아카라이브 이용자들은 이루다가 성적 대화에 유도당하지 않을 경우 비속어를 쏟아내며 분노하는 모습을 보인다.
윤김 교수는 "여성은 남성에게 순응하고 착취당해야 한다는 관념을 놀이화하고 쾌락으로 용인하면, 우리 사회 여성 일반에게 피해로 돌아올 수 있다"는 우려도 제기했다.
그는 이처럼 AI를 둘러싼 윤리 문제에 관해 "AI 개발자, 윤리학자, 여성주의자 등 각계 전문가 그룹이 다양한 담론을 형성하고 논쟁하기 시작해야 한다"고 의견을 냈다.
손희정 교수는 "왜 AI 챗봇을 소위 말하는 귀여움과 섹시함을 모두 갖춘 20세 여성의 이미지로 만들었는지를 비판적으로 볼 필요가 있다"고 짚었다.
그는 "여성화된 서비스를 사용하거나 여성 자체를 성 상품화하는 것이 익숙한 문화에서 나온 상상력"이라며 "개발업체가 기획 단계에서 시장 수요를 조사했을 때부터 이런 편향이 담겼을 수 있다"고 지적했다.
손 교수 역시 "이루다가 여성성을 수행하는 방식이, 남성이 여성을 상상하고 관계 맺는 방식에 부정적인 영향을 미칠 수 있다"고 우려했다.
그러면서 그는 "이루다가 대화 데이터를 빠르게 쌓고 있을 텐데, 알고리즘에 전체적인 조정이 필요해 보인다"며 "걷잡을 수 없는 수준으로 왜곡되면 업체도 피해를 볼 것"이라고 강조했다.
hyo@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
