[연합시론] 'AI윤리·개인정보 보호' 숙제로 남긴 '이루다' 챗봇 논란
(서울=연합뉴스) 소수자에 대한 혐오와 차별 발언에 이어 개인 정보 유출 의혹까지 불거진 인공지능(AI) 챗봇 '이루다'가 서비스를 멈췄으나 파문은 오히려 커질 조짐이다. 개발사인 스캐터랩은 11일 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다"면서 서비스를 잠정 중단한 뒤 문제점을 보완하겠다고 발표했다. 그런데 이번에는 이루다를 개발하기 위해 카카오톡 대화를 수집하는 과정에서 직원들끼리 성적 대화를 재미 삼아 돌려보는 등 부적절한 행위가 있었다는 증언이 나왔다. 스캐터랩의 전 직원은 12일 연합뉴스 인터뷰에서 한 개발자가 50여 명이 참여하는 채팅방에 이런 대화 캡처를 공유했고, 'ㅋㅋ' 라는 표현까지 썼다고 밝혔다. 개인정보 침해 의혹의 정황이 더욱 짙어지면서 이용자들의 집단 소송 가능성이 더욱 커졌다.
개발사는 이 회사의 또 다른 앱 '연애의 과학'을 통해 수집한 카카오톡 대화를 활용해 지난달 페이스북 메신저 기반의 챗봇 이루다를 출시했다. 연애의 과학은 이용자가 연인이나 호감이 가는 사람과 나눈 카톡 대화를 집어넣고 수천 원을 결제하면 대화 패턴을 분석해 대화 상대방과의 애정도 수치를 보여주는 앱이다. 스무 살의 여대생으로 설정된 이루다는 무려 100억 건에 이르는 대화 데이터를 딥러닝으로 학습했다. 문제는 이루다가 성차별적 고정관념이나 동성애자·장애인·흑인 등 사회적 소수자에 대한 혐오와 차별까지 무차별적으로 배웠다는 것이다. 출시 2주 만에 약 75만 명에 이른 이용자들과의 채팅에서 이런 부적절한 표현이 걸러지지 않은 채 고스란히 쏟아졌다. 이용자 대부분은 10대라고 한다. 일부 이용자의 악의적인 성희롱 행태도 나타났다. 인류 발전에 큰 도움을 줄 것으로 기대했던 AI가 오히려 미래 세대를 상대로 혐오·차별·편견과 같은 폐습을 확대 재생산한 꼴이다. 돈을 주기는커녕 오히려 받고 수집한 개인정보를 무단으로 이용한 것이 아니냐는 지적도 나왔다. 개발사는 개인정보 취급 방침 범위 내에서 활용했고 비식별화·익명화를 강화해 개인을 특정할 수 있는 정보는 유출하지 않았다고 해명했으나 이용자들에게 대화 내용이 어디에 사용될 것인지를 고지하고, 명시적인 동의를 받는 등의 절차를 충분히 이행했는지 의문이다. 더구나 카톡 대화 상대방의 경우에는 대부분 자신의 대화 내용이 이 회사로 넘어갔는지조차 몰랐을 것이다. 또 이루다가 대화 중에 사람 이름과 같은 고유 명사를 말하는 경우도 있었다고 하니 익명화 역시 부실했던 것 같다.
이번 사태는 4차 산업혁명의 대표 주자로 평가받는 AI의 윤리에 관한 고민과 숙제를 우리 사회에 던졌다. 데이터는 '21세기의 원유'나 '미래 산업의 쌀'이라고 불리지만 오염된 데이터가 별도의 정화 과정 없이 AI로 유입될 경우 어떤 일이 벌어지는지 잘 보여주는 사례이다. 인류가 AI 로봇의 지배를 받는 공상과학 영화 속의 디스토피아는 결코 기우가 아니다. 이미 AI 면접이 현실화했고, AI 판사나 AI 의사가 등장할 날도 멀지 않았다. 대통령 직속 4차산업혁명위원회는 지난달 '사람이 중심이 되는 AI 윤리기준'을 발표하면서 인간의 존엄성, 사회의 공공선, 기술의 합목적성 등 3대 원칙을 권고했다. 또 꼭 1년 전인 지난해 1월 데이터 3법(개인정보보호법·신용정보법·정보통신망법)의 국회 통과 당시 국가인권위원회는 기본적 인권으로서 개인정보 권리의 중요성을 간과해서는 안 된다고 경고한 바 있다. 정부는 미래의 먹거리인 AI나 빅데이터 산업의 지속가능한 발전을 위해서라도 차제에 전문가들의 의견과 현장의 목소리를 수렴해 AI의 도덕성 제고 방안, 데이터 3법 후속 대책 등 관련 산업 발전 과정의 부작용을 최소화할 수 있는 구체적인 실행 계획을 조속히 마련해주기를 바란다.
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
(서울=연합뉴스) 소수자에 대한 혐오와 차별 발언에 이어 개인 정보 유출 의혹까지 불거진 인공지능(AI) 챗봇 '이루다'가 서비스를 멈췄으나 파문은 오히려 커질 조짐이다. 개발사인 스캐터랩은 11일 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다"면서 서비스를 잠정 중단한 뒤 문제점을 보완하겠다고 발표했다. 그런데 이번에는 이루다를 개발하기 위해 카카오톡 대화를 수집하는 과정에서 직원들끼리 성적 대화를 재미 삼아 돌려보는 등 부적절한 행위가 있었다는 증언이 나왔다. 스캐터랩의 전 직원은 12일 연합뉴스 인터뷰에서 한 개발자가 50여 명이 참여하는 채팅방에 이런 대화 캡처를 공유했고, 'ㅋㅋ' 라는 표현까지 썼다고 밝혔다. 개인정보 침해 의혹의 정황이 더욱 짙어지면서 이용자들의 집단 소송 가능성이 더욱 커졌다.
개발사는 이 회사의 또 다른 앱 '연애의 과학'을 통해 수집한 카카오톡 대화를 활용해 지난달 페이스북 메신저 기반의 챗봇 이루다를 출시했다. 연애의 과학은 이용자가 연인이나 호감이 가는 사람과 나눈 카톡 대화를 집어넣고 수천 원을 결제하면 대화 패턴을 분석해 대화 상대방과의 애정도 수치를 보여주는 앱이다. 스무 살의 여대생으로 설정된 이루다는 무려 100억 건에 이르는 대화 데이터를 딥러닝으로 학습했다. 문제는 이루다가 성차별적 고정관념이나 동성애자·장애인·흑인 등 사회적 소수자에 대한 혐오와 차별까지 무차별적으로 배웠다는 것이다. 출시 2주 만에 약 75만 명에 이른 이용자들과의 채팅에서 이런 부적절한 표현이 걸러지지 않은 채 고스란히 쏟아졌다. 이용자 대부분은 10대라고 한다. 일부 이용자의 악의적인 성희롱 행태도 나타났다. 인류 발전에 큰 도움을 줄 것으로 기대했던 AI가 오히려 미래 세대를 상대로 혐오·차별·편견과 같은 폐습을 확대 재생산한 꼴이다. 돈을 주기는커녕 오히려 받고 수집한 개인정보를 무단으로 이용한 것이 아니냐는 지적도 나왔다. 개발사는 개인정보 취급 방침 범위 내에서 활용했고 비식별화·익명화를 강화해 개인을 특정할 수 있는 정보는 유출하지 않았다고 해명했으나 이용자들에게 대화 내용이 어디에 사용될 것인지를 고지하고, 명시적인 동의를 받는 등의 절차를 충분히 이행했는지 의문이다. 더구나 카톡 대화 상대방의 경우에는 대부분 자신의 대화 내용이 이 회사로 넘어갔는지조차 몰랐을 것이다. 또 이루다가 대화 중에 사람 이름과 같은 고유 명사를 말하는 경우도 있었다고 하니 익명화 역시 부실했던 것 같다.
이번 사태는 4차 산업혁명의 대표 주자로 평가받는 AI의 윤리에 관한 고민과 숙제를 우리 사회에 던졌다. 데이터는 '21세기의 원유'나 '미래 산업의 쌀'이라고 불리지만 오염된 데이터가 별도의 정화 과정 없이 AI로 유입될 경우 어떤 일이 벌어지는지 잘 보여주는 사례이다. 인류가 AI 로봇의 지배를 받는 공상과학 영화 속의 디스토피아는 결코 기우가 아니다. 이미 AI 면접이 현실화했고, AI 판사나 AI 의사가 등장할 날도 멀지 않았다. 대통령 직속 4차산업혁명위원회는 지난달 '사람이 중심이 되는 AI 윤리기준'을 발표하면서 인간의 존엄성, 사회의 공공선, 기술의 합목적성 등 3대 원칙을 권고했다. 또 꼭 1년 전인 지난해 1월 데이터 3법(개인정보보호법·신용정보법·정보통신망법)의 국회 통과 당시 국가인권위원회는 기본적 인권으로서 개인정보 권리의 중요성을 간과해서는 안 된다고 경고한 바 있다. 정부는 미래의 먹거리인 AI나 빅데이터 산업의 지속가능한 발전을 위해서라도 차제에 전문가들의 의견과 현장의 목소리를 수렴해 AI의 도덕성 제고 방안, 데이터 3법 후속 대책 등 관련 산업 발전 과정의 부작용을 최소화할 수 있는 구체적인 실행 계획을 조속히 마련해주기를 바란다.
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
