공정한 빅데이터?…불평등 강화하는 '대량살상무기'일수도
알고리즘 역습 비판한 미국 수학자의 신간 '대량살상수학무기' 출간
(서울=연합뉴스) 정아란 기자 = 바야흐로 빅데이터 전성시대다. 빅데이터는 사람 마음을 읽어내고 사회 흐름을 파악하며 미래를 내다보는 도구로 각광받는다.
그 바탕에는 방대한 양의 데이터를 알고리즘으로 계산해 질서와 규칙을 찾아내는 빅데이터 분석이 인간 판단보다 더 중립적이고 공정하리라는 믿음이 깔렸다.
이렇게 환대받는 빅데이터에 미국 수학자 캐시 오닐은 '대량살상수학무기'(Weapons of Math Destruction.WMD)라는 다소 섬뜩한 별칭을 붙여줬다.
빅데이터 모형 중 일부는 교묘하게 불평등을 강화하고 차별을 조장하며, 나아가 민주주의를 위협한다는 점에서다.
저자의 신간 '대량살상수학무기'(흐름출판 펴냄)에 따르면 빅데이터 핵심인 수학 모형의 알고리즘은 이를 설계하는 인간의 편견이나 오해, 편향성을 코드화하고 있을 가능성이 크다.
미국 스타트업 제스트파이낸스는 신청자 1인당 최대 1만 개 데이터를 수집·분석한 결과를 바탕으로 단기소액대출을 제공한다.
회사가 수집하는 개인별 데이터 중에는 대출 신청서에 기재한 내용이 얼마나 맞춤법에 맞는지, 신청서 작성에 얼마의 시간이 걸렸는지 등이 있다.
'규칙을 준수하는 사람이 신용도가 높다'는 판단을 항목화한 것이지만, 교육 수준이 낮은 저소득층이나 이민자들을 겨냥한 차별을 코드화한 것이라는 게 저자의 지적이다.
책은 정치, 교육, 노동, 서비스, 행정, 보험, 광고 등 광범위한 분야에서 작동하는 WMD의 공통된 특징으로 불투명성, 확장성, 피해의 악순환 등 3가지를 꼽는다.
복잡한 알고리즘에 숨겨진 평가 기준은 개발자를 제외하고는 누구도 이해하기 어렵다(불투명성). 그 때문에 납득할 수 없는 결과가 나와도 이의를 제기하기 어렵다.
2007년 한국계 미셸 리의 교육감 기용으로 국내에서도 주목받았던 에이드리언 펜티 미국 워싱턴 D.C. 시장의 '시스템' 기반 교육 개혁은 2년간 206명의 교사를 쫓아냈다.
그중에는 사라 와이사키처럼 동료와 학부모들에게 절대적인 지지를 받았던 우수 교사도 있었다.
수십, 수백만 명을 분석하기 위해 대규모로 운영되면서 차별적 판단을 널리 퍼뜨리는 확장성도 WMD의 폭력적인 단면이다.
국내에도 잘 알려진 미국 '유에스뉴스 앤드 월드 리포트'의 대학 순위는 WMD가 야기하는 피해의 악순환을 보여주는 사례다.
조사에서 낮은 순위를 받은 대학은 우수한 학생·교수의 지원과 기부금이 줄면서 다음 해 순위가 더 하락하는 악순환을 겪는다.
책은 "이류 주간지가 판매 부수의 폭발적인 증가를 기대하고 시작한" '유에스뉴스' 모형이 대학들의 데이터 조작, 교육컨설팅 산업의 과도한 팽창 등을 부추겨 교육 생태계 전체를 좀먹는다고 신랄하게 비판한다.
저자가 빅데이터 자체를 매도하는 것은 아니다.
프린스턴대 '웹 투명성 및 책임성 프로젝트'처럼 WMD를 감시·통제하는 노력, 공익적이고 선한 모형의 개발 등이 함께한다면 빅데이터는 얼마든지 인류의 삶에 유용한 도구가 될 수 있다.
책은 저자의 이력과 맞물려 더 흥미롭게 읽힌다.
2008년 세계를 덮친 금융위기는 대학 종신 교수직도 그만두고 유수 헤지펀드 금융분석가로 활약하던 저자의 삶도 바꿔놓았다.
"모든 문제가 마법의 공식을 휘두르던 수학자들의 원조와 사주로 발생한 재앙이었다. 내가 그토록 사랑했던 수학의 놀라운 능력들은 금융기술과 결탁해 혼란과 불행을 가중하는 독이 됐다."
저자는 현재 월가점거운동의 하위조직인 대안금융그룹을 이끌면서, 알고리즘을 감사하고 위험성을 측정하는 기업인 ORCAA도 운영하고 있다.
원제 Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy.
김경혜 옮김. 392쪽. 1만6천 원.
airan@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
알고리즘 역습 비판한 미국 수학자의 신간 '대량살상수학무기' 출간
(서울=연합뉴스) 정아란 기자 = 바야흐로 빅데이터 전성시대다. 빅데이터는 사람 마음을 읽어내고 사회 흐름을 파악하며 미래를 내다보는 도구로 각광받는다.
그 바탕에는 방대한 양의 데이터를 알고리즘으로 계산해 질서와 규칙을 찾아내는 빅데이터 분석이 인간 판단보다 더 중립적이고 공정하리라는 믿음이 깔렸다.
이렇게 환대받는 빅데이터에 미국 수학자 캐시 오닐은 '대량살상수학무기'(Weapons of Math Destruction.WMD)라는 다소 섬뜩한 별칭을 붙여줬다.
빅데이터 모형 중 일부는 교묘하게 불평등을 강화하고 차별을 조장하며, 나아가 민주주의를 위협한다는 점에서다.
저자의 신간 '대량살상수학무기'(흐름출판 펴냄)에 따르면 빅데이터 핵심인 수학 모형의 알고리즘은 이를 설계하는 인간의 편견이나 오해, 편향성을 코드화하고 있을 가능성이 크다.
미국 스타트업 제스트파이낸스는 신청자 1인당 최대 1만 개 데이터를 수집·분석한 결과를 바탕으로 단기소액대출을 제공한다.
회사가 수집하는 개인별 데이터 중에는 대출 신청서에 기재한 내용이 얼마나 맞춤법에 맞는지, 신청서 작성에 얼마의 시간이 걸렸는지 등이 있다.
'규칙을 준수하는 사람이 신용도가 높다'는 판단을 항목화한 것이지만, 교육 수준이 낮은 저소득층이나 이민자들을 겨냥한 차별을 코드화한 것이라는 게 저자의 지적이다.
책은 정치, 교육, 노동, 서비스, 행정, 보험, 광고 등 광범위한 분야에서 작동하는 WMD의 공통된 특징으로 불투명성, 확장성, 피해의 악순환 등 3가지를 꼽는다.
복잡한 알고리즘에 숨겨진 평가 기준은 개발자를 제외하고는 누구도 이해하기 어렵다(불투명성). 그 때문에 납득할 수 없는 결과가 나와도 이의를 제기하기 어렵다.
2007년 한국계 미셸 리의 교육감 기용으로 국내에서도 주목받았던 에이드리언 펜티 미국 워싱턴 D.C. 시장의 '시스템' 기반 교육 개혁은 2년간 206명의 교사를 쫓아냈다.
그중에는 사라 와이사키처럼 동료와 학부모들에게 절대적인 지지를 받았던 우수 교사도 있었다.
수십, 수백만 명을 분석하기 위해 대규모로 운영되면서 차별적 판단을 널리 퍼뜨리는 확장성도 WMD의 폭력적인 단면이다.
국내에도 잘 알려진 미국 '유에스뉴스 앤드 월드 리포트'의 대학 순위는 WMD가 야기하는 피해의 악순환을 보여주는 사례다.
조사에서 낮은 순위를 받은 대학은 우수한 학생·교수의 지원과 기부금이 줄면서 다음 해 순위가 더 하락하는 악순환을 겪는다.
책은 "이류 주간지가 판매 부수의 폭발적인 증가를 기대하고 시작한" '유에스뉴스' 모형이 대학들의 데이터 조작, 교육컨설팅 산업의 과도한 팽창 등을 부추겨 교육 생태계 전체를 좀먹는다고 신랄하게 비판한다.
저자가 빅데이터 자체를 매도하는 것은 아니다.
프린스턴대 '웹 투명성 및 책임성 프로젝트'처럼 WMD를 감시·통제하는 노력, 공익적이고 선한 모형의 개발 등이 함께한다면 빅데이터는 얼마든지 인류의 삶에 유용한 도구가 될 수 있다.
책은 저자의 이력과 맞물려 더 흥미롭게 읽힌다.
2008년 세계를 덮친 금융위기는 대학 종신 교수직도 그만두고 유수 헤지펀드 금융분석가로 활약하던 저자의 삶도 바꿔놓았다.
"모든 문제가 마법의 공식을 휘두르던 수학자들의 원조와 사주로 발생한 재앙이었다. 내가 그토록 사랑했던 수학의 놀라운 능력들은 금융기술과 결탁해 혼란과 불행을 가중하는 독이 됐다."
저자는 현재 월가점거운동의 하위조직인 대안금융그룹을 이끌면서, 알고리즘을 감사하고 위험성을 측정하는 기업인 ORCAA도 운영하고 있다.
원제 Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy.
김경혜 옮김. 392쪽. 1만6천 원.
airan@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
