네이버가 알고리즘 조작 논란으로 신뢰성이 흔들리고 있다. 최근 쇼핑·동영상 서비스 검색결과 조작으로 공정거래위원회로부터 제재 결정을 받아든 가운데 일부 전문가들은 뉴스 서비스에서도 알고리즘 개입 정황이 있다고 주장하고 있어 파장이 예상된다.
반면 네이버는 뉴스 알고리즘 조작은 사실이 아니라는 입장이다. 공정위 제재에 대해서도 악의적 지적이라며 항소하겠다고 밝혔다.
"'과징금 267억' 뉴스토픽에서 네이버 주어 빠져"
9일 지윤성 링크브릭스 대표는 한경닷컴과 인터뷰에서 네이버의 뉴스 검색 조작에 대해 "개입의 여지가 있다고 본다"고 밝혔다. 지 대표는 "기본적으로 알고리즘 설계는 사람이 하는 것으로 공정성을 갖추기 어렵다"며 "물리적으로 조작이 가능하다"고 말했다.지윤성 대표는 최근 네이버에서 뉴스토픽 조작 정황이 발견됐다고 언급했다. 뉴스토픽은 매일 일정한 시간대 언론사에서 보도한 기사 제목 가운데 높은 빈도로 언급된 키워드를 집계해 보여주는 서비스다.
지 대표는 "네이버가 공정위로부터 검색 조작 행위를 이유로 267억원의 과징금을 부과받았다는 소식이 전해진 당시 뉴스토픽에는 '네이버' 주어가 빠진 채 '과징금 267억'이라고만 노출됐는데, 이튿날에는 갑자기 '네이버' 주어가 생겼다"며 "이해할 수 없는 부분"이라고 주장했다. 네이버가 자사에 불리한 뉴스 키워드를 배제하고 의도적으로 알고리즘을 조정했을 가능성을 제기한 것이다.
업계에서는 네이버가 쇼핑·동영상 외 뉴스 등 다른 영역에서의 조작 가능성에 대해 의심의 눈초리를 거두지 못하고 있다.
네이버를 조사한 공정위에서도 뉴스 조작 가능성이 물리적으로 가능한 구조라고 판단했다. 조성욱 공정거래위원장은 지난 8일 국회 정무위원회 공정위 국정감사 현장에서 "네이버의 알고리즘 조정이나 변경이 다른 분야에서도 가능할 것으로 본다"고 했다. 그는 "네이버가 자사 서비스가 있는 경우 그 분야의 알고리즘 조정·변경이 가능할 수 있다는 의미로, 가능성을 말한 것"이라고 덧붙였다.
네이버는 뉴스토픽 조작은 사실이 아니라는 입장이다. 네이버 관계자는 "뉴스토픽에서 네이버 주어가 빠지고 '과징금 267억'만 나온 이유는 당시 포털 뉴스 기사 제목에서 네이버가 함께 노출되지 않았기 때문"이라며 "추후에 네이버 주어가 등장한 것은 오후 지면용 기사들이 나오면서 과징금과 함께 회사명이 같이 언급된 영향으로 보인다"고 설명했다.
네이버는 뉴스 조작 가능성에 대해서 부인하고 있다. 이미 뉴스 편집 배열을 100% 인공지능(AI) 기반의 에어스(AiRS) 시스템으로 하고 있어 사람의 인위적 개입은 있을 수 없다고 주장하고 있다.
네이버는 쇼핑·동영상에 대한 공정위 제재 발표 이후 낸 입장문에서 "공정위가 충분한 검토와 고민 없이 사업자의 사업활동을 본질적으로 침해하는 결정을 내린 것에 대해 매우 유감"이라며 "공정위 결정에 불복해 법원에서 그 부당함을 다툴 예정"이라고 밝혔다.
전문가들 "AI 알고리즘 공정성·신뢰성 갖추기 어려워"
전문가들은 AI 알고리즘이 공정성과 신뢰성을 완전히 갖추기는 어렵다고 보고 있다. 알고리즘 자체를 사람이 설계하기 때문에 '인간의 편견'이 개입될 여지가 있는 데다 포털사가 외부 전문가들로부터 알고리즘을 검증받더라도 필요에 의해 수시로 변경이 가능해 사실상 이를 잡아내기 어렵다는 것이다.이원태 정보통신정책연구원 연구위원은 2016년 '유럽연합(EU)의 알고리즘 규제 이슈와 정책적 시사점' 보고서에서 "알고리즘이 내리는 의사결정에는 우선순위 결정, 분류, 관련짓기, 필터링이라는 과정이 존재하는데, 이 과정에서 인간 개입에 따른 오류와 편향성, 검열의 가능성 등이 있어 본질적으로 차별적인 성격을 내포하고 있다"며 "알고리즘은 정의된 명령에 따라서만 작동하는 것이 아니라 이용하는 사람과의 상호작용 속에서 끊임없이 수정되므로 인간(소프트웨어 개발자)의 편견이나 선입견이 반영될 가능성이 있다"고 밝혔다.
이원태 연구원은 "특히 알고리즘은 과거로부터 쌓여온 데이터를 학습하면서 인종차별, 성차별 등 역사적 편향성을 반영할 가능성이 매우 높다"며 "구글이나 페이스북의 추천 및 검색 알고리즘이 정치적으로 편향된 여론 형성을 초래할 수도 있다는 우려가 있다"고 지적한 바 있다.
서울대 전기정보공학부 교수 출신인 최기영 과학기술정보통신부 장관도 지난 7일 국회에서 열린 과학기술정보방송통신위원회 국정감사에서 "알고리즘을 편향되게 하는 건 쉽게 가능하지만, 중립적으로 만드는 것은 굉장히 어려운 일"이라고 언급했다.
업계에서는 편향된 알고리즘을 방지하기 위해 가이드라인 제정이 필요하다고 주장하고 있다. 지윤성 대표는 "미국 같은 경우 알고리즘 공정성, 중립성에 대한 기관이나 학교, 연구 단체가 많은데 우리의 경우 논의의 기초 단계 수준에 머물러 있다"며 "AI 알고리즘에 대한 사회적 합의 기구가 만들어져야 한다"고 조언했다.
조아라 한경닷컴 기자 rrang123@hankyung.com
관련뉴스
