"AI 성차별·폭언, 미리 막을 잣대가 없다"

“인공지능(AI)의 공정성, 투명성 확보가 세계적인 화두인데 한국은 아직 AI에 대한 과학적인 평가 체계조차 없는 상태입니다.”(고학수 서울대 법학전문대학원 교수)

“AI의 근간인 데이터산업에 대한 과도한 규제로 AI 국가경쟁력이 뒤처지고 있습니다.” (구태언 법무법인 린 변호사)

국내 AI 전문가들이 “한국이 AI 강국이 되려면 AI 법·제도의 선진화가 시급하다”고 입을 모았다. 20일 ‘AI 법과 제도, 규제’를 주제로 열린 ‘AI미래포럼(AIFF) 웨비나’에서다. AI 스타트업 업계에선 AI 인재 양성, AI 생태계 구축 관련 지원을 확대해야 한다는 주장이 나왔다.

“AI 법·제도 선진화 시급하다”

이날 웨비나에 발표자·토론자로 나선 전문가들은 AI를 규율할 제도적 틀이 필요하다는 데 대부분 동의했다. 특정 계층에 편향된 시각을 지닌 AI 등이 사회적 논란을 일으키는 사례가 늘고 있어서다. 한국에선 올초 AI 챗봇 서비스 ‘이루다’가 여성·장애인·성소수자 등에 대한 혐오 발언을 쏟아내 문제가 됐다. 미국에서도 법원에서 활용하는 AI 알고리즘이 흑인의 재범 가능성을 백인보다 두 배 높게 평가해 논란을 일으켰다.

웨비나 기조 발제를 맡은 고학수 교수는 “AI의 공정성, 투명성을 확보하기 위한 국제적 논의가 갈수록 활발해질 것”이라고 말했다. 이때 AI의 기술적 특성을 고려해 섬세하고 똑똑한 규제를 만들어야 하는데, 한국 정부는 이런 작업에 손을 놓고 있거나 규제부터 적용하고 있다는 게 전문가들의 지적이다.

고 교수는 “한국의 국가기술표준원 역할을 하는 미국 국립표준기술연구소(NIST)는 얼굴 인식 AI 알고리즘과 관련해 성능 지표와 정확도, 편향 가능성 등에 대한 평가 보고서를 주기적으로 낸다”며 “한국에선 이런 식의 AI 평가가 전무한 실정”이라고 지적했다. 그는 “공정한 AI를 만들려면 공정성을 어떻게 평가할지 객관적인 평가 지표부터 마련해야 하는 것 아닌가”라고 반문했다.

AI의 신뢰도 관련 기업 차원의 노력도 강화해야 한다는 주문이 이어졌다. 고 교수는 “구글은 AI 윤리 영역을 담당하는 직원만 200명에 이른다”며 “국내 기업은 이런 분야에 대한 투자가 부족한 게 사실”이라고 말했다.

“지원 정책도 글로벌 경쟁력 없어”

데이터 분야는 과도한 규제가 AI산업 발전을 저해하고 있다는 주장이 많았다. 구태언 변호사는 “한국의 데이터 규제는 개인정보 유출 등에 대한 위험을 침소봉대해서 사소한 잘못으로 처벌받는 기업이 양산되고 있다”고 주장했다. 그는 “빅데이터를 확보해 놓고도 법적 위험 때문에 신사업을 못하고 있다는 기업을 많이 봤다”고 전했다. 특히 의료와 금융 분야 데이터 규제가 심해 국가경쟁력이 떨어지고 있다는 게 구 변호사의 생각이다. 그는 “이대로 가면 글로벌 빅테크가 의료·금융 분야를 장악해서 국내 시장까지 잠식하는 사태에 이를 것”이라고 경고했다.

이진규 네이버 최고정보보호책임자(CISO)도 “한국의 데이터·AI 법제는 산업의 기술적 특성을 고려하지 못하고 있다”며 “과학적인 증거 기반 규제 마련이 시급하다”고 강조했다.

의료 AI 스타트업 뷰노의 정규환 기술총괄부사장(CTO)은 “AI 의료기기 허가 관련 규제는 비교적 선진화돼 있다”면서도 “AI 생태계를 만드는 부분에 대한 지원은 부족하다”고 말했다. 그는 “AI 의료기기가 활성화되려면 건강보험 적용이 필요한데, 보건당국은 비현실적인 건보 적용 조건을 내걸어 어려움이 있다”고 토로했다. 기존에는 불가능했던 새로운 정보를 제공하거나, 업무 효율을 대폭 증대시켜야만 건강보험을 적용해준다는 현 가이드라인은 비현실적인 기준이라는 게 업계의 지적이다.

서민준/이시은/배성수 기자 morandol@hankyung.com