유네스코 "AI도 완벽하지 않아…윤리문제 생기면 재학습시켜야"

유네스코 "AI도 완벽하지 않아…윤리문제 생기면 재학습시켜야"
알레산드라 살라 유네스코 여성AI윤리플랫폼 공동의장 인터뷰



(밴쿠버=연합뉴스) 조승한 기자·한국과학기자협회 공동취재단 = "사람이 완벽하지 않아 실수하는 것처럼 인공지능(AI) 모델도 완벽하지 않습니다. AI 모델이 지향해야 하는 방향은 완벽이 아니라 유용성입니다. AI가 편향된 데이터를 학습해 윤리 문제를 초래한다면, AI 모델을 조정하고 재학습시키는 일이 기술의 혜택을 누리는 일입니다."
알레산드라 살라 유네스코 여성AI윤리플랫폼 공동의장은 캐나다 밴쿠버 컨벤션센터에서 열리는 '국제 컴퓨터 비전 및 패턴 인식 학회(CVPR) 2023' 개막을 이틀 앞둔 18일(현지시간) 인터뷰를 통해 'AI 윤리 문제 해법'을 이같이 제시했다.
살라 의장은 국제사회에서 AI 윤리 제정에 기여해 온 전문가다. 현재 유네스코와 국제 비영리기구 '위민 인 AI(Women In AI)'에서 각각 공동의장과 회장을 맡고 있으며 AI 분야 여성의 권익 신장 활동에 나서고 있다. 노키아 벨 연구소 AI 윤리 자문위원을 역임했고 현재 글로벌 기업 셔터스톡에서 AI·데이터사이언스 총괄책임을 맡고 있다.
그는 "AI 모델 개발에 무엇보다 중요한 요소는 다양성을 지닌 데이터 세트(데이터 집합체)를 수집하고 활용하는 것"이라며 "AI 모델이 편견에 치우치지 않도록 다양성과 글로벌 대표성을 가진 데이터를 학습시켜야 한다"고 강조했다.
살라 의장은 "과거 벨 연구소에서 일할 땐 AI를 활용한 제품 개발 주기가 5~10년이었다면 이젠 그 기간이 적게는 6개월로 줄었다"면서 "특히 '이미지 캡셔닝 AI'는 산업계 활용을 위해 근본적으로 매우 중요한 기술"이라고 말했다.
그는 현재 소속된 셔터스톡에서 LG AI연구원과 '캡셔닝 AI' 분야 협력을 주도하고 있다. 캡셔닝 AI는 사진·영상을 보고 해석한 뒤에 사람이 의사 소통에 사용하는 '자연어'로 처리하는 기술이다. AI에 사람의 '눈'과 '입'을 달아준다고 비유할 수 있다.
살라 의장에 따르면 캡셔닝 AI 활용 분야는 무궁무진하다. 예컨대 AI가 독거노인을 관찰하는 영상을 보고 인간에게 건강 상태를 보고하는 일이 가능해진다.
또 교육 분야에서 다양한 영상 학습을 요약하거나 중요한 부분을 강조하는 작업을 할 수 있으며 시각장애인에게는 이미지 캡셔닝과 음성을 결합해 '길 안내 비서'가 될 수도 있다.
살라 의장은 LG그룹과 셔터스톡의 협업 경쟁력에 대해선 "LG는 AI에 활용할 고품질 데이터 세트를 보유한 것"이라며 "LG는 AI 기반 혁신 제품을 시장에 출시하기 위해 진지한 투자를 진행 중이며 셔터스톡과 협업해 고품질 데이터를 확보해 경쟁력이 있다"고 했다.
살라 의장은 또 "유네스코에서 AI 윤리에 관한 권고를 마련하고 각국 정부와 대화를 나누고 있다"며 "한국이 내부적으로 마련한 AI 개발 윤리 지침은 한계가 있는 만큼 국제사회와 협력이 필요하다"고 조언했다.
shjo@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>