“우리 사회의 중요한 가치를 학습하고 인간을 보조해 생산성을 높일 수 있는 ‘인간만의 인공지능(AI)’을 만들어야 합니다.”
미국에 본사를 둔 기술 컨설팅 기업 ‘라이트하우스3’를 이끌고 있는 미아 샤단드 대표는 31일 서울 광장동 그랜드워커힐서울에서 열린 ‘글로벌인재포럼 2024’에서 차세대 AI 기술의 발전 방향성을 이같이 제시했다. 그는 ‘AI와 윤리, AI와 인류가 공존할 방향은 무엇인가’를 주제로 발표했다. 이날 세션에서 전문가들은 “인간이 AI 통제권을 소유하는 것을 전제로 공존을 논해야 한다”고 입을 모았다.
전문가들은 인간이 AI를 통해 고유의 능력을 보완하고 확장하는 방식으로 인간과 AI의 공존이 이뤄져야 한다고 강조했다. 장영하 영국 서식스대 과학기술정책연구소 교수는 “인간이 통제권을 잃으면 AI와 인간의 관계는 순응 또는 대립으로 전락한다”며 “AI로 무엇을 할 수 있는지 주체적으로 고민해야 인간은 AI 시대에도 존엄성을 지킬 것”이라고 짚었다.
신 교수는 “인간 자신이 스스로 생각해야 할 내용을 AI에 물어보고 결과만 취하는 방식이 보편화하면 결국 사유할 힘을 잃고 자신의 영역을 ‘외주화’하게 된다”며 “기술로서 AI에 끌려가지 말고 우리가 원하는 삶의 모습, 발전시키고 싶은 역량을 AI 기술 개발 단계에 주도적으로 반영하는 태도가 중요하다”고 말했다.
AI 기술력의 ‘부익부 빈익빈’ 현상이 심화하면 윤리적 침해로 이어질 수 있다는 지적도 제기됐다. 대니얼 시프 미국 퍼듀대 정치학과 교수는 “AI를 개발할 수 있을 정도로 기술력이 뛰어난 나라는 많지 않기에 AI를 통한 혜택은 부와 권력이 있는 일부 국가만 누릴 것”이라며 “기술력이 편중되면 이를 누리지 못하는 집단을 배제하는 차별적인 알고리즘이 개발되는 등 구조적 병폐가 나타날 수 있다”고 경고했다.
시프 교수는 AI 윤리와 알고리즘의 투명성을 논의할 글로벌 의사 결정 합의체가 필요하다고 제언했다. 그는 “유네스코가 194개 회원국 내 과학기술 전문가의 의견을 모아 ‘AI 윤리 권고’를 만든 것처럼 지구적 차원에서 올바른 AI가 무엇인지 토론할 장을 마련하고 주기적으로 논의해 결과물을 내놔야 한다”고 주장했다.
이소현 기자 y2eonlee@hankyung.com
관련뉴스