한국이 주도한 'AI 시대 인권규범' 첫 결의안, 유엔서 채택(종합)
AI 인권영향 평가, 차별·인권침해 방지 등 원칙 제시
韓, 인권규범 수용국에서 '신기술과 인권' 선도적 제안국으로
(제네바=연합뉴스) 안희 특파원 = 인공지능(AI)이 세계에 미칠 영향을 인권 보호라는 관점으로 조명하고 AI 시대를 살아갈 국제사회가 지킬 약속과 원칙을 정해놓은 첫 결의안이 우리나라 주도로 유엔에서 채택됐다.
유엔 인권이사회는 14일(현지시간) 유엔 제네바 사무소에서 제53차 정례회기 37차 회의를 열고 한국이 주축이 돼 제안한 '신기술과 인권' 결의안을 컨센서스(표결 없이 합의)로 채택했다.
결의안은 우리나라를 중심으로 오스트리아와 브라질, 덴마크, 모로코, 싱가포르 등이 핵심 제안국으로 참여했다. 여기에 영국과 프랑스, 독일, 칠레 등 인권이사회 주요 이사국을 포함해 호주와 캐나다, 스페인, 네덜란드, 태국 등 50여개국이 공동제안국이 돼 줬다.
이번 결의안은 2019년 유엔 인권이사회에서 처음 채택된 같은 명칭의 결의안에 2021년에 이어 올해까지 2차례 내용을 보강한 것이다. 3차례에 걸쳐 '신기술과 인권' 결의안을 작성하고 논의를 가다듬는 데 한국은 주도적 역할을 수행했다.
특히 이날 채택된 결의안은 국제사회에서 처음으로 AI 시대의 인권 원칙을 천명했다는 점에서 기존 2차례의 결의안 범위를 뛰어넘는 내용이다.
인터넷과 모바일 소통을 비롯해 디지털 기술이 사회 운영에 깊숙이 자리 잡은 상황에서 기술이 가져다준 혜택을 살리면서도 인권침해나 차별 등 부작용을 막기 위해 국제사회가 약속할 규범 원칙을 제시하는 게 '신기술과 인권' 결의안의 취지다.
여기에 사람처럼 묻고 답하는 생성형 AI인 챗GPT를 비롯한 각종 AI 기술이 발 빠르게 생활 영역에 침투한 상황에서 AI 기술의 인권적 함의를 따져보고 무분별한 활용이 초래할 부작용을 막기 위한 원칙을 세워두자는 뜻이 이번 결의안에 담겼다.
우리나라에서는 2020년 말 출시한 '딥러닝' 방식의 20대 여성 대학생 AI 챗봇 '이루다'가 여성이나 동성애, 장애인 등에 대한 혐오 메시지 또는 인종차별적 메시지를 전송한다는 문제가 식별되면서 출시 3주 만에 서비스가 중단된 사례가 있다.
전날 미국 연방거래위원회(FTC)는 챗GPT가 실존 인물에 대해 거짓되거나 깎아내리는 문장을 만들어 불만이 접수된 사례를 챗GPT 개발사인 오픈AI에 제출하라고 요구하고 챗GPT의 소비자보호법 위반 여부 조사에 착수하기도 했다.
이번 결의안은 AI 기술에 대한 ▲포괄적 접근 ▲인권 기반 접근 ▲ 각 이해관계자를 두루 고려한 접근을 3가지 대원칙으로 삼는다.
좁은 시각으로 AI를 바라보지 않고 사회 전반과 맞물려 고려하며, 인권에 초점을 두고 AI 기술을 다루되 특정 이해관계자의 입장에 쏠리지 않아야 한다는 것이다.
결의안에는 AI의 순기능과 부정적 측면이 모두 언급된다.
누구나 쉽게 정보에 접근할 수 있고 이전보다 건강·교육을 비롯한 각종 사회 서비스에 대한 진입장벽을 낮춰 성별이나 나이, 장애 유무, 소득 등에 따른 차별을 막아줄 수 있다는 점이 긍정적 기능으로 거론됐다.
반면 AI가 사생활 영역에 있는 정보를 추적하거나 임의로 사실과 유사한 허위 이미지를 합성할 가능성, 허위·편향 정보 유통이나 혐오 표현 등으로 사상·표현의 자유를 침해하고 차별·불평등을 강화할 우려도 있다고 결의안은 지적한다.
결의안은 국제사회가 지킬 세부 원칙들도 제시하고 있다.
AI 기술이 인권에 미칠 영향에 대한 책임 있는 평가가 필요하고, AI를 만들고 활용하는 전 과정에서 각종 차별과 인권침해로부터 보호해야 하며 AI 기술이 투명성과 설명 의무를 지녀야 한다는 내용이다.
AI가 정보를 수집·사용·삭제하는 과정이 국제인권법에 부합되게 이뤄지고 그에 대한 감시 체계가 필요하다는 내용도 원칙에 포함됐다.
이번 결의안은 세계 각국이 AI 기술을 놓고 저마다 벌이던 인권 관련 논의를 한 데 모아 합의된 큰 원칙을 제시했다는 의미를 지닌다.
이런 논의를 한국이 주도한 점도 주목된다.
그동안 우리나라가 서구 국가 중심으로 초석을 다졌던 국제 인권 규범을 수용해온 입장이었다면 다자외교 무대에서 '신기술과 인권'을 화두로 내걸고 논의를 선도한 우리나라의 노력이 시의성 있는 결실을 본 것이기 때문이다.
윤성덕 주제네바 한국대표부 대사는 "이번 결의는 유엔 인권이사회에서 AI와 인권에 관해 채택된 최초의 결의로 우리나라는 결의안 컨센서스 채택을 주도함으로써 AI 인권규범에 관련된 국제사회의 합의된 문안을 도출한 데 의미가 있다"면서 "이 결의를 통해 신기술 분야의 국제 논의를 주도해 나갈 것"이라고 말했다.
prayerahn@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
AI 인권영향 평가, 차별·인권침해 방지 등 원칙 제시
韓, 인권규범 수용국에서 '신기술과 인권' 선도적 제안국으로
(제네바=연합뉴스) 안희 특파원 = 인공지능(AI)이 세계에 미칠 영향을 인권 보호라는 관점으로 조명하고 AI 시대를 살아갈 국제사회가 지킬 약속과 원칙을 정해놓은 첫 결의안이 우리나라 주도로 유엔에서 채택됐다.
유엔 인권이사회는 14일(현지시간) 유엔 제네바 사무소에서 제53차 정례회기 37차 회의를 열고 한국이 주축이 돼 제안한 '신기술과 인권' 결의안을 컨센서스(표결 없이 합의)로 채택했다.
결의안은 우리나라를 중심으로 오스트리아와 브라질, 덴마크, 모로코, 싱가포르 등이 핵심 제안국으로 참여했다. 여기에 영국과 프랑스, 독일, 칠레 등 인권이사회 주요 이사국을 포함해 호주와 캐나다, 스페인, 네덜란드, 태국 등 50여개국이 공동제안국이 돼 줬다.
이번 결의안은 2019년 유엔 인권이사회에서 처음 채택된 같은 명칭의 결의안에 2021년에 이어 올해까지 2차례 내용을 보강한 것이다. 3차례에 걸쳐 '신기술과 인권' 결의안을 작성하고 논의를 가다듬는 데 한국은 주도적 역할을 수행했다.
특히 이날 채택된 결의안은 국제사회에서 처음으로 AI 시대의 인권 원칙을 천명했다는 점에서 기존 2차례의 결의안 범위를 뛰어넘는 내용이다.
인터넷과 모바일 소통을 비롯해 디지털 기술이 사회 운영에 깊숙이 자리 잡은 상황에서 기술이 가져다준 혜택을 살리면서도 인권침해나 차별 등 부작용을 막기 위해 국제사회가 약속할 규범 원칙을 제시하는 게 '신기술과 인권' 결의안의 취지다.
여기에 사람처럼 묻고 답하는 생성형 AI인 챗GPT를 비롯한 각종 AI 기술이 발 빠르게 생활 영역에 침투한 상황에서 AI 기술의 인권적 함의를 따져보고 무분별한 활용이 초래할 부작용을 막기 위한 원칙을 세워두자는 뜻이 이번 결의안에 담겼다.
우리나라에서는 2020년 말 출시한 '딥러닝' 방식의 20대 여성 대학생 AI 챗봇 '이루다'가 여성이나 동성애, 장애인 등에 대한 혐오 메시지 또는 인종차별적 메시지를 전송한다는 문제가 식별되면서 출시 3주 만에 서비스가 중단된 사례가 있다.
전날 미국 연방거래위원회(FTC)는 챗GPT가 실존 인물에 대해 거짓되거나 깎아내리는 문장을 만들어 불만이 접수된 사례를 챗GPT 개발사인 오픈AI에 제출하라고 요구하고 챗GPT의 소비자보호법 위반 여부 조사에 착수하기도 했다.
이번 결의안은 AI 기술에 대한 ▲포괄적 접근 ▲인권 기반 접근 ▲ 각 이해관계자를 두루 고려한 접근을 3가지 대원칙으로 삼는다.
좁은 시각으로 AI를 바라보지 않고 사회 전반과 맞물려 고려하며, 인권에 초점을 두고 AI 기술을 다루되 특정 이해관계자의 입장에 쏠리지 않아야 한다는 것이다.
결의안에는 AI의 순기능과 부정적 측면이 모두 언급된다.
누구나 쉽게 정보에 접근할 수 있고 이전보다 건강·교육을 비롯한 각종 사회 서비스에 대한 진입장벽을 낮춰 성별이나 나이, 장애 유무, 소득 등에 따른 차별을 막아줄 수 있다는 점이 긍정적 기능으로 거론됐다.
반면 AI가 사생활 영역에 있는 정보를 추적하거나 임의로 사실과 유사한 허위 이미지를 합성할 가능성, 허위·편향 정보 유통이나 혐오 표현 등으로 사상·표현의 자유를 침해하고 차별·불평등을 강화할 우려도 있다고 결의안은 지적한다.
결의안은 국제사회가 지킬 세부 원칙들도 제시하고 있다.
AI 기술이 인권에 미칠 영향에 대한 책임 있는 평가가 필요하고, AI를 만들고 활용하는 전 과정에서 각종 차별과 인권침해로부터 보호해야 하며 AI 기술이 투명성과 설명 의무를 지녀야 한다는 내용이다.
AI가 정보를 수집·사용·삭제하는 과정이 국제인권법에 부합되게 이뤄지고 그에 대한 감시 체계가 필요하다는 내용도 원칙에 포함됐다.
이번 결의안은 세계 각국이 AI 기술을 놓고 저마다 벌이던 인권 관련 논의를 한 데 모아 합의된 큰 원칙을 제시했다는 의미를 지닌다.
이런 논의를 한국이 주도한 점도 주목된다.
그동안 우리나라가 서구 국가 중심으로 초석을 다졌던 국제 인권 규범을 수용해온 입장이었다면 다자외교 무대에서 '신기술과 인권'을 화두로 내걸고 논의를 선도한 우리나라의 노력이 시의성 있는 결실을 본 것이기 때문이다.
윤성덕 주제네바 한국대표부 대사는 "이번 결의는 유엔 인권이사회에서 AI와 인권에 관해 채택된 최초의 결의로 우리나라는 결의안 컨센서스 채택을 주도함으로써 AI 인권규범에 관련된 국제사회의 합의된 문안을 도출한 데 의미가 있다"면서 "이 결의를 통해 신기술 분야의 국제 논의를 주도해 나갈 것"이라고 말했다.
prayerahn@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
