"AI 안전장치 필요"…유엔서도 규제 한목소리

유엔이 출범 후 처음으로 인공지능(AI) 사용에 관한 결의안을 채택했다. AI를 악용해 이미지를 조작하는 딥페이크 범죄 등 부작용을 최소화하자는 의도다. AI 개발 속도가 예상보다 빨라 안전망을 도입해야 한다는 데 한목소리를 냈다.

21일(현지시간) 유엔은 미국 뉴욕 유엔본부에서 총회를 열고 AI 관련 결의안을 표결 없이 컨센서스(전원 동의)로 채택했다. 컨센서스는 별도 표결 없이 의장 제안에 반대하는 회원국이 없는 경우 전원 합의로 간주하는 의사결정 방식이다. 미국이 이번 결의를 주도했고, 결의안 작성에 120개국이 참여했다.

이번 결의안에는 AI의 안전한 사용에 관한 국제적인 합의가 시급하다는 내용이 담겼다. 유엔 회원국들은 결의안에서 AI 개발과 사용이 가속화하는 점을 인식하고, 안전하고 신뢰할 수 있는 AI 시스템에 관한 국제적인 합의를 이루는 게 시급하다는 점을 강조했다.

해당 결의안에는 “적절한 안전장치 없이 AI를 사용하거나 부적절 또는 악의적인 설계·개발·배포·사용은 안 된다”는 문구가 들어갔다. 선진국과 신흥국 간 디지털 격차를 좁혀야 한다는 내용도 포함된다. 신흥국도 AI 혜택을 누릴 수 있도록 국제사회가 도와야 한다는 지적이다. 최대 논쟁거리 중 하나인 AI의 군사적 사용에 관한 내용은 이번 결의안에서 제외됐다.

유엔이 AI 관련 결의안을 공식적으로 채택한 것은 이번이 처음이다. 유엔 결의는 국제법상 구속력은 없다. 다만 이번 결의가 만장일치로 채택됐다는 점을 감안하면 추후 AI 관련 규제를 도입하고 AI와 연관된 국제기구를 설립할 때 기반이 될 전망이다. 린다 토머스-그린필드 주유엔 미국 대사는 결의안 채택 후 “193개 회원국 모두가 한목소리로 AI가 우리(인류)를 지배하는 게 아니라 우리가 AI를 지배하기로 결정했다”며 “이는 획기적인 결의”라고 강조했다.

오현우 기자 ohw@hankyung.com