머스크 등 참여 'AI 개발 중단 촉구' 서한, 가짜서명 등 논란
시진핑 등 이름 검증 없이 올려…연구자 일부도 "의도 미심쩍다" 지적
(서울=연합뉴스) 유한주 기자 = 일론 머스크 테슬라 최고경영자(CEO)를 비롯한 세계적 정보기술(IT) 기업인과 전문가 다수가 최첨단 인공지능(AI) 시스템의 개발을 일시중단하자며 지난달 내놓은 공개서한이 논란에 휘말렸다.
서한에 담긴 서명 일부가 가짜로 드러난 데다, AI 개발의 위험성을 보여주는 근거로 인용한 논문들의 원저자들조차 과도한 주장이라며 비판 대열에 서면서다.
1일(현지시간) 영국 일간 가디언과 로이터 통신 등에 따르면 미국 비영리단체 '삶의 미래 연구소'(FLI) 주도로 작성돼 지난달 22일 공개된 이 서한에 이름을 올린 1천800여명의 서명 중 일부가 이후 '가짜'로 드러났다.
시진핑 중국 국가주석과 페이스북의 모기업 메타 측 수석 과학자 얀 르쿤 등 실제로는 서한 내용에 동의한 적이 없는 인물들의 이름이 올라가 있었다는 것이다.
특히, 르쿤의 경우 트위터를 통해 서한의 내용을 지지하지 않는다며 공개적으로 반대 입장을 밝혔다.
서한 발표에 앞서 서명자의 신원확인 등 검증이 충분히 이뤄지지 않은 탓에 이런 문제가 발생한 것으로 보인다고 가디언은 설명했다.
문제의 서한에는 '챗GPT' 개발사 오픈AI의 최신 거대언어모델(LLM)인 GPT-4를 능가하는 AI 시스템의 개발을 6개월간 중단할 것을 촉구하는 내용이 담겼다.
공동의 안전 협약을 통해 거대 AI가 초래할 수 있는 위험을 인류가 제어할 수 있을 때까지 AI 개발을 멈춰야 한다는 주장이다.
하지만, 해당 서한이 최첨단 AI의 위험성을 보이기 위해 인용한 논문과 연구자료의 원저자 일부는 FLI가 이러한 주장을 내놓은 의도가 미심쩍다고 지적했다.
전 구글 직원이자 현재 AI 연구 스타트업 '허깅페이스'에서 수석 윤리 과학자로 일하는 마거릿 미첼은 서한이 개발 중단 대상으로 지목한 'GPT-4를 능가하는 AI'가 구체적으로 무엇인지조차 명시되지 않았다고 말했다.
그는 "이 서한은 많은 수상쩍은 아이디어를 당연한 사실로 간주하면서, FLI 후원자에 이익이 될 우선순위와 AI 관련 이야기를 내세우고 있다"고 비판했다.
문제의 서한에 담긴 내용이 현실로 옮겨진다면 FLI의 주요 후원자인 머스크 재단 측이 상대적으로 이득을 볼 것이란 주장으로 보인다.
미첼 외에도 서한에 인용된 연구자료를 작성한 원저자 중 최소 3명이 AI 개발 일시중단에 반대하는 입장을 밝힌 상황이라고 로이터 통신은 전했다.
미국 코네티컷 대학의 시리 도리 하코헨 조교수는 AI는 인간 수준의 지능에 도달하지 않고도 기후변화, 핵전쟁 등 각종 위험을 충분히 악화할 수 있으며 이런 문제는 이미 현실화한 상황이라며, 이제와서 GPT-4를 뛰어넘는 AI 개발을 중단하는 건 큰 의미가 없다고 지적하기도 했다.
이러한 비판에 FLI 공동설립자 막스 테그마크는 "우리가 누군가를 인용한다고 그들이 서한을 지지한다거나 우리가 그들의 의견에 전적으로 동의한다는 건 아니다"라고 말했다.
그러면서 "일론 머스크가 경쟁을 늦추려 시도한다고 말하는 이들이 있는 건 정말로 웃기는 일이다. 이건 한 회사와 관련된 사안이 아니다"라면서 머스크는 서한 초안 작성에 관여하지 않았다고 밝혔다고 로이터는 덧붙였다.
hanju@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
시진핑 등 이름 검증 없이 올려…연구자 일부도 "의도 미심쩍다" 지적
(서울=연합뉴스) 유한주 기자 = 일론 머스크 테슬라 최고경영자(CEO)를 비롯한 세계적 정보기술(IT) 기업인과 전문가 다수가 최첨단 인공지능(AI) 시스템의 개발을 일시중단하자며 지난달 내놓은 공개서한이 논란에 휘말렸다.
서한에 담긴 서명 일부가 가짜로 드러난 데다, AI 개발의 위험성을 보여주는 근거로 인용한 논문들의 원저자들조차 과도한 주장이라며 비판 대열에 서면서다.
1일(현지시간) 영국 일간 가디언과 로이터 통신 등에 따르면 미국 비영리단체 '삶의 미래 연구소'(FLI) 주도로 작성돼 지난달 22일 공개된 이 서한에 이름을 올린 1천800여명의 서명 중 일부가 이후 '가짜'로 드러났다.
시진핑 중국 국가주석과 페이스북의 모기업 메타 측 수석 과학자 얀 르쿤 등 실제로는 서한 내용에 동의한 적이 없는 인물들의 이름이 올라가 있었다는 것이다.
특히, 르쿤의 경우 트위터를 통해 서한의 내용을 지지하지 않는다며 공개적으로 반대 입장을 밝혔다.
서한 발표에 앞서 서명자의 신원확인 등 검증이 충분히 이뤄지지 않은 탓에 이런 문제가 발생한 것으로 보인다고 가디언은 설명했다.
문제의 서한에는 '챗GPT' 개발사 오픈AI의 최신 거대언어모델(LLM)인 GPT-4를 능가하는 AI 시스템의 개발을 6개월간 중단할 것을 촉구하는 내용이 담겼다.
공동의 안전 협약을 통해 거대 AI가 초래할 수 있는 위험을 인류가 제어할 수 있을 때까지 AI 개발을 멈춰야 한다는 주장이다.
하지만, 해당 서한이 최첨단 AI의 위험성을 보이기 위해 인용한 논문과 연구자료의 원저자 일부는 FLI가 이러한 주장을 내놓은 의도가 미심쩍다고 지적했다.
전 구글 직원이자 현재 AI 연구 스타트업 '허깅페이스'에서 수석 윤리 과학자로 일하는 마거릿 미첼은 서한이 개발 중단 대상으로 지목한 'GPT-4를 능가하는 AI'가 구체적으로 무엇인지조차 명시되지 않았다고 말했다.
그는 "이 서한은 많은 수상쩍은 아이디어를 당연한 사실로 간주하면서, FLI 후원자에 이익이 될 우선순위와 AI 관련 이야기를 내세우고 있다"고 비판했다.
문제의 서한에 담긴 내용이 현실로 옮겨진다면 FLI의 주요 후원자인 머스크 재단 측이 상대적으로 이득을 볼 것이란 주장으로 보인다.
미첼 외에도 서한에 인용된 연구자료를 작성한 원저자 중 최소 3명이 AI 개발 일시중단에 반대하는 입장을 밝힌 상황이라고 로이터 통신은 전했다.
미국 코네티컷 대학의 시리 도리 하코헨 조교수는 AI는 인간 수준의 지능에 도달하지 않고도 기후변화, 핵전쟁 등 각종 위험을 충분히 악화할 수 있으며 이런 문제는 이미 현실화한 상황이라며, 이제와서 GPT-4를 뛰어넘는 AI 개발을 중단하는 건 큰 의미가 없다고 지적하기도 했다.
이러한 비판에 FLI 공동설립자 막스 테그마크는 "우리가 누군가를 인용한다고 그들이 서한을 지지한다거나 우리가 그들의 의견에 전적으로 동의한다는 건 아니다"라고 말했다.
그러면서 "일론 머스크가 경쟁을 늦추려 시도한다고 말하는 이들이 있는 건 정말로 웃기는 일이다. 이건 한 회사와 관련된 사안이 아니다"라면서 머스크는 서한 초안 작성에 관여하지 않았다고 밝혔다고 로이터는 덧붙였다.
hanju@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
관련뉴스
